php curl抓取网页内容(抓ajax异步内容页面和抓普通的页面区别。 )

　　php curl抓取网页内容(抓ajax异步内容页面和抓普通的页面区别。

)

　　其实捕获ajax异步内容页面和普通页面的区别不大。 Ajax只是一个异步的http请求，只要你使用firebug之类的工具找到请求的后端服务url和value传递的参数，然后抓取url传递的参数即可。

　　使用 firebug 的网络工具

　　如果页面被抓取，内容中没有显示的数据就是一堆js代码。

　　代码

$cookie_file=tempnam('./temp','cookie');

$ch = curl_init();

$url1 = "http://www.cdut.edu.cn/default.html";

curl_setopt($ch,curlopt_url,$url1);

curl_setopt($ch,curlopt_http_version,curl_http_version_1_1);

curl_setopt($ch,curlopt_header,0);

curl_setopt($ch,curlopt_returntransfer,1);

curl_setopt($ch,curlopt_followlocation,1);

curl_setopt($ch, curlopt_encoding ,'gzip'); //加入gzip解析

//设置连接结束后保存cookie信息的文件

curl_setopt($ch,curlopt_cookiejar,$cookie_file);

$content=curl_exec($ch);

curl_close($ch);

$ch3 = curl_init();

$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalajax.getnewsxml.dwr";

$curlpost = "callcount=1&page=/xww/type/1000020118.html&httpsessionid=12a9b726e6a2d4d3b09de7952b2f282c&scriptsessionid=295315b4b4141b09da888d3a3adb8faa658&c0-scriptname=portalajax&c0-methodname=getnewsxml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchid=0";

curl_setopt($ch3,curlopt_url,$url3);

curl_setopt($ch3,curlopt_post,1);

curl_setopt($ch3,curlopt_postfields,$curlpost);

//设置连接结束后保存cookie信息的文件

curl_setopt($ch3,curlopt_cookiefile,$cookie_file);

$content1=curl_exec($ch3);

curl_close($ch3);