php网页抓取乱码(有时候用file_get_contents()函数抓取网页会发生乱码现象)

　　php网页抓取乱码(有时候用file_get_contents()函数抓取网页会发生乱码现象)

　　有时使用file_get_contents()函数获取网页会导致乱码。出现乱码的原因有两个，一是编码问题，二是目标页面开启了Gzip。

　　编码问题好处理，把抓到的内容转为编码即可($content=iconv("GBK", "UTF-8//IGNORE", $content);)，我们这里讨论的就是Crawl带有 Gzip 的页面已打开。如何判断？ Content-Encoding: 获取到的header中的gzip表示内容采用GZIP压缩。用 FireBug 查看它以了解页面上是否启用了 gzip。下面是用firebug查看我博客的header信息，Gzip是打开的。

请求头信息原始头信息

Accept text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8

Accept-Encoding gzip, deflate

Accept-Language zh-cn,zh;q=0.8,en-us;q=0.5,en;q=0.3

Connection keep-alive

Cookie __utma=225240837.787252530.1317310581.1335406161.1335411401.1537; __utmz=225240837.1326850415.887.3.utmcsr=google|utmccn=(organic)|utmcmd=organic|utmctr=%E4%BB%BB%E4%BD%95%E9%A1%B9%E7%9B%AE%E9%83%BD%E4%B8%8D%E4%BC%9A%E9%82%A3%E4%B9%88%E7%AE%80%E5%8D%95%20site%3Awww.bkjia.com; PHPSESSID=888mj4425p8s0m7s0frre3ovc7; __utmc=225240837; __utmb=225240837.1.10.1335411401

Host www.bkjia.com

User-Agent Mozilla/5.0 (Windows NT 5.1; rv:12.0) Gecko/20100101 Firefox/12.0

　　以下是一些解决方案：

　　1. 使用内置的 zlib 库

　　如果服务器已经安装了zlib库，下面的代码可以轻松解决乱码问题。

$data = file_get_contents("compress.zlib://".$url);

　　2. 使用 CURL 代替 file_get_contents

function curl_get($url, $gzip=false){

$curl = curl_init($url);

curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($curl, CURLOPT_CONNECTTIMEOUT, 10);

if($gzip) curl_setopt($curl, CURLOPT_ENCODING, "gzip"); // 关键在这里

$content = curl_exec($curl);

curl_close($curl);

return $content;

}

　　3.使用gzip解压功能

　　使用：

$html=file_get_contents('http://www.bkjia.com/librarys/veda/');

$html=gzdecode($html);

　　介绍一下这三个方法，应该可以解决大部分gzip导致的爬行乱码问题。

　　TrueTechArticle 有时会使用 file_get_contents() 函数来抓取网页并出现乱码。出现乱码的原因有两个，一是编码问题，二是目标页面开启了Gzip。很好的编码问题...