php 抓取网页内容( 【知乎专栏】多个高级进阶干货需要的几个资料)

　　php 抓取网页内容(

【知乎专栏】多个高级进阶干货需要的几个资料)

　　/**

* 递归下载抓取首页及其子页面图片的方法 ( recursive 递归)

*

* @param String $capture_url 用于抓取图片的网址

*

*/

public function recursive_download_images($capture_url)

{

if (!in_array($capture_url,self::$a_url_arr)) //没抓取过

{

self::$a_url_arr[]=$capture_url; //计入静态数组

} else //抓取过,直接退出函数

{

return;

}

$this->download_current_page_images($capture_url); //下载当前页面的所有图片

//用@屏蔽掉因为抓取地址无法读取导致的warning错误

$content=@file_get_contents($capture_url);

//匹配a标签href属性中?之前部分的正则

$a_pattern = "|]+href=['\" ]?([^ '\"?]+)['\" >]|U";

preg_match_all($a_pattern, $content, $a_out, PREG_SET_ORDER);

$tmp_arr=array(); //定义一个数组,用于存放当前循环下抓取图片的超链接地址

foreach ($a_out as $k => $v)

{

/**

* 去除超链接中的 空'','#','/'和重复值

* 1: 超链接地址的值 不能等于当前抓取页面的url, 否则会陷入死循环

* 2: 超链接为''或'#','/'也是本页面,这样也会陷入死循环,

* 3: 有时一个超连接地址在一个网页中会重复出现多次,如果不去除,会对一个子页面进行重复下载)

*/

if ( $v[1] && !in_array($v[1],self::$a_url_arr) &&!in_array($v[1],array('#','/',$capture_url) ) )

{

$tmp_arr[]=$v[1];

}

}

foreach ($tmp_arr as $k => $v)

{

//超链接路径地址

if ( strpos($v, 'http://')!==false ) //如果url包含http://,可以直接访问

{

$a_url = $v;

}else //否则证明是相对地址, 需要重新拼凑超链接的访问地址

{

$domain_url = substr($capture_url, 0,strpos($capture_url, '/',8)+1);

$a_url=$domain_url.$v;

}

$this->recursive_download_images($a_url);

}

}

　　下载所有当前页面

　　/**

* 下载当前网页下的所有图片

*

* @param String $capture_url 用于抓取图片的网页地址

* @return Array 当前网页上所有图片img标签url地址的一个数组

*/

public function download_current_page_images($capture_url)

{

$content=@file_get_contents($capture_url); //屏蔽warning错误

//匹配img标签src属性中?之前部分的正则

$img_pattern = "|]+src=['\" ]?([^ '\"?]+)['\" >]|U";

preg_match_all($img_pattern, $content, $img_out, PREG_SET_ORDER);

$photo_num = count($img_out);

//匹配到的图片数量

echo ''.$capture_url . "共找到 " . $photo_num . " 张图片";

foreach ($img_out as $k => $v)

{

$this->save_one_img($capture_url,$v[1]);

}

}

　　保存图片

　　来看一个完整的函数类，直接保存，引用。

<p>