php抓取网页snoopy(Snoopy的一些特点:1抓取网页的文本内容())

优采云 发布时间: 2022-03-25 16:26

  php抓取网页snoopy(Snoopy的一些特点:1抓取网页的文本内容())

  下载地址:

  史努比的一些特点:

  1 爬取网页内容fetch

  2 获取网页的文本内容(去除HTML标签)fetchtext

  3 获取网页链接,form fetchlinks fetchform

  4 支持代理主机

  5 支持基本的用户名/密码认证

  6支持设置user_agent、referer(返回)、cookies和header内容(头文件)

  7支持浏览器重定向,可以控制重定向深度

  8 可以将网页中的链接扩展成高质量的url(默认)

  9提交数据并获取返回值

  10 支持跟踪 HTML 帧

  11支持重定向时传递cookie

  需要php4以上就够了。既然是php的一个类,就不需要扩展支持了。服务器不支持curl时的最佳选择,

  类方法:

  获取($URI)

  ———–

  这是用于抓取网页内容的方法。

  $URI参数是被抓取网页的URL地址。

  获取的结果存储在 $this->results 中。

  如果你正在抓取一个帧,Snoopy 将跟踪每个帧并将其存储在一个数组中,然后 $this->results。

  获取文本($URI)

  ——————

  该方法与fetch()类似,唯一不同的是该方法会去除HTML标签等无关数据,只返回网页中的文本内容。

  fetchform($URI)

  ——————

  该方法与fetch()类似,唯一不同的是该方法会去除HTML标签等无关数据,只返回网页中的表单内容(form)。

  获取链接($URI)

  ——————-

  该方法与fetch()类似,唯一不同的是该方法会去除HTML标签等无关数据,只返回网页中的链接。

  默认情况下,相对链接将自动完成并转换为完整的 URL。

  提交($URI,$formvars)

  —————————-

  此方法向 $URL 指定的链接地址发送确认表单。 $formvars 是一个存储表单参数的数组。

  提交文本($URI,$formvars)

  —————————–

  该方法与submit()类似,唯一不同的是该方法会去除HTML标签等无关数据,登录后只返回网页的文本内容。

  提交链接($URI)

  ——————-

  该方法与submit()类似,唯一不同的是该方法会去除HTML标签等无关数据,只返回网页中的链接。

  默认情况下,相对链接将自动完成并转换为完整的 URL。

  类属性:(括号内为默认值)

  $host 要连接的主机

  $port 连接端口

  $proxy_host 使用的代理主机,如果有的话

  $proxy_port 使用的代理主机端口,如果有的话

  $agent 用户代理伪装(史努比 v0.1)

  $referer 信息,如果有的话

  $cookies cookie,如果有的话

  $rawheaders 额外的标题,如果有的话

  $maxredirs 最大重定向次数,0=不允许(5)

  $offsiteok 是否允许异地重定向。 (真)

  $expandlinks 是否将所有链接作为完整地址完成(true)

  $user 认证用户名,如果有的话

  $pass 验证用户名,如果有的话

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线