php curl抓取网页数据(phpcurl抓取网页数据,你需要知道数据的源,也就是源头在哪?)

优采云 发布时间: 2021-12-26 10:08

  php curl抓取网页数据(phpcurl抓取网页数据,你需要知道数据的源,也就是源头在哪?)

  phpcurl抓取网页数据,

  你需要知道数据的源,也就是源头在哪?思路上:1对象字段?先抓取源头2数据字段?对ajax抓取,curl可以一步解决。3字段量化,按条件查询各自字段,源头抓取到了,数据库也有了,调用api就可以了。

  自己写一个curlbot

  java抓取php自己写一个

  java?freebsd?为什么要抓取,库都是网上找的,抓取整站的不现实,

  php+ajax抓取请求结果

  java吗?freebsd?

  phpweb

  php

  java抓取ajax网页,请求后台数据库,转api写回。也可以用网页浏览器抓取。

  h5的抓取方法估计比较多了。

  直接抓本地api服务就行了

  可以看看这篇文章!具体实现也比较容易,使用方便,

  可以试一下pigffy

  其实curl也就是抓几百k的页面而已,拿php可以做一些基本功能,但是其他的数据需要做封装!我写了一个java版,只要有ajax方法(request和post请求)就可以抓取页面,给curl打上schema就可以抓取结果了,目前ajax抓取数据是免费的,当然也有限制,各个浏览器是有限制的。

  这些数据都已经是浏览器隐藏在页面的数据源了,你可以通过一些小工具去查找,curl不支持循环加载。

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线