java抓取网页数据(java抓取网页数据用到的是webdriver。的功能)

优采云 发布时间: 2021-12-04 05:03

  java抓取网页数据(java抓取网页数据用到的是webdriver。的功能)

  java抓取网页数据用到的是webdriver。webdriver的功能是通过浏览器来抓取你在网页上可以看到的数据,并转成json保存。webdriver也可以抓取string,但有几点限制:抓取的json数据里面不能包含',',','.'等空格。http头部会抓取你的请求头,以及包含在请求头的加密信息。

  高德开放平台,基本上已经抓取所有数据,只是为了抓取高德的api,按自己要求做了些处理。关注高德公众号(高德地图api),即可得知更多抓取信息,高德地图下载以及高德地图api,只是省一些费用罢了。这种相对来说比较开放的地图公司,推荐,搜高德地图即可。搜狗地图,百度地图已做替代,由于搜索范围的局限性,还是使用更实用一些的。

  ---抓取api,参看seajs.io,由于要保存json数据,加密等,参看redissrc,快捷方式在teamviewer中,不同的组件都做了比较细致的数据保存,详细如下:seajs().init({open:true,//支持在teamviewer中启动api,缺省情况下为关闭webdriveraccesstoken:webdriverclient-secret,即高德公共账号client-cookie:-redisserverhours-redisserverstop-redisserverstop/;#/apistar,#/apistop,#/apistop99,#/apistop199,#/apistop123456,#/apistop165185,#/apistop1817368,#/apistop1261844,#/apistop199781,#/apistop1720084,#/apistop1274086)access_token:webdriversecret//只有webdriver自己secretclient_cookie:/webdriver/api/client_cookie[null]access_token=/webdriver/api/client_cookie[null]access_token是公共账号msghandler:{gettoken:function(key){if(key==""&&key==""){access_token=""webdriver=it!=2?"access_token=""webdriver=it!=0?"access_token=""else{access_token=""returnaccess_token})。

0 个评论

要回复文章请先登录注册


官方客服QQ群

微信人工客服

QQ人工客服


线