java抓取网页数据( 一个彩票网站为例来简单说明整体操作流程,js实现)
优采云 发布时间: 2021-12-04 07:08java抓取网页数据(
一个彩票网站为例来简单说明整体操作流程,js实现)
使用java技术捕获网站彩票双色球的详细信息
更新时间:2019-06-25 16:21:26 作者:IT-source
本文文章主要介绍使用java技术在彩票双色球上捕获网站的详细信息。网页结果由html+js+css组成。html结构有一定的规范,动态数据交互可以通过js完成。,有需要的朋友可以参考
前言
现在很多web应用和做过web项目的童鞋都知道web结果是由html+js+css组成的,html结构有一定的规范,可以通过js实现动态数据交互。
有时候,你需要抓取一段自己感兴趣的网站信息,一段网站信息必须通过某个url发送,根据地址发送http请求。知道这个地址就可以得到很多网络响应需要仔细分析才能找到合适的地址,最后通过这个地址返回一个html给你,我们就可以得到html,分析结构,解析结构得到你想要的数据。Html的结构分析往往是复杂而繁琐的。我们可以使用java支持包:jsoup,它可以完成发送请求、解析html、获取你感兴趣的数据等功能。
我们以一张彩票网站为例简单说明一下整体的操作流程,分为以下几个主要步骤:
1:根据官网,找到您感兴趣的模块:双色球:
我选的500彩票网站:请按照以下步骤找到双色球版块。
2:分析页面,找到它的入口地址
发现右边有个下拉选择框,这是历史双色球开奖日期。改变这个值,浏览器会重新请求这个时期的彩票信息,并确定地址为:
选择问题编号.shtml
3:获取地址,使用jsoup发送请求,获取返回的Document对象
创建一个maven项目并导入jsoup的依赖:在你的java类中,向2个地址发送请求:获取返回的页面数据:
返回的html页面内容较多,这里就不贴了。下面我就直接分析这个页面(特别是每个html的结构不是一成不变的。有可能读者看到这个文章,网站修改了网页结构,那你就需要重新-分析一下。当然,估计网站修改网页结构的可能性比较小...)
4:分析Document对象,获取感兴趣的数据
双色球由6个红球和1个篮球组成。通过分析网页,它是用类来表示的。网页源代码如下:
通过以下代码,得到6个红球:
同理,可以获得1个篮球。
根据这个原则,你可以得到你想要的数据:以下是我得到的数据
以上是java中简单爬取网页数据的个人分享。有兴趣的孩子可以自己动手实践,从实践中学习道理。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持脚本屋。