文章网址采集器(优采云采集器V9为例,讲解一个文章采集的实例(组图))
优采云 发布时间: 2022-02-25 22:18文章网址采集器(优采云采集器V9为例,讲解一个文章采集的实例(组图))
在日常工作学习中,对一些有价值的文章做采集可以帮助我们提高信息的利用率和整合率,对于新闻、学术论文等类型的电子文章,我们可以使用网页抓取工具进行采集,这种类型的采集相对于一些数字不规则数据来说比较容易,这里我们使用网页抓取工具优采云采集器V9作为一个例子,解释一个文章采集的例子供大家学习。
熟悉优采云采集器的朋友都知道,可以通过官网的FAQ来检索采集过程中遇到的问题,所以这里我们就使用采集@ >以faq为例说明网页爬虫的原理及流程采集。
这个例子是为了演示地址。
(1)创建一个新的 采集 规则
右键单击一个组,选择“新建任务”,如下图:
(2)添加起始 URL
这里假设我们需要 采集 5 页数据。
分析 URL 变量模式
第一页地址:
第二页地址:
第三页地址:
由此我们可以推断出p=后面的数字就是分页的意思,我们用[地址参数]来表示:
所以设置如下:
地址格式:使用【地址参数】表示更改后的页码。
换号:从1开始,即第一页;每次加1,即每页更改规则的数量;一共5条,也就是一共采集5页。
预览:采集器会根据上面的设置生成URL的一部分,以便判断添加是否正确。
然后确认
(3)[普通模式] 获取内容url
普通模式:该模式默认抓取一级地址,即从起始页的源码中获取到内容页面A的链接。
这里给大家介绍一下如何通过自动获取地址链接+设置区域来获取。
查看页面源码找到文章地址所在的区域:
设置如下:
注:更详细的分析说明请参考本手册:
操作指南> 软件操作> URL采集Rules> 获取内容URL
点击网址采集Test查看测试效果
(3)内容采集网址
以标签为例采集
注:更详细的分析说明请参考本手册
操作指南> 软件操作> 内容采集规则> 标签编辑
我们首先查看它的页面源代码,以找到我们的“标题”所在的代码:
导入 Excel 是一个对话框 ~ 打开 Excel 时出错 - 优采云采集器帮助中心
分析显示:起始字符串为:
结束字符串是:
数据处理 - 内容替换/排除:需要替换 - 优采云采集器帮助中心为空
设置内容标签的原理类似,在源码中找到内容的位置
分析显示:起始字符串为:
结束字符串是:
数据处理——HTML标签排除:过滤不必要的A链接等
设置另一个“源”字段
这样一个简单的 文章采集 规则就准备好了。不知道网友们有没有学过。顾名思义,网页抓取工具适用于网页上的数据抓取。从上面的例子大家也可以看出,这类软件主要是通过源码分析来解析数据。还有一些情况这里没有列出,比如登录采集,使用代理采集等,如果你对网页抓取工具感兴趣,可以登录官网采集器 并自学。