免费网页采集器(如何采集列表+详情页类型网页什么是深入采集结果预览 )
优采云 发布时间: 2021-09-09 17:13免费网页采集器(如何采集列表+详情页类型网页什么是深入采集结果预览
)
功能点目录:
如何采集List+Detail 页面类型网页
什么是深入采集
采集结果预览:
下面详细介绍一下采集前程免费招聘信息数据的方法。以北京的招聘信息为例。具体步骤如下:
第一步:下载安装优采云采集器,注册登录
1、打开优采云采集器官网,下载安装爬虫软件工具——优采云采集器software
2、点击注册登录,注册新账号,登录优采云采集器
【温馨提示】本爬虫软件无需注册即可直接使用,但切换到注册用户后匿名账号下的任务会丢失,建议注册后使用。
优采云采集器是优采云云的产物。如果您是优采云用户,可以直接登录。
第 2 步:创建一个新的采集task
1、复制千城无忧北京北京运营的招聘信息网页(需要搜索结果页的网址,不是首页的网址)
2、新智能模式采集task
可以直接在软件上创建采集任务,也可以通过导入规则来创建任务。
第三步:配置采集规则
1、设置提取数据字段
在智能模式下,我们输入网址后,软件会自动识别页面上的数据并生成采集结果。每种类型的数据对应一个采集 字段。我们可以右键该字段进行相关设置,包括修改字段名称、增加或减少字段、处理数据等。
在列表页面,需要采集前无忧程招的职位名称、职位链接、公司名称、工作地点、薪资和发布时间等,字段设置效果如下:
2、使用in-depth采集函数提取详情页数据
在列表页面上,只显示了招聘职位的部分信息。如果需要招聘职位的具体要求和公司情况,需要右击职位链接,使用“深度采集”功能跳转到详情页进行采集。
在详情页面,我们可以看到具体的职位信息和公司信息。我们单击“添加字段”按钮,然后向页面添加字段。设置效果如下:
第四步:设置并启动采集task
1、Settings采集Task
添加采集data后,我们就可以启动采集任务了。在启动之前,我们需要对采集任务进行一些设置,以提高采集的稳定性和成功率。
点击“设置”按钮,在弹出的运行设置页面我们可以设置运行设置和防拦截设置,这里我们勾选“跳过继续采集”,设置“2”秒请求等待时间,勾选“不加载网页图片”,防拦截设置将按照系统默认设置,然后点击保存。
2、START采集task
点击“保存并启动”按钮,在弹出的页面中进行一些高级设置,包括定时启动、自动存储和下载图片。本例中不使用这些功能,直接点击“开始”即可。
【温馨提醒】免费版可以使用非周期定时采集功能,下载图片功能免费。个人专业版及以上可使用高级定时功能和自动存储功能。
3、运行任务提取数据
任务启动后,采集数据会自动启动。从界面上我们可以直观的看到程序运行的过程和采集的结果。 采集结束后会有提醒。
第 5 步:导出和查看数据
data采集完成后,我们就可以查看和导出数据了。 优采云采集器支持多种导出方式(手动导出到本地、手动导出到数据库、自动发布到数据库、自动发布到网站)以及导出文件的格式(EXCEL、CSV、HTML和TXT),我们选择我们需要的方法和文件类型,然后点击“确认导出”。
【提醒】:所有手动导出功能都是免费的。个人专业版及以上可以使用发布到网站功能。