自动采集数据(本文如何免费采集豆瓣短评（*敏*感*词*6-全面瓦解）)

　　自动采集数据(本文如何免费采集豆瓣短评（*敏*感*词*6-全面瓦解）)

　　本文主要介绍如何使用优采云采集器的智能模式，免费采集豆瓣短评论（任务：不可能6-全面崩溃）评论者、评论时间、评论内容等信息.

　　采集工具介绍：

　　优采云采集器是一款基于人工智能技术的网络爬虫工具。只需输入网址即可自动识别网页数据，无需配置即可完成数据。采集，业界首款支持三种操作系统（包括Windows、Mac和Linux）的Crawler软件。

　　本软件是一款真正免费的数据采集软件，对采集结果的导出没有限制。没有编程基础的新手用户也可以轻松实现数据采集需求。

　　官方网站：

　　采集对象介绍：

　　豆瓣是一个社区网站。网站从书籍、电影、音乐开始，提供书籍、电影、音乐等作品的信息。描述和评论均由用户提供。它是 Web 2.0网站 网站 的一个特征。网站 还提供图书影音推荐、同城线下活动、群话题交流等多种服务功能，更像是一个品味系统的集合（阅读、电影、音乐） 、表达系统（我读、我看、我集听的创新网络服务）和交流系统（同城、同组、邻里）一直致力于帮助城市人找到生活中有用的东西。

　　采集字段：

　　评论者、发布时间、有用数量、评论内容

　　功能点目录：

　　如何采集需要登录才能查看的网页

　　如何实现翻页功能

　　采集结果预览：

　　下面详细介绍一下如何免费采集豆瓣短评论数据。我们以豆瓣短评《使命：不可能的6-全解体》为例。具体步骤如下：

　　第一步：下载安装优采云采集器，注册登录

　　1、点此打开优采云采集器官网，下载安装爬虫软件工具——优采云采集器软件

　　2、点击注册登录，注册一个新账号，登录优采云采集器

　　【温馨提示】本爬虫软件无需注册即可直接使用，但切换为注册用户后匿名账号下的任务会丢失，建议注册后使用。

　　优采云采集器是优采云云的产物。如果您是优采云用户，可以直接登录。

　　第二步：新建一个采集任务

　　1、 复制《*敏*感*词*6-彻底解体》豆瓣短评的网页（需要搜索结果页的网址，不是首页的网址）

　　2、新智能模式采集任务

　　可以直接在软件上创建采集任务，也可以通过导入规则来创建任务。

　　第三步：配置采集规则

　　1、设置预登录

　　豆瓣短评论在用户未登录时只能显示前10页的数据，如果用户需要更多的数据，需要在采集之前登录，所以我们需要先预登录，并且然后继续采集。

　　这里我们要使用“预登录”功能，点击“预登录”按钮，打开登录窗口，如下图所示。优采云采集器 不会存储和上传您的帐户信息，您可以放心使用此功能。

　　2、手动设置分页

　　豆瓣短评论页面的翻页按钮比较特别，智能模式无法直接识别元素采集下一页，此时系统会提示。

　　我们需要手动设置分页，设置“分页设置-手动设置分页-点击分页按钮”，然后点击网页上的分页按钮。

　　3、设置提取数据字段

　　在智能模式下，我们输入网址后，软件会自动识别页面上的数据并生成采集结果。每种类型的数据对应一个 采集 字段。我们可以右击该字段进行相关设置。包括修改字段名、加减字段、处理数据等。

　　我们需要采集豆瓣短评论的评论者、发布时间、有用数量和评论内容。由于特殊星级元素，优采云V2.1.22版本暂时不支持采集此字段，此功能将在后续版本中实现，字段设置效果如下：

　　第四步：设置并启动采集任务

　　1、设置采集 任务

　　完成采集数据添加后，我们就可以开始采集任务了。在开始之前，我们需要对采集任务进行一些设置，以提高采集的稳定性和成功率。

　　点击“设置”按钮，在弹出的运行设置页面中我们可以设置运行设置和防拦截设置。这里我们勾选“跳过继续采集”，设置“2”秒的请求等待时间，并勾选“不加载网页图片”，防拦截设置将遵循系统默认设置，然后点击保存.

　　2、开始采集任务

　　点击“保存并启动”按钮，在弹出的页面中进行一些高级设置，包括定时启动、自动存储和下载图片。本例中不使用这些功能，直接点击“开始”即可。

　　【温馨提示】免费版可以使用非周期性定时采集功能，下载图片功能免费。个人专业版及以上可使用高级定时功能和自动存储功能。

　　3、运行任务提取数据

　　任务启动后会自动开始采集数据，我们可以从界面直观的看到程序运行过程和采集结果，采集结束后会有提示@>。

　　第 5 步：导出并查看数据

　　数据采集完成后，我们就可以查看和导出数据了。优采云采集器支持多种导出方式（手动导出到本地、手动导出到数据库、自动发布到数据库、自动发布到网站）和导出文件的格式（EXCEL、CSV 、HTML 和 TXT），我们选择我们需要的方法和文件类型，然后单击“确认导出”。

　　【提醒】：所有手动导出功能都是免费的。个人专业版及以上可以使用发布到网站功能。