网页抓取数据 免费(自动模式检测WebHarvy自动识别允许您在网页中发生的数据模式)
优采云 发布时间: 2022-02-09 22:06网页抓取数据 免费(自动模式检测WebHarvy自动识别允许您在网页中发生的数据模式)
WebHarvy 是一款界面简洁、操作简单的网页数据采集工具。它具有自动检测模式,可以从任何页面中提取数据,包括文本、图片等,并通过输入 URL 来打开它。默认情况下,使用内部浏览器。数据可以导出到数据库或文件夹。
特征
点击界面
WebHarvy 是一个可视化的网络爬虫。绝对不需要编写任何脚本或代码来抓取数据。您将使用 WebHarvy 的内置浏览器浏览网络。您可以选择要单击的数据。这简单!
自动模式检测
WebHarvy 自动识别网页中出现的数据模式。因此,如果您需要从网页中抓取项目列表(姓名、地址、电子邮件、价格等),则无需进行任何额外配置。如果数据重复,WebHarvy 会自动删除它。
导出抓取的数据
您可以以多种格式保存从网页中提取的数据。当前版本的 WebHarvyWebScraper 允许您将抓取的数据导出为 Excel、XML、CSV、JSON 或 TSV 文件。您还可以将抓取的数据导出到 SQL 数据库。
从多个页面中提取数据
通常,网页会在多个页面上显示产品列表等数据。WebHarvy 可以自动从多个页面爬取和提取数据。只需指出“链接到下一页”,WebHarvyWebScraper 就会自动从所有页面中抓取数据。
基于关键字的抓取
通过自动将输入关键字列表提交到搜索表单来抓取数据。可以将任意数量的输入关键字提交到多个输入文本字段以执行搜索。可以提取所有输入关键字组合的搜索结果数据。
通过代理服务器
匿名爬取,防止网络爬取软件被网络服务器拦截,可以选择通过代理服务器或VPN网站访问目标。可以使用单个代理服务器地址或代理服务器地址列表。
类别提取
WebHarvyWebScraper 允许您从链接列表中获取数据,从而在 网站 中生成类似的页面/列表。这允许您使用单个配置来抓取 网站 中的类别和子类别。
正则表达式
WebHarvy 允许您在网页的文本或 HTML 源代码上应用正则表达式 (RegEx) 并删除匹配的部分。这种强大的技术在抓取数据时为您提供了更大的灵活性。
运行 javascript
在提取数据之前,在浏览器中运行您自己的 JavaScript 代码。这可用于与页面元素交互或调用已在目标页面中实现的 JavaScript 函数。
下载图片
您可以下载图像或提取图像 URL。WebHarvy 可以自动提取显示在电子商务网站 的产品详细信息页面中的多个图像。
自动浏览器交互
WebHarvy 可以轻松配置为执行任务,例如单击链接、选择列表/下拉选项、在字段中输入文本、滚动页面等。
变更日志
修复了在页面启动时可能导致连接被禁用的错误。
您可以为页面模式配置专用连接方法。
可以自动搜索可以在 HTML 上配置的资源。