文章采集工具(万能文章采集器的功能介绍什么是高精度正文识别识别算法)
优采云 发布时间: 2021-09-11 17:04文章采集工具(万能文章采集器的功能介绍什么是高精度正文识别识别算法)
Universal文章采集器是一款方便易用的文章采集软件,功能强大,完全免费使用。软件操作简单,可准确提取网页正文部分并保存为文章,支持标签、链接、邮件等格式处理,只需几分钟即可采集whatever你想要文章。并且拥有独家首创的智能通用算法,只需输入关键词即可采集各种网页和新闻,并且可以在列表页(栏目页)文章指定采集准确提取正文网页的一部分另存为文章 内容。同时还有插入关键词的功能,可以识别标签或标点的插入,可以识别英文空格的插入,还有文章转翻译功能,也就是说文章可以从一种语言如中文转为另一种语言如英文或日文,再由英文或日文转回中文,这是一个翻译周期,可以设置多次翻译周期。如果您对某个关键词文章感兴趣,想批量下载,可以使用这个完全免费的优采云万能文章采集器,有需要的用户欢迎下载!
软件特点一、依托优采云software独家通用文本识别智能算法,可实现任意网页文本自动提取,准确率95%以上。
二、只需输入关键词,采集就可以进入百度新闻与网页、搜狗新闻与网页、360新闻与网页、谷歌新闻与网页、必应新闻与网页、雅虎;批量关键词AUTO采集。
三、可方向采集指定网站列列表下的所有文章,智能匹配,无需编写复杂规则。
四、文章转翻译功能,可以把采集好文章翻译成英文再翻译回中文,实现翻译伪原创,支持谷歌和有道翻译。
五、史上最简单最智能文章采集器,支持全功能试用,效果如何!功能介绍什么是高精度文本识别算法
该算法由优采云自主研发,可以从网页中提取正文部分,通常准确率可达95%。如果进一步设置最小字数,采集文章的准确率(正确性)可以达到99%。同时文章title也达到了99%的提取准确率。当然,当一些网页的布局格式混乱、不规则时,可能会降低准确率。
文本提取模式
文本提取算法有标准标签、严格标签和精确标签三种模式。在大多数情况下,标准模式和严格模式是相同的提取结果。以下是特殊情况:
标准模式:一般提取。大部分时候可以准确提取文本,但是一些特殊的页面会导致提取一些不必要的内容(但这种模式可以更好地识别文章页面类似于百度经验)
严格模式:顾名思义,比标准模式严格一点,在很大程度上可以避免提取不相关的内容作为正文,但是对于百度体验页等特殊的分词页(不通用
段落,但有多个独立的div段和格式),一般只能提取某一段,而标准模式可以提取所有段落。
精确标签:当标准和严格模式不起作用时,可以精确指定目标正文的标签头。此模式仅适用于网络批处理。
所以你可以根据实际情况切换模式。您可以使用本地批处理的读取网页正文功能来测试指定网页适合提取哪种模式。
采集 处理选项
采集 可以同时翻译、过滤和搜索单词。对于采集好文章,您可以使用“本地批处理”。
翻译功能是将中文翻译成英文再翻译回中文,也产生了伪原创的效果。支持原创格式翻译,即文章的原创标签结构和排版格式不会改变。
采集Target 是网址
您可以在 URL 模板中插入 #URL#、#title# 以合并引用
分页采集和相对路径转换为绝对路径
勾选“自动采集page”合并页面文章采集,编辑框设置为采集pages的最大数量。建议设置一个有限的值,比如10页,避免一些采集分页太多耗时长,合并后的文章体积大。如果需要采集所有页面,可以设置为0。
并且文章中的所有相对路径都会自动转换为绝对路径,可以保证图片等的正常显示
多线程
支持多线程高速采集网页。可以根据网速来确定。 Telecom 2m可以有5个线程,Telecom 4m可以有10个线程,依此类推,但需要适当设置。过多的设置可能会严重影响采集效率甚至影响系统效率。如果采集有其他占用流量的软件,比如在线视频播放,可以适当减少线程数。
文章Title 和文章 内容重复处理
程序可以智能判断过滤重复文章
当采集到达的文章标题(文件名)与本地保存的文章标题相同时,优采云会首先判断两个文章的相似度,当相似度较大时大于60% 当判断优采云是同一个文章时,再比较两个文章的文字大小,自动用文字较多的文章覆盖写入同一个文件名。这个世代情况加起来不及世代数。
而当相似度小于60%时,优采云判断与文章不同,会自动重命名标题(标题末尾随机取3到5个字母)并保存到文件。
文章快速过滤
优采云虽然研究了高精度的人体提取算法,但是提取错误还是很少。这些错误主要是:目标页面的主体是网络视频,或者主体内容太短,无法形成主体特征。因此,可以通过设置最终结果的字数来提高准确率(在“最小文本字符数”参数中,这个字数就是程序去掉标签、行、空格后的纯文本字数来自正文)。
文章quick 过滤器是为了快速查看采集好文章,方便对文字错误的文章进行判断和删除。同时也方便了基于网络信息采集的目的需要进行的提炼过程。
生成文章数量可变的问题
百度和搜搜默认每页 100 个结果,Google 默认每页 10 个结果。
部分网站访问速度超时(尤其是很多谷歌收录被一些网站屏蔽了),或者设置了正文最少字数,或者程序忽略了里面同名的相似内容local文章,或者黑名单和白名单过滤等,会导致实际生成文章数低于每页搜索的最大结果数。
总的来说,百度采集质量最好,生成的文章数量接近搜索结果数量。使用说明 1 下载完成后,不要运行压缩包内的软件,直接使用,先解压;
2 软件同时支持32位和64位运行环境;
3 如果软件无法正常打开,请右键使用管理员模式运行。如何使用关键词
设置搜索间隔、采集type、时间语言、排序方式、采集target等参数
编辑网站的黑名单和白名单
设置翻译选项、过滤选项和插入选项
点击“Start采集”按钮更新日志,添加一些已经用采集处理过的网站,增强采集功能。