方便操作的采集神器(优采云采集器怎么样?勾选ocrocr)
优采云 发布时间: 2021-10-28 09:10作为一个同时使用优采云采集器和写爬虫的非技术人员,我莫名其妙地喜欢思考互联网运营喵的技术。. . 说说我的感受吧。
优采云具有学习成本低、流程可视化、快速构建采集系统等优势。可以直接导出excel文件并导出到数据库。为了降低采集的成本,云采集提供了10个节点,也可以省去不少麻烦。
缺点是虽然它看起来很简单,还有一个更傻瓜式智能模型,但其中的陷阱只有经常使用它的人才能清楚。我在我的博客中简单地写过这个,但说实话,我的经验太多了,我还没有整理出来。
首先,里面的循环就是xpath元素的定位。如果使用简单的傻瓜式点击定位,是非常死板的,在大量采集页面中很容易出错。另外,因为它的方便,使用这个工具的新手太多了。有些人整天问一些常见的问题。他们不知道页面的结构,也不了解 xpath。它们容易出现采集不完整、无限翻页等问题。
但是优采云采集器的ajax加载、模拟手机页面、过滤广告、滚动到页面底部等功能都被称为神器,一个检查就可以搞定。写代码很麻烦,实现这些功能很费力。
优采云 毕竟只是一个工具,自由度肯定会打败编程。优点是方便、快捷、成本低。
优采云判断引用弱,无法做出复杂判断,无法执行复杂逻辑。另外,优采云只有企业版可以解决验证码问题,普通版无法访问编码平台。
还有一点就是没有ocr功能。58同城和赶集网采集的电话号码均为图片格式。Python可以用开源的图像识别库解决,可以通过对接进行识别。
在这里更新:
之前写的感觉是片面的,毕竟是那个时代的心情写的。经过一段时间的思考,对数据的需求采集决定了最终要使用的工具。如果我需要大量的数据采集,爬虫肯定是不可避免的,因为代码有更高的自由度。我认为优采云的目标不是取代python,而是实现采集器人人都能上手的目标。
还有一点是python易学易部署,开源免费。哪怕只学scrapy,也能解决一些问题,但麻烦的是,在一些工具中简单的选择就可以完成的功能,只能通过编写或复制别人的代码来实现。如果你不是全职写一个爬虫,它会非常快。我只想从入门到放弃……
对比和坑我写了,放在知乎的专栏里。如果你有兴趣,你可以看看:
谈近期优采云采集器使用中遇到的坑(与其他采集软件和爬虫对比)-知乎专栏