blogger如何搜索引擎优化(蜘蛛先去百度白名单的网站或者一些信任度非常高的站点和页面)
优采云 发布时间: 2021-10-06 01:33blogger如何搜索引擎优化(蜘蛛先去百度白名单的网站或者一些信任度非常高的站点和页面)
每个人都知道蜘蛛,但你知道网络上的蜘蛛吗?今天,泽城SEO营销就来聊一聊:
搜索引擎蜘蛛是如何工作的?
蜘蛛首先爬取百度白名单网站或者一些高度信任的站点和页面(例如:一些高权重的网站和网站主页),然后爬取这些页面我发现了一些链接到其他一些页面。蜘蛛会将这些链接保存在自己的数据库中,然后按照爬取顺序对这些网页进行一一爬取。
1、蜘蛛抓取网页的规则:
对于蜘蛛来说,网页的权重越高,可信度越高,被抓取的频率就越高,比如网站的首页和内页。蜘蛛先爬取网站的首页,因为首页权重较高,大部分链接都指向首页。然后通过首页爬取网站的内页,并不是所有内页的蜘蛛都会爬进去。
搜索引擎认为对于一般的中小型网站,三层就足以承载所有内容,所以蜘蛛经常爬取的内容是前三层,而蜘蛛搜索引擎认为那些内容不重要,所以不不经常爬行。
2、如何看蜘蛛爬行?
通过iis日志,可以看到蜘蛛爬取了什么内容。iis日志包括百度蜘蛛、谷歌蜘蛛等,从iis日志中进行Show off分析,得到蜘蛛类型、抓取时间、抓取页面、抓取内容大小、返回页面代码。200 表示爬网成功。
说了这么多,相信大家对搜索引擎蜘蛛的工作原理已经有所了解了
喜欢 (20)