搜索引擎用来爬行和访问页面的程序被称为蜘蛛(spider),也叫机器人(bot)。蜘蛛其实就是搜索引擎的手下,搜索引擎命令它到互联网上浏览网页,从而得到互联网的所有数据,然后把这些数据存到搜索引擎自己的数据库中。当然了,这个数据库是相当强大的。
蜘蛛是怎么爬行的?
搜索引擎把蜘蛛分为三种级别:1、初级蜘蛛;2、中级蜘蛛;3,高级蜘蛛。 这三种蜘蛛分别具有不同的权限,我们一一讲解。
①、高级蜘蛛。
高级蜘蛛负责去爬行权重比较高的网站,高级蜘蛛有专门的权限,就是秒收。这就是为什么你去权重比较高的论坛发帖,会被搜索引擎直接秒收了。高级蜘蛛爬行深度也是非常的高,他几乎能够爬行到你网站的所有链接页面,高级蜘蛛的来访频率也很高,几乎每天都会来访,这样就完全加快了百度快照的更新频率。这就是为什么这么多站长一直在不断努力的提高权重的原因。
②、中级蜘蛛。
中级蜘蛛通过爬行外链和反链(友情链接)来到你的网站,然后再从你的网站爬行,从而抓取你网站的内容,然后把抓取的到的内容,和搜索引擎数据库中原来的数据一一进行对比,看看是否是原创内容、伪原创内容、还是直接采集的内容,从而确定要不要放出来。所以说,我们在高权重的论坛发软文和有锚文本签名是可以很有效的引来蜘蛛的光顾。
③、初级蜘蛛。
初级蜘蛛就简单了,它一般情况只去爬行新站,爬行深度也很低,它抓取到网页的内容后,会一级一级的提交到搜索引擎数据库,然后先把数据存放起来,再过几天再来爬行,直到搜索引擎觉得爬行到的内容是有价值的才会被放出来。这就是为什么新站都有一个考核期,因为都是一些初级蜘蛛在光顾,所以特别的慢,一般情况爬行深度也很低,有时候只爬了一个首页就完事了。
蜘蛛爬行的方法。
不管是哪个级别的蜘蛛爬行的方法都是一样的,一共分为两种:1、深度优先;2、广度优先。蜘蛛都是顺着锚文本往下爬,直到最后,所以这里就体现了网站内部链接的重要性,我们在济南网站建设前期设计中也要考虑到内部链接,才能让蜘蛛更深层的爬行。
①、深度优先。
深度优先就是指蜘蛛到达一个页面后,发现一个锚文本链接,就是爬进去另个一页面,然后又在另一个页面发现另一个锚文本链接,接着往里面爬,直到最后爬完这个网站。如图:
②、广度优先。
广度优先就是蜘蛛到达一个页面后,发现锚文本不是直接进去,而是把整个页面所有都爬行完毕,再一起进入所有锚文本的另一个页面,直到整个网站爬行完毕。如图:
注意事项
大家了解了百度搜索引擎蜘蛛的工作原理解析之后就明白怎么去推广和优化了。总结一下,我们的目标就是让高级蜘蛛来爬行我们的网站,所以就要不断的努力提高权重和更新网站内容,原创内容很重要!
关于这个问题yyseoer顾问表示:爬行指的是搜索引擎蜘蛛从已知页面上解析出链接偏向的URL,随后顺着链接发觉新页面(也就是说链接偏向的URL)的过程。这样的话,蛛蛛并非发觉新URL马上就爬过去抓取新页面,只是把发觉的URL储放到待抓地址库中,蜘蛛依照必须次序从详细地址库中获取要爬取的URL。
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)