Robots规则在搜索引擎的应用

21-10-20    465次

robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取深圳网络企业

深圳网络企业
上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

对于谷歌来说,使用robots也未必能阻止谷歌将网址编入索引,如果有其他网站链接到该网页的话,谷歌依然有可能会对其进行索引。按照谷歌的说法,要想彻底阻止网页的内容在谷歌网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分太阳诚娱乐网



如果谷歌看到某一页上有noindex的元标记,就会将此页从谷歌的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

对于百度来说,情况和谷歌类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支撑像谷歌那样通过noindex完全将网页从索引上删除,只支撑使用noarchive元标记来禁止百度显示网页快照。具体的语句如下深圳做网站



以上【 Robots规则在搜索引擎的应用 】的内容由达设互动()为您提供,本文网址 : /wangzhanjianshezhishi/363.html ,转载请注明出处!更多有关太阳诚娱乐网,微信小程序、电商平台建设、系统开发等互联网应用服务都可以联系大家。热线:130 7784 6582

扫描二维码微信聊天

在线咨询
联系电话

130 7784 6582

XML 地图 | Sitemap 地图