请选择 进入手机版 | 继续访问电脑版
查看: 13346|回复: 5

[SEO] 为啥屏蔽了百度还收录

[复制链接]
发表于 2012-9-4 17:53:30 | 显示全部楼层 |阅读模式
Disallow:  /*?*   是屏蔽动态的 ,为啥屏蔽了 百度还收录,难道也不遵守robots协议吗

评分

参与人数 1金币 +1 收起 理由
movefor + 1 冒险岛SF w ww.mgxsfm.com bbs.mgxsfm.com.

查看全部评分

发表于 2012-9-4 19:52:15 | 显示全部楼层
  robots.txt是一种存放于网站根目录下的文本文件,用于告诉搜索引擎的爬虫(spider),此网站中的哪些内容是不应被搜索引擎的索引,哪些是可以被索引。通常认为,robots.txt文件用来搜索引擎对目标网页的抓取。

  robots.txt协议并不是一个规范,而只是约定俗成的,通常搜索引擎会识别这个文件,但也有一些特殊情况。

  对于Google来说,使用robots也未必能阻止Google将网址编入索引,如果有其他网站链接到该网页的话,Google依然有可能会对其进行索引。按照Google的说法,要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现,需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。

  <meta name="googlebot" content="noindex">

  如果Google看到某一页上有noindex的元标记,就会将此页从Google的搜索结果中完全丢弃,而不管是否还有其他页链接到此页。

uploads.jpg

  对于百度来说,情况和Google类似,如果有其他网站链接目标网页,也有可能会被百度收录,从百度的说明页面上看,百度并不支持像Google那样通过noindex完全将网页从索引上删除,只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。

  <meta name="Baiduspider" content="noarchive">

  上面这个标记只是禁止百度显示该网页的快照,百度会继续为网页建索引,并在搜索结果中显示网页摘要。

  例如,淘宝网目前就通过robots.txt来屏蔽百度爬虫,但百度依旧收录了淘宝网的内容,百度搜索“淘宝网”,第一个结果也是淘宝网首页地址,只是该页面没有网页快照,因此看来,网站只能禁止百度的快照,而无法禁止百度为网页建索引。

点评

很详细。  发表于 2012-9-6 09:41
回复 支持 反对

使用道具 举报

发表于 2012-9-5 08:33:09 | 显示全部楼层
二楼和三楼解释的很详细了!
回复 支持 反对

使用道具 举报

发表于 2012-9-5 09:37:35 | 显示全部楼层
精致快照是有收录,有排名,但是点快照没有结果,可以理解为不向群体公布网站快照。
如果要禁止收录对话有几个办法,ROBOTS屏蔽。第二个是服务器做一个限制任何百度的IP亲求动态地址返回别限制访问状态。
回复 支持 反对

使用道具 举报

 楼主| 发表于 2012-9-5 10:18:32 | 显示全部楼层
三楼回复很给力
回复 支持 反对

使用道具 举报

发表于 2012-9-5 15:33:03 | 显示全部楼层
可以提供一些设置了禁止却被收录的url作为案例进行评估,此外,robots是什么时候设置的呢?
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|Archiver|Baidu Inc.

GMT+8, 2024-3-28 20:00 , Processed in 0.232270 second(s), 19 queries .

返回顶部