查看: 1857|回复: 2
打印 上一主题 下一主题

[网页收录] 文件夹名和频道网址名称不一致如何设置robots文件

[复制链接]
楼主
发表于 2013-5-29 13:55:49 | 只看该作者
破烂茅屋 发表于 2013-5-10 16:26
User-agent: *
Disallow:/abc/
这种方式, se是根据url路径抓取网页,而不是你站点的物理路径。 ...

谢谢,您给的意见
回复 支持 反对

使用道具 举报

沙发
 楼主| 发表于 2013-5-10 13:35:57 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
域名/abc/123.html
存放的文件夹是/def/
如何设置robots,禁止抓取/abc/的页面??
User-agent: *
Disallow:/abc/  
Disallow:/def/
如果这样设置,这种方法正确吗?
如果这样设置
User-agent: *
Disallow:/abc/


User-agent: *
Disallow:/def/
搜索引擎是否还会抓取“/abc/”的页面?

板凳
发表于 2013-5-10 16:26:51 | 只看该作者
User-agent: *
Disallow:/abc/
这种方式, se是根据url路径抓取网页,而不是你站点的物理路径。

点评

谢谢,您给的意见  详情 回复 发表于 2013-5-29 13:55
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|Archiver|Baidu Inc.

GMT+8, 2024-4-20 11:32 , Processed in 0.256041 second(s), 16 queries .

返回顶部