请选择 进入手机版 | 继续访问电脑版
查看: 1850|回复: 2

[网页收录] 文件夹名和频道网址名称不一致如何设置robots文件

[复制链接]
发表于 2013-5-29 13:55:49 | 显示全部楼层
破烂茅屋 发表于 2013-5-10 16:26
User-agent: *
Disallow:/abc/
这种方式, se是根据url路径抓取网页,而不是你站点的物理路径。 ...

谢谢,您给的意见
回复 支持 反对

使用道具 举报

 楼主| 发表于 2013-5-10 13:35:57 | 显示全部楼层 |阅读模式
域名/abc/123.html
存放的文件夹是/def/
如何设置robots,禁止抓取/abc/的页面??
User-agent: *
Disallow:/abc/  
Disallow:/def/
如果这样设置,这种方法正确吗?
如果这样设置
User-agent: *
Disallow:/abc/


User-agent: *
Disallow:/def/
搜索引擎是否还会抓取“/abc/”的页面?

发表于 2013-5-10 16:26:51 | 显示全部楼层
User-agent: *
Disallow:/abc/
这种方式, se是根据url路径抓取网页,而不是你站点的物理路径。

点评

谢谢,您给的意见  详情 回复 发表于 2013-5-29 13:55
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|Archiver|Baidu Inc.

GMT+8, 2024-4-18 16:29 , Processed in 0.242006 second(s), 17 queries .

返回顶部