请选择 进入手机版 | 继续访问电脑版
查看: 470|回复: 7

页面长度过长,也会导致不收录?

[复制链接]
发表于 2017-7-5 19:24:55 | 显示全部楼层 |阅读模式

最近院长收到一个非常典型的抓取优化例子,整理一下分享给各位,各位站长们谨记不要出现相同的情况:

站点反馈

网站主体内容都是js生成,针对用户访问,没有做优化;但是网站特针对爬虫抓取做了优化,直接将图片二进制内容放到了html中导致页面长度过长;然而优化后发现内容却不被百度收录

页面质量很好,还特意针对爬虫做了优化,为什么内容反而不收录了呢?

工程师分析:

1、网站针对爬虫爬取做的优化,直接将图片二进制内容放到了html中导致页面长度过长,网站页面长度达164k;

2、 站点优化后将主体内容放于最后,图片却放于前面;

3、爬虫抓取内容后,页面内容过长被截断,已抓取部分无法识别到主体内容,最终导致页面被认定为空短而不收录。

工程师建议:

1、不建议站点使用js生成主体内容,如js渲染出错,很可能导致页面内容读取错误,页面无法抓取

2、 如站点针对爬虫爬取做优化,建议页面长度在128k之内,不要过长

3、针对爬虫爬取做优化,请将主体内容放于前方,避免抓取截断造成的内容抓取不全


发表于 2017-7-6 15:56:55 | 显示全部楼层
用户体验很重要
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:22:02 | 显示全部楼层
先顶你一个
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:29:12 | 显示全部楼层
这个标题厉害了,其实我是来水金币的
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:32:53 | 显示全部楼层
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:44:54 | 显示全部楼层
分页就不可以了?
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:47:59 | 显示全部楼层

这个标题厉害了,其实我是来水金币的
回复 支持 反对

使用道具 举报

发表于 2017-7-6 16:50:13 | 显示全部楼层
打战专题页都很长啊
回复 支持 1 反对 0

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|Archiver|Baidu Inc.

GMT+8, 2019-7-22 07:06 , Processed in 0.267412 second(s), 6 queries .

Powered by Discuz! X3.2

© 2001-2011 Comsenz Inc.

返回顶部