主體內(nèi)容過長(通常網(wǎng)頁源碼長度不能超過128k),文章過長可能會引起抓取截斷。
?
舉個例子:某網(wǎng)站主體內(nèi)容都是JS生成,針對用戶訪問,沒有做優(yōu)化;但是網(wǎng)站特針對爬蟲抓取做了優(yōu)化,直接將圖片進(jìn)行base64編碼推送給百度,然而優(yōu)化后發(fā)現(xiàn)內(nèi)容沒有被百度展示出來;頁面質(zhì)量很好,還特意針對爬蟲做了優(yōu)化,為什么內(nèi)容反而無法出現(xiàn)在百度搜索中;
?
主體內(nèi)容過長影響蜘蛛抓取原因如下:
1、站點(diǎn)優(yōu)化后將主體內(nèi)容放于最后,圖片卻放于前面;
2、網(wǎng)站針對爬蟲爬取做的優(yōu)化,是直接將圖片base64編碼后放到HTML中,導(dǎo)致頁面長度過長,網(wǎng)站頁面長度達(dá)164k;
3、爬蟲抓取內(nèi)容后,頁面內(nèi)容過長被截斷,已抓取部分無法識別到主體內(nèi)容,最終導(dǎo)致頁面被認(rèn)定為空短而不建索引。
閱讀本文的人還可以閱讀: