今天蜘蛛池内蜘蛛数量急剧减少,抓取频次大幅下滑!
作者:admin发布时间:2022-12-05 12:29:35阅读:327
昨天有多开心今天就有多失落,没想到今天不管是蜘蛛池也好还是自己的网站也好,蜘蛛抓取频次都大幅下滑,甚至三四个小时内蜘蛛抓取频次都为0,这是一个令人伤心的事情。
但这究竟是为什么呢?我可以从自己的操作上面简单分析一下。
1、数据没有得到及时补充
蜘蛛池上线之后,我把原来的内置数据都删掉了,只上传了300多条句子。可能是由于数据量太少,造成网站内容中大面积的重复,导致蜘蛛分析出来我的是垃圾内容,很快失去了兴趣。
2、强引蜘蛛设置不合理
由于我急着测试强引蜘蛛对新网站的影响,所以在蜘蛛池上线伊始就开始强引蜘蛛,而且测试了100%的概率以及后来20%的概率。如果说蜘蛛池程序使用的是301跳转的方式强引,那么我的这种高概率很可能导致搜索引擎判断我是换了域名了,从而减少对原始蜘蛛池程序的域名抓取频次。
3、新网站的内链结构不完整
由于是自己开发的程序,新网站内链结构非常不完整。例如站点页面没有上下篇、相关推荐。另外,也缺少对其他内容的链接,比如文章页面、tag标签等。这导致蜘蛛爬行的深度难以为继。
综上,我们的蜘蛛池程序内容不够丰富,强引蜘蛛动作也操之过急,再加上蜘蛛引来之后没有足够多的养料,导致我们目前停止强引后蜘蛛的抓取又回归平常。