推薦閱讀

運(yùn)營熊

【思途服務(wù)器】搜索引擎蜘蛛爬蟲流量說明

時(shí)間：2016-10-26 | 分類：操作幫助

瀏覽：28534

問題描述：

頁面每天只有幾個(gè)IP訪問，流量卻在短時(shí)間內(nèi)消耗殆盡。

問題分析：

通過流量統(tǒng)計(jì)報(bào)告查看到百分之八十的流量都是來自蜘蛛爬蟲。

>【官方說法】百度蜘蛛抓取流量暴增的原因

解決方案：

編寫robots.txt文件上傳到網(wǎng)站根目錄中。

使用類似于“Disallow:/ 禁止允許”的規(guī)則對(duì)蜘蛛爬蟲進(jìn)行禁止。減少蜘蛛抓取對(duì)網(wǎng)頁產(chǎn)生的流量。

注意：這樣做雖然能減少不必要的流量。但是會(huì)影響到網(wǎng)頁的權(quán)重值。在設(shè)定的時(shí)候。請(qǐng)自行斟酌取舍。

>robots.txt文件格式及用例?