我的網站平日上線人數不多,為何流量使用還是很大? 用戶的網站可能每日上站瀏覽人數不多,卻發現流量使用量增加的很快? 請進入控制台點選 Awstat,進入後點選左列之 "搜尋引擎網站的漫遊器",看看是不是搜尋引擎吃掉了您的流量。 若看到 Unknown robot (identified by 'spider'),這個也是搜尋引擎,只是沒這麼有名,Awstat 統計軟體分不出來。 要限制搜尋引擎抓取您網站上的資料有兩種方法,一是使用 robots.txt,另一個方式是使用 .htaccess 要注意的是 robots.txt 不是放了馬上就有效,一般可能須等到數星期,若有急迫的需求請使用 .htaccess 的方式。 Google 使用 robots.txt 檔案可參考: http://www.google.com.tw/support/webmasters/bin/answer.py?answer=40360 Yahoo 搜尋引擎的說明: http://help.yahoo.com/help/tw/ysearch/ysearch-27.html 大陸搜狗: http://www.sogou.com/docs/help/webmasters.htm#07 大陸百度(本公司主機預設不允許百度spider,若要允許請使用 .htaccess 關閉 mod_security 保護): http://www.baidu.com/search/guide.html#4 相關網站: http://www.robotstxt.org/ 如果在您的網站根目錄放置一 robots.txt 內容如下: User-agent: * Disallow: / 則會禁止所有搜尋引擎蒐集網站內容,若要禁止大陸百度與搜狗,.htaccess 內容如下: SetEnvIfNoCase User-Agent "^Baidu" bad_bot SetEnvIfNoCase User-Agent "^sogou" bad_bot SetEnvIfNoCase User-Agent "^Bloghoo" bad_bot SetEnvIfNoCase User-Agent "^Scooter" bad_bot Deny from env=bad_bot
|