打算屏蔽百度蜘蛛，可以嘗試以下方法

好像現在屏蔽baiduspider已經成為一種時尚，難道這玩意也跟著納斯達克變?

首先我自己不會屏蔽baiduspider，也不大相信baiduspider會故意忽略robots.txt，但如果你真的想屏蔽 baiduspider，可嘗試以下方法：

1. 上傳一個robots.txt到根目錄，內容為：

User-agent: baiduspider

Disallow: /

一個搜索引擎爬蟲工作前首先應該訪問/robots.txt制定排除列表，baiduspider還無法高級到故意忽略某些網站的robots.txt，不知道baiduspider怎麼折騰才能讓robots.txt失效。

2. 如果僅僅因為伺服器吃不消，不防按照的指示寫信給百度。估計很多人試過得不到回復(Google基本都是2個工作日內回復)。

3. 如果還沒有辦法，可嘗試.htaccess屏蔽，上傳一個.htaccess文件到根目錄，內容為：

SetEnvIfNoCase User-Agent "^baiduspider" ban_bot

deny from env=ban_bot

還可以擴大這個列表，屏蔽那些Email提取爬蟲、網站克隆爬蟲等(小偷一般不守法，但總比自己什麼都不做強)：

SetEnvIfNoCase User-Agent "^baiduspider" ban_bot

SetEnvIfNoCase User-Agent "^HTTrack" ban_bot

SetEnvIfNoCase User-Agent "^EmailCollector" ban_bot

SetEnvIfNoCase User-Agent "^EmailWolf" ban_bot

SetEnvIfNoCase User-Agent "^ExtractorPro" ban_bot

SetEnvIfNoCase User-Agent "^Offline" ban_bot

SetEnvIfNoCase User-Agent "^WebCopier" ban_bot

SetEnvIfNoCase User-Agent "^Webdupe" ban_bot

SetEnvIfNoCase User-Agent "^WebZIP" ban_bot

SetEnvIfNoCase User-Agent "^Web Downloader" ban_bot

SetEnvIfNoCase User-Agent "^WebAuto" ban_bot

SetEnvIfNoCase User-Agent "^WebCapture" ban_bot

SetEnvIfNoCase User-Agent "^WebMirror" ban_bot

SetEnvIfNoCase User-Agent "^WebStripper" ban_bot

deny from env=ban_bot

.htaccess要用文本方式上傳，有些Apache配置比較怪異，防止引起衝突建議上傳後立刻看看是否影響普通用戶的訪問。如果瀏覽正常，再用FlashGet模擬baiduspider測試這個.htaccess是否工作，方法是：

FlashGet->工具->選項->協議，把HTTP用戶代理改成用戶自定義：baiduspider;然後用FlashGet下載該網站任意頁面，在FlashGet的下載日誌里得到HTTP/1.1 403 Forbidden則成功.

喜歡這篇文章嗎？立刻分享出去讓更多人知道吧！