apache禁止爬虫

Apache 
①、通过修改 .htaccess文件 
修改网站目录下的.htaccess,添加如下代码即可 

公司主营业务:网站建设、做网站、移动网站开发等业务。帮助企业客户真正实现互联网宣传,提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化,感谢他们对我们的高要求,感谢他们从不同领域给我们带来的挑战,让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出峨边彝族免费做网站回馈大家。

 RewriteEngine On

RewriteCond %{HTTP_USER_AGENT} (^$|FeedDemon|JikeSpider|Indy ) [NC] 
RewriteRule ^(.*)$ - [F] 

②、通过修改httpd.conf配置文件 
找到如下类似位置,根据以下代码 新增 / 修改,然后重启Apache即可: 
DocumentRoot /home/wwwroot/xxx 
 
         SetEnvIfNoCase User-Agent ".*(FeedDemon|JikeSpider|Indy )" BADBOT 
        Order allow,deny 
        Allow from all 
       deny from env=BADBOT 
 


本文题目:apache禁止爬虫
分享链接:http://myzitong.com/article/gjpess.html