apache运用.htaccess文件结束屏蔽wget下载网站内容

经发现,尽管wget遵循 robots.txt 规矩,可是那个仍是能够绕过去,现在56小编把我自己运用的屏蔽办法同享给我们:

  1. 屏蔽下载任何文件

.htaccess

SetEnvIfNoCase User-Agent "^wget" bad_bot

<Limit GET POST>

Order Allow,Deny

Allow from all

Deny from env=bad_bot

</Limit>

  1. 屏蔽下载部分文件

.htaccess

SetEnvIfNoCase User-Agent "^Wget" bad_bot

SetEnvIfNoCase User-Agent "^Wget/1.5.3" bad_bot

SetEnvIfNoCase User-Agent "^Wget/1.6" bad_bot

<Files ~ ".(html|pdf|mp3|zip|rar|exe|gif|jpe?g|png|php|jsp) $">

Order Allow,Deny

Allow from all

Deny from env=bad_bot

</files>