как забанить yahoo и msn

B
На сайте с 15.10.2005
Offline
5
1180

подскажите как забанить yahoo и msn с помощью .htaccess

по их рефам

Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)

msnbot/1.0 (+http://search.msn.com/msnbot.htm)

Коля Дубр
На сайте с 02.03.2005
Offline
153
#1

Банить надо публично, с размахом, чтоб другим неповадно было -)

А почему нельзя в robots.txt просто закрыть?

Если очень хочется через htaccess, используйте mod_rewrite, что-то вроде этого (спьяну могу накосячить, это общая мысль, а не рабочий пример) :

RewriteCond %{HTTP_USER_AGENT} ^msnbot.*

^.*$ [F]

Как-то так. Вот мануал:

http://www.egoroff.spb.ru/portfolio/apache/mod_rewrite.html#rewritecond

Разрабатываю общую шину (http://habrahabr.ru/company/floxim/blog/268467/) помаленьку. ...а еще у меня есть бложек (http://www.blogovo.ru/).
B
На сайте с 15.10.2005
Offline
5
#2

я добавил такой robots на несколько сайтов google выкинул из выдачи несколько сайтов с других новую ссылку в течении недели не проиндексировал

User-agent: *

Disallow: /

Usage-agent: GoogleBot

Disallow:

A
На сайте с 09.08.2004
Offline
82
#3

2Коля Дубр: все-таки накосячил :)

RewriteCond %{HTTP_USER_AGENT} ^.*Slurp.* [NC,OR]

RewriteCond %{HTTP_USER_AGENT} ^.*msnbot.* [NC,OR]

RewriteCond %{HTTP_USER_AGENT} ^.*googlebot.* [NC,OR]

RewriteCond %{HTTP_USER_AGENT} ^.*Yandex.* [NC,OR]

...

RewriteCond %{HTTP_USER_AGENT} ^.*forum.searchengines.ru.* [NC] :)

RewriteRule ^(.*)$ - [F]

и так далее по образцу и подобию (последняя директива без OR)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий