Как забанить Yahoo?

igramnet
На сайте с 01.01.2007
Offline
75
1710

Как забанить через htaccess Yahoo через user-agent и через диапазон ip 74.6.1.1 - 74.6.255.255 ?

http://zarabotok2.ru (http://zarabotok2.ru) - начни зарабатывать на своём сайте!
T
На сайте с 11.08.2005
Offline
181
#1

А не проще просто в robots.txt написать запрет?

Если я не ошибаюсь имя бота Slurp...


User-agent: Slurp
Disallow: /

запрет на доступ нескольким ip в htaccess

XBons
На сайте с 28.01.2006
Offline
110
#2
Timen:
Если я не ошибаюсь имя бота Slurp...

так точно.

Итоговый robots.txt:

User-agent: Slurp

Disallow: /
User-agent: *
Disallow:
Disallow: /cgi-bin/
Disallow: /admin/
...

Host:http://www.yoursite.com/
Sitemap: http://www.yoursite.com/sitemap.gz

PS: мало ли захочется еще кого запретить, вот генератор файла robots.txt

igramnet
На сайте с 01.01.2007
Offline
75
#3

Спасибо всем!

Lord Maverik
На сайте с 15.04.2003
Offline
471
#4

Тоже был вынужден забанить эту гадость. Выбрал путь через htaccess - так надежней. На форуме пол милиона сообщений. Этот паук inktomi таскается по форуму без перерыва. Постоянно кол-во гостей зашкаливает за 1000. А ресурс русский. Глянул, 1% переходов с яху. Жаль их конечно, но нагрзку лишнию нехилую этот паук создает :(

Кстати до кучи MSN тоже забанил.

<Files *>

Order Allow,Deny
Allow from all
Deny from 74.6.0.0/255.255.0.0
Deny from 65.55.208.0/255.255.255.0
</Files>
RedMall.Ru (https://redmall.ru) - Товары из Китая (Таобао, Tmall) с проверкой качества, скидка для форумчан 7% Партнерская программа 2 уровня: 5% + 5%. Подробнее. (https://redmall.ru/about/partner/)
V
На сайте с 22.02.2007
Offline
150
#5

А может зря MSN забанили? Все таки траф с него больше чем с Яхи :) А вот яху тоже думаю забанить... Траф жрет а народу 1 человек... Вот только вопрос, а какие еще поисковики используют базу Яхи? Может с них есть какой траф? Хотя что-то сомнительно...

Lord Maverik
На сайте с 15.04.2003
Offline
471
#6

У меня с Яху 1%, с Мсн 0,3%.

Кстати, хотя активность заметно поубивалась от этих двух, все равно статистика форума кажет (которая по юзер агент работает), что эти два товарища продолжают у меня ошиваться.

V
На сайте с 22.02.2007
Offline
150
#7

У меня наоборот, Яху 0,5%, МСН 1,1% :) Только вот вопрос, поиск live.com пользуется теми-же базами что МСН или нет? Поскольку с live.com траф приличный

M
На сайте с 28.02.2006
Offline
236
#8

А зачем же совсем банить? Поставьте в robots.txt

User-agent: Slurp

Crawl-delay: 10

Описание что да как здесь

У меня этот робот тоже несколько форумов серьезно долбил, экспериментальным путем удалось установить интервал Crawl-delay: 60, при этом яху успокоился, но не ушел совсем.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий