Как унять бота Яндекса?

Solmyr
На сайте с 10.09.2007
Offline
501
1004

Бот Яндекса постоянно лазит по сайту и накручивает траффик. Примерно впятеро против живых пользователей. Не верю что это ему правда нужно для индексации. Гугль нормально индексирует накручивая траффика 0.3 от живых пользователей...

В связи с этим вопрос, существуют ли способы унять бота Яндекса, указать, например, ему мин. интервал между запросами страниц или еще как...

K
На сайте с 31.01.2001
Offline
737
#1

Либо сократить число страниц на сайте, либо увеличить число живых пользователей.

А в чем проблема, жалко трафик?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
T
На сайте с 11.08.2005
Offline
181
#2

Лучший способ для ВСЕХ правильных ботов (в том числе и бота Яндекса) - правильно обрабатывать и выдавать If-Modified-Since.

Тем самым, для больших порталов, можно существенно сократить трафик и нагрузку на сервер и сделать работу постоянных пользователей сайта немного быстрее.

Solmyr
На сайте с 10.09.2007
Offline
501
#3
Kost:
Либо сократить число страниц на сайте, либо увеличить число живых пользователей.
А в чем проблема, жалко трафик?

Не только траффика но и процессора... Нет гарантии что при увеличении числа живых пользователей коэффициент 5 уменьшится... Потому что не понятно, откуда такой коэффициент взялся.

Timen:
Лучший способ для ВСЕХ правильных ботов (в том числе и бота Яндекса) - правильно обрабатывать и выдавать If-Modified-Since.
Тем самым, для больших порталов, можно существенно сократить трафик и нагрузку на сервер и сделать работу постоянных пользователей сайта немного быстрее.

Можно про это поподробнее?

rmikel
На сайте с 25.05.2007
Offline
142
#4
Solmyr:
Как унять бота Яндекса?

Запретить индексацию всех страниц Яндексовскому боту :)

- Здесь (http://www.sape.ru/r.fa62530507.php) становятся богатыми буратинами... и здесь (http://www.mainlink.ru/?partnerid=11422) тоже. ;) - "В жизни нет ничего такого, ради чего стоило бы спешить" (c)то-то сказал.
T
На сайте с 11.08.2005
Offline
181
#5
Solmyr:
Можно про это поподробнее?

Есть много топиков по теме:

http://www.yandex.ru/yandsearch?text=If+Modified+Since&site=http%3A%2F%2Fforum.searchengines.ru%2F&ras=1&site_manually=true&lr=187

aspnet
На сайте с 17.09.2005
Offline
68
#6

Надо посмотреть IP ботов яндекса

если это не яндекс

то вводить запреты против "яндексоидов"

BLACK_DANTE
На сайте с 24.03.2007
Offline
188
#7

А у меня другой вопрос. Стоит на сайте интернет-магазин, а бот яши ходит только по нему, причем очень даже часто... точнее никогда не заглдывая на сам сайт (форум иногда тоже индексирует) Что это? страниц на сайте придостаточно да и уникалььный контент есть... Если надо могу даже УРЛ в личку показать...

Будьте людьми.
Solmyr
На сайте с 10.09.2007
Offline
501
#8
aspnet:
Надо посмотреть IP ботов яндекса
если это не яндекс
то вводить запреты против "яндексоидов"

Это Яндекс, причем в основном с одного IP: 213.180.207.25 есть Яндекс и с других IP но меньше...

BLACK_DANTE
На сайте с 24.03.2007
Offline
188
#9

А он лазит по каким-то опеределенным страницам больше? или по всему сайту равномерно? Может вы с перелинковкой что-то намутили? Если заходит только на определенные страницы, то думаю можно временно через роботс закрыть эти страницы

Solmyr
На сайте с 10.09.2007
Offline
501
#10
BLACK_DANTE:
А он лазит по каким-то опеределенным страницам больше? или по всему сайту равномерно? Может вы с перелинковкой что-то намутили? Если заходит только на определенные страницы, то думаю можно временно через роботс закрыть эти страницы

Сайт на PHP... он обращается вообще говоря именно к тому скрипту, к которому должен обращаться, и который должен индексировать... Но с какими параметрами - сложно проанализировать...

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий