Ограничение робота

Олег Магрелов
На сайте с 21.04.2011
Offline
130
232

Всем здравствуйте. Возникла необходимость ограничить гугловских роботов, т.к они в последнее время создают большую нагрузку на cpu - сайты периодически сильно тормозят. Вроде как гугл crawl delay игнорирует, в панели вебмастера можно настроить, но не знаю какой интервал поставить? Сколько запросов в секунду или сколько сек. между запросами, подскажите

GAMMA
На сайте с 27.12.2006
Offline
154
#1

У меня один запрос в секунду с паузой в 2 секунды на одном сильно посещаемом сайте который и так, без гуглороботов в пике посещаемости подтормаживал. Но полностью решить проблему удалось не ограничениями а оптимизацией сайта. Ведь кроме гугла есть ещё яша и прочие. Да ещё разного рода неизвестные роботы которые не представляются.

Мой сервис блогов (http://mublog.ru) и личный блог (http://blogroot.ru)
Олег Магрелов
На сайте с 21.04.2011
Offline
130
#2

Да, наверное, у меня 10 сайтов на 1 площадке, так что толку наверно придётся слишком большие ограничения ставить

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий