Гугл-бот грузит сервер

LineArt
На сайте с 30.03.2007
Offline
23
2841

Довольно большой динамический сайт периодически падает, когда Гугл приходит его индексить (индексит очень часто, иногда через несколько минут уже новая инфа в индексе). Периодически, видимо, приходит индексить полностью и сервак умирает. Что делать? Сайт о фотографии, соответственно много фоток, есть несколько тяжелых страниц, которые запросами к базе сильно грузят. Что посоветуете?

sabotage
На сайте с 14.02.2007
Offline
192
#1
LineArt:
Что посоветуете?

Пойти в панель вебмастера (в гугле) и указать боту, чтобы приходил реже.


Панель инструментов > Инструменты > Задайте скорость сканирования
agentvini
На сайте с 27.06.2008
Offline
40
#2

можно в сайтмапе указать частоту сканирования страниц

Тематический обмен (/ru/forum/319815) ссылками и статьями на темы туризм, отдых, гостиницы, рестораны с сайтом ЯК, тИЦ 300, Дмоз, ПР 3
LineArt
На сайте с 30.03.2007
Offline
23
#3
sabotage:
Пойти в панель вебмастера (в гугле) и указать боту, чтобы приходил реже.

Извините за ламерский вопрос, но это уменьшит нагрузку? В том плане что не будет ли Гугл в этом случае приходить редко, но метко (то есть сразу индексить много)?

sabotage
На сайте с 14.02.2007
Offline
192
#4
LineArt:
Извините за ламерский вопрос, но это уменьшит нагрузку? В том плане что не будет ли Гугл в этом случае приходить редко, но метко (то есть сразу индексить много)?

Скажем так:

google.com/webmasters:

Более низкая скорость уменьшит трафик робота Googlebot на вашем сервере, но мы не сможем сканировать ваш сайт с той же частотой.

Раз функцию прикрутили, значит об этом думали. Имхо, бот будет реже проверять отсканированные документы на предмет обновления.

S
На сайте с 09.10.2007
Offline
186
#5
LineArt:
Довольно большой динамический сайт периодически падает, когда Гугл приходит его индексить (индексит очень часто, иногда через несколько минут уже новая инфа в индексе). Периодически, видимо, приходит индексить полностью и сервак умирает. Что делать? Сайт о фотографии, соответственно много фоток, есть несколько тяжелых страниц, которые запросами к базе сильно грузят. Что посоветуете?

я бы лучше оптимизнул сайт, чем обрезать бота. жалко все же... обидится :)

Удобная панель для доменных имен (http://panel.started.ru/) с массовыми операциями. Индивидуальные цены по запросу.
P
На сайте с 08.03.2007
Offline
250
#6

надо гуглу сообщать список изменившихся документов. Для этого надо прочитать документацию по google sitemap - http://www.google.com/support/webmasters/bin/answer.py?answer=40318

Skaizer
На сайте с 11.08.2007
Offline
104
#7

Так же рекомендую отключить для индексации разделы сайта, не предназначенные для индексации. Это существенно снизит нагрузку, и позволит роботу работать только с действительно важными страницами.

Размножение статей, уник до 100%, от 11$/1000 символов. Статьи индексируются Яндексом. (/ru/forum/439355)
S
На сайте с 10.08.2006
Offline
115
#8

robots.txt

Crawl-delay: 5 - говорит, чтобы робот обращался к сайту не чаще, чем раз за 5 секунд

S
На сайте с 28.10.2005
Offline
319
#9
Shadow:
robots.txt

Crawl-delay: 5 - говорит, чтобы робот обращался к сайту не чаще, чем раз за 5 секунд

Гугл не поддерживает Crawl-delay

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий