Умерить аппетиты робота

12
KS
На сайте с 14.03.2007
Offline
0
893

Доброго всем!

Подскажите, плиз, можно ли как-то умерить аппетит Яндекса при индексации. Есть магазин на движке Zen-Cart, робот с двух айпишников задалбывает его запросами по несколько штук в секунду и так на протяжении нескольких дней подряд в любое время. Нагрузка на сервак немерянная и хостер грозит отключить.

Один раз отключили на день, так все 70 тыс. страниц тут же из поисковика выпали вместе с адресом и теперь та же байда началась по второму кругу. Однако страницы две недели уже как не появляются в выдаче.

Очень хотелось бы, чтобы поисковик учитывал интересы не только ищущих, но и владельцев ресурсов.

Технически через robots.txt можно хотя бы время индексации ограничить или увеличить интервал между запросами? Че делать-то вообще?

albion
На сайте с 07.10.2005
Offline
247
#1
Kir_Shtoltz:
Технически через robot.txt можно хотя бы время индексации ограничить или увеличить интервал между запросами?

нельзя. в роботсе можно только запретить индексацию.

Kir_Shtoltz:
Че делать-то вообще?

ИМХО: Смените хостинг.

Megavolt
На сайте с 23.12.2005
Offline
179
#2

настраивать нормально сайт или не пользоваться дуратскими движками. неизменившиеся страницы должны отдавать 403. в худшем случае, движек должен кэшировать страницы. нехрена генерить их каждый раз.

Иногда лучше жевать.... (С)
М
На сайте с 01.12.2005
Offline
73
#3
Megavolt:
настраивать нормально сайт или не пользоваться дуратскими движками. неизменившиеся страницы должны отдавать 403. в худшем случае, движек должен кэшировать страницы. нехрена генерить их каждый раз.

Только не 403 (Forbidden), а 304 (Not Modified). А так все правильно.

Cервис для оптимизаторов Optimizer Desktop (http://jdev.ru/od/?utm_source=forum.se.ru&utm_medium=signature): мониторинг позиций, учет ссылок. Программа для оптимизаторов и вебмастеров OptiSuit (http://optisuit.ru/?utm_source=forum.se.ru&utm_medium=signature): Optimizer Desktop на Вашем компьютере
KS
На сайте с 14.03.2007
Offline
0
#4

Не совсем понимаю.

Движок кэширует страницы, но они ж динамические, а значит изменяются. Как может сервер тогда выдавать 304?

Движок стандартный, товаров меньше тысячи, клон Os Commerce, по инету до дури таких магазинов стоит. Однако, сотня юзеров одновременно не создает такую загрузку, как один робот :(

DB
На сайте с 16.02.2007
Offline
6
#5

Хостера смените и ни каких проблем не будет:)

Видно он слабоват... И если вы раскрутите магазин по полной у вас таже проблема будет.

З.Ы.: Увы но индексацию мы контралировать не можем. Только запрещать.

Недорогое продвижение сайтов от 150$ (/ru/forum/123508)
KS
На сайте с 14.03.2007
Offline
0
#6

Хостер - Инфобокс, я с ним уже почти три года, не могу пожаловаться, что плох. Другие хостеры на загрузку не обращают внимания? :)

Может, тарифный план имеете в виду?

DB
На сайте с 16.02.2007
Offline
6
#7
Kir_Shtoltz:


Может, тарифный план имеете в виду?

Не знаю может и из за него. Ну вообще я на Инфобокс такого не замечал.

Evgen1973
На сайте с 20.11.2006
Offline
154
#8
Kir_Shtoltz:
Другие хостеры на загрузку не обращают внимания? :)

Обращают. У меня такая же проблема была на днях. Сайт выключили. Правда всего на час. Яндекс кроме главной ничего не индексировал, а тут его прорвало. Примерно такая же история. Тоже инет магазин. Движок vitrtuemart. Хостер - Прохостинг.

nik-shumilin.narod.ru (http://nik-shumilin.narod.ru)
C
На сайте с 20.11.2006
Offline
11
#9

умерить аппетиты робота возможно правильной настройкой сервера - отдавать 304 код и last-modified. Можно перегонять часто меняющиеся страницы в статику, например главную. Генерировать такие переведенные в статику страницы можно допустим раз в сутки, или по необходимости. После перевода своего ресурса (одного на моем личном выделенном сервере) на такой принцип нагрузка ократилась в 5-ть раз.

KS
На сайте с 14.03.2007
Offline
0
#10

Самое занятное в этом деле, что до недавнего времени магазин уже стоял 2 месяца и яндексом уже был проиндексирован, а тут он как с цепи сорвался - выкачал почти гигабайт за пару дней. У знакомых та же фигня - бюро знакомств завалил не так давно, оно работало почти год до того без проблем.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий