Зеркальщик ходит по урлам запрещенным в robots?

Solmyr
На сайте с 10.09.2007
Offline
501
440

Читаю логи... Смотрю, что зеркальщик Яндекса ходил по урлам запрещенным в robots. При этом в robots перед этим глянул. Это нормально? Запрет стоит для всех ботов User-agent *

На странице есть несколько запрещенных урлов.... зеркальщик сходил по одному из них, получил код 301 и по остальным ходить не стал.

И еще поделюсь наблюдением, чтоб темы не плодить: Индексатор картинок, в отличие от обычного индексатора, переходит по 301 редиректу с одного домена на другой.

Maxiz
На сайте с 04.01.2008
Offline
218
#1

у меня один сайт яндекс по запрещённым урлам аж с двух IP хреначит одновременно...задолбался с хостером общаться насчёт превышения нагрузки.

Б
На сайте с 30.06.2008
Offline
200
#2

Maxiz, кто-то хорошо сослался. ;)

Будь мудрее. Выгляди глупее.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий