Робот Рамблера игнорирует запрет в роботсе...

12
DN
На сайте с 20.07.2006
Offline
32
664

Робот с IP 81.222.64.10, как я понял, это Рамблеровский бот, он плюёт на запрет в роботсе и всё равно лезет куда не нужно, запрет такой:


User-agent: *
Disallow: /discussthis/

Возможно, ему стоит указать отдельный запрет? Пожалуйста, подскажите, поможет ли, и где почитать название бота которого нужно закрыть. Я вот думаю, можно оставить этот запрет, который для всех роботов, а ниже ещё для каждого сделать отдельный, если они вдруг проигнорируют общий, то свой точно заметят, как считаете?

K
На сайте с 31.01.2001
Offline
737
#1

Почему вы решили, что это бот Рамблера? Какой User-agent в логах?

Скачал ли этот бот /robots.txt ?

Когда появился запрет?

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
DN
На сайте с 20.07.2006
Offline
32
#2
Kost:
Почему вы решили, что это бот Рамблера? Какой User-agent в логах?
Скачал ли этот бот /robots.txt ?
Когда появился запрет?

Робот Рамблера решил так как искал этот IP через Яндекс и нашёл обсуждение форума, там народ приводил примеры из своих логов. К своим логам у меня доступа нет, к сожалению, поэтому не могу посмотреть, но статистика самого сайта засекла данный IP адрес, по нему и искал. Запрету около недели, все роботы успокоились, не лезут туда, а вот Рамблер на днях пролез с какого-то IP, проверил его, там были данные именно Рамблера, и тут ещё этот IP сегодня.

W
На сайте с 16.10.2008
Offline
142
#3

Вы всё написали правильно (единственное, как правильно заметил Kost - почему это бот Рамблера?, ), попробуйте использовать запрет только для Рамблера:

User-agent: StackRambler

Disallow: /discussthis/

и общую конструкцию для всех роботов

User-agent: *

......

Миледи: интернет-магазин украшений с природными камнями (https://milady-24.ru/)
DN
На сайте с 20.07.2006
Offline
32
#4
Webexpert:
Вы всё написали правильно (единственное, как правильно заметил Kost - почему это бот Рамблера?, ), попробуйте использовать запрет только для Рамблера:

User-agent: StackRambler
Disallow: /discussthis/

и общую конструкцию для всех роботов

User-agent: *
......

Установил для Рамблера запрет отдельно, надеюсь, поможет. Скажите, пожалуйста, а можно ли устанавливать запрет для определенного IP? Если да, то как?

W
На сайте с 16.10.2008
Offline
142
#5

Я сталкивался с такой ситуацией, определённый ip адрес создавал большую нагрузку на сервер. Для блокировки обратитесь в тех. поддержку Вашего хостинга, они должны предоставить Вам возможность заблокировать данный ip.

DN
На сайте с 20.07.2006
Offline
32
#6
Webexpert:
Я сталкивался с такой ситуацией, определённый ip адрес создавал большую нагрузку на сервер. Для блокировки обратитесь в тех. поддержку Вашего хостинга, они должны предоставить Вам возможность заблокировать данный ip.

Мне бы не хотелось его вовсе блокировать, просто закрыть доступ к определенной дирректории и от неё производных дирректорий и файлов, чтобы он там не копался. Было бы очень удобно через роботс его прикрыть, если так можно.

K
На сайте с 31.01.2001
Offline
737
#7
DmitryNa:
К своим логам у меня доступа нет

Ну и не парьтесь тогда.

DN
На сайте с 20.07.2006
Offline
32
#8
Kost:
Ну и не парьтесь тогда.

Проблема то остаётся, нужно как-то решать.

K
На сайте с 31.01.2001
Offline
737
#9

Пока не вижу проблемы. User-agent вы не указали и не знаете, мало ли что находится на этом IP.

В поиск Рамблера попали какие-то не те страницы? Где проблема-то?

DN
На сайте с 20.07.2006
Offline
32
#10
Kost:
Пока не вижу проблемы. User-agent вы не указали и не знаете, мало ли что находится на этом IP.
В поиск Рамблера попали какие-то не те страницы? Где проблема-то?

Вот строка из лога:

81.19.66.89 - - [17/Dec/2008:08:21:11 +0300] "GET /discussthis/new/584 HTTP/1.1" 302 - "-" "StackRambler/2.0 (MSIE incompatible)"

Значит это точно робот Рамблера, но он не реагирует на общий запрет, как ему запретить каталог /discussthis/ и всё, что в нём?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий