- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Зачем быть уникальным в мире, где все можно скопировать
Почему так важна уникальность текста и как она влияет на SEO
Ingate Organic
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Робот с IP 81.222.64.10, как я понял, это Рамблеровский бот, он плюёт на запрет в роботсе и всё равно лезет куда не нужно, запрет такой:
Возможно, ему стоит указать отдельный запрет? Пожалуйста, подскажите, поможет ли, и где почитать название бота которого нужно закрыть. Я вот думаю, можно оставить этот запрет, который для всех роботов, а ниже ещё для каждого сделать отдельный, если они вдруг проигнорируют общий, то свой точно заметят, как считаете?
Почему вы решили, что это бот Рамблера? Какой User-agent в логах?
Скачал ли этот бот /robots.txt ?
Когда появился запрет?
Почему вы решили, что это бот Рамблера? Какой User-agent в логах?
Скачал ли этот бот /robots.txt ?
Когда появился запрет?
Робот Рамблера решил так как искал этот IP через Яндекс и нашёл обсуждение форума, там народ приводил примеры из своих логов. К своим логам у меня доступа нет, к сожалению, поэтому не могу посмотреть, но статистика самого сайта засекла данный IP адрес, по нему и искал. Запрету около недели, все роботы успокоились, не лезут туда, а вот Рамблер на днях пролез с какого-то IP, проверил его, там были данные именно Рамблера, и тут ещё этот IP сегодня.
Вы всё написали правильно (единственное, как правильно заметил Kost - почему это бот Рамблера?, ), попробуйте использовать запрет только для Рамблера:
User-agent: StackRambler
Disallow: /discussthis/
и общую конструкцию для всех роботов
User-agent: *
......
Вы всё написали правильно (единственное, как правильно заметил Kost - почему это бот Рамблера?, ), попробуйте использовать запрет только для Рамблера:
User-agent: StackRambler
Disallow: /discussthis/
и общую конструкцию для всех роботов
User-agent: *
......
Установил для Рамблера запрет отдельно, надеюсь, поможет. Скажите, пожалуйста, а можно ли устанавливать запрет для определенного IP? Если да, то как?
Я сталкивался с такой ситуацией, определённый ip адрес создавал большую нагрузку на сервер. Для блокировки обратитесь в тех. поддержку Вашего хостинга, они должны предоставить Вам возможность заблокировать данный ip.
Я сталкивался с такой ситуацией, определённый ip адрес создавал большую нагрузку на сервер. Для блокировки обратитесь в тех. поддержку Вашего хостинга, они должны предоставить Вам возможность заблокировать данный ip.
Мне бы не хотелось его вовсе блокировать, просто закрыть доступ к определенной дирректории и от неё производных дирректорий и файлов, чтобы он там не копался. Было бы очень удобно через роботс его прикрыть, если так можно.
К своим логам у меня доступа нет
Ну и не парьтесь тогда.
Ну и не парьтесь тогда.
Проблема то остаётся, нужно как-то решать.
Пока не вижу проблемы. User-agent вы не указали и не знаете, мало ли что находится на этом IP.
В поиск Рамблера попали какие-то не те страницы? Где проблема-то?
Пока не вижу проблемы. User-agent вы не указали и не знаете, мало ли что находится на этом IP.
В поиск Рамблера попали какие-то не те страницы? Где проблема-то?
Вот строка из лога:
81.19.66.89 - - [17/Dec/2008:08:21:11 +0300] "GET /discussthis/new/584 HTTP/1.1" 302 - "-" "StackRambler/2.0 (MSIE incompatible)"
Значит это точно робот Рамблера, но он не реагирует на общий запрет, как ему запретить каталог /discussthis/ и всё, что в нём?