Не работает запрет ботов-сканов через .htaccess

12
ИШ
На сайте с 04.02.2016
Offline
13
5960

Добрый день!

Скан-боты постоянно гуляют по сайту и создают нагрузку.

Посмотрел на форумах, что для этого в .htaccess надо прописать:

RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} ^.*(AhrefsBot|SolomonoBot|SearchBot|MJ12bot|bingbot|SemrushBot|Mail|DotBot).* [NC]
RewriteRule ^.* - [F,L]

Но смотрю в файле access_log боты все равно спокойно гуляют по сайту.

Например, сегодня обнаружил DotBot/1.1, Mail.RU_Bot/Fast/2.0.

Как от них правильно избавиться? Почему код не работает?

Anton307
На сайте с 01.02.2016
Offline
57
#1
Ильгиз Ш:
Добрый день!

Скан-боты постоянно гуляют по сайту и создают нагрузку.
Посмотрел на форумах, что для этого в .htaccess надо прописать:
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} ^.*(AhrefsBot|SolomonoBot|SearchBot|MJ12bot|bingbot|SemrushBot|Mail|DotBot).* [NC]
RewriteRule ^.* - [F,L]

Но смотрю в файле access_log боты все равно спокойно гуляют по сайту.
Например, сегодня обнаружил DotBot/1.1, Mail.RU_Bot/Fast/2.0.
Как от них правильно избавиться? Почему код не работает?

Последнею неделю тоже борюсь с HTTP флудом ответа так и не нашел .htaccess не помогает, какой у Вас хостинг? Смотрю проблема такая у многих появилась.

ИШ
На сайте с 04.02.2016
Offline
13
#2
Anton307:
Последнею неделю тоже борюсь с HTTP флудом ответа так и не нашел .htaccess не помогает, какой у Вас хостинг? Смотрю проблема такая у многих появилась.

Хостинг timeweb. Они начали присылать сообщения с просьбой разобраться с нагрузкой, иначе отключат сайты. Последние недели 2-3 большая нагрузка на сервер

Zegeberg
На сайте с 30.09.2010
Offline
282
#3

Попробуйте этот скрипт. Там гибкие настройки, можно указать исключения и допустимое количество визитов за определённый интервал времени. Плюс блокируйте админку для всех IP кроме ваших. Для этого в папку administrator вставьте htaccess

<Files index.php>

order deny,allow

deny from all

allow from ваш IP или маска

</files>

Ссылки с форумов, блогов и соц сетей ( https://forumok.com/p/c1710b6b/ ) Антибот ( https://antibot.cloud/?ref=15262 )
ИШ
На сайте с 04.02.2016
Offline
13
#4

Попроще методов блокировки поисковых ботов нет?

il_cattivo
На сайте с 25.06.2016
Offline
63
#5
Ильгиз Ш:
Попроще методов блокировки поисковых ботов нет?

Если WP, то плагинами. Будут тоже самое делать, но есть оболочка

proweb.com.ua
На сайте с 05.03.2007
Offline
156
#6

Ильгиз Ш, в логах будут записи всегда!

Вы посмотрите какой ответ отдает севрер в тех же логах.

Если 403, то всё ок, если 200 значит действительно не работает.

Данное правило Вы размещаете после:

RewriteEngine On

?

Вообще HTTP_USER_AGENT не надежный вариант, так как могут боты маскироваться под известными, тут лучше банить их по айпи.

  • Вычисляете в логах айпи бота, заходите сюда
  • Указываете айпи адрес, ставите флаг напротив Search resource objects in all available databases и нажимаете поиск.

В информации находите полный блок айпи адресов, например 127.0.0.0/20

Далее в .htaccess указываете следующее:


Order Allow,Deny
Allow from all
Deny from 127.0.0.0/20
Deny from 192.168.0.0/22

Естественно IP 127.0.0.0 и 192.168.0.0, и соответственно их маски /20 и /22 заменяете на результат вывода информации по ссылке выше.

---------- Добавлено 13.10.2017 в 16:54 ----------

Вся подсеть в выводе информации указана после директивы route.

Иногда бывает, что она отсутствует, тогда можно вычислить из директивы inetnum на этом сайте

Вводите начальный айпи и конечный которые указаны в inetnum, и получаете результат, к которому нужно дописать Deny from и проблел.

Пополняете список.

Очень не рекомендую добавлять просто по IP адресу и всё, потому как обработка списка запрещенных адресов тоже дает нагрузку, и если это список разрастется до несколько сотен, а может и тысячу айпи адресов, Вы можете получить обратный эффект, в том плане, что сервер получит больше нагрузки в итоге.

FAQ group Твой форум (https://faq.wtf)
J-ran
На сайте с 24.06.2012
Offline
262
#7
Ильгиз Ш:
Почему код не работает?

А сервер-то хоть под Апачем работает?

SeVlad
На сайте с 03.11.2008
Offline
1609
#8
il_cattivo:
Если WP, то плагинами. Будут тоже самое делать, но есть оболочка

Не тоже самое. Ну те результат может и будет тоже, но цена за него будет намного выше. Перекладывать на php и тем более на движок задачи сервера - кривой путь и дорогое решение.

Ильгиз Ш:
и создают нагрузку

Смотря какие боты и какую нагрузку. В 90% случаев боты указывают, на то, что нужно оптимизировать сайт/сервер и с ними не нужно "бороться".

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
il_cattivo
На сайте с 25.06.2016
Offline
63
#9
SeVlad:
Не тоже самое. Ну те результат может и будет тоже, но цена за него будет намного выше. Перекладывать на php и тем более на движок задачи сервера - кривой путь и дорогое решение.

Например iThemes Security пишет правила в .htaccess, как говорят, последний можно сохранить, а сам плагин удалить. Если не ошибусь Wordfence Security тоже. Решение найти специалиста для оптимизации тоже не дешевое.

SeVlad
На сайте с 03.11.2008
Offline
1609
#10
il_cattivo:
Например iThemes Security пишет правила в .htaccess, как говорят, последний можно сохранить, а сам плагин удалить

Никогда не видел, чтобы так кто-то делал.

Но в там случае можно говорить, что надо поставить блокнот и логи :).

Ида. Пока он будет что-то собирать и "писать" - это будут расходы. Быстрее и дешевле это сделать анализом логов и блокнотом.

il_cattivo:
Решение найти специалиста для оптимизации тоже не дешевое.

Ну и помидоры не бесплатны. Но можно выращивать самому.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий