Засилие ботов на сайте

1 234
alaev
На сайте с 18.11.2010
Offline
768
#21

Я бы не рекомендовал кого-то из поиска банить

Создание и продвижение сайтов - https://alaev.net , аудиты сайтов, контекстная реклама
Y8
На сайте с 14.12.2016
Offline
66
#22
alaev #:

Я бы не рекомендовал кого-то из поиска банить

Да, очень не хочется этого делать, это как себе в ногу стрельнуть…

L
На сайте с 29.10.2018
Offline
175
#23
это точно а то я заблочил и сразу лишился 50 проц дохода
GRAFLEKX
На сайте с 05.11.2010
Offline
212
#24

Вы только учтите, что статья там несколько устарела, правила в  Cloudflare сейчас изменены и выглядят немного иначе.

Но как ориентир, эта статья не плохая, только применять рекомендации нужно обдуманно, а не копипастом из статьи.

И еще, там первым правилом советуют ставить "Good Bots", по которому  Cloudflare пропускает всех ботов, которых считает хорошими.

Это немного не верно, так как "хорошими"  Cloudflare считает много лишнего, в том числе всякие краулеры, типа: Ahrefs,  SEMRush и прочих ботов, через которые конкуренты чекают ваш сайт или зарубежные боты, которые запросто положат ваш сервер при сканировании.

Первым правилом лучше ставить "Bad Bots", где через User agent вы отсеете всех ботов, которые вам не нужны.

А уже вторым правилом ставьте  "Good Bots" и в нем включайте "Known BotsCloudflare.

И самое главное, отключайте IPV6 на  Cloudflare и на сервере - сразу отсеете кучу хлама.

Мы поможем в поиске работы: стабильная работа для вас ( https://www.rabota.ru ), вакансии и резюме.
S
На сайте с 12.10.2012
Offline
208
#25
yago85 #:

Я тоже думал что ограничу проход для прямого трафика и все станет норм, а они оказались еще умеют подстраиваться. С прямым трафиком все понятно, особенно если своего закладочного мало. А вот как их из надежно из поиска отсеивать, без блокировок подсетей, пока не понимаю.

Да, получается что можно.

Потому что в основном боты идут с IPv6

У меня боты на 95% IPv4. После фильтрации прямых заходов, они все так и продолжают ломится, что видно в статистике CF.

По поводу подмены реферера Яндекса в запросе, как то странно получается. У них наверное должны визиты сопоставляться, когда переход идет из поиска. User agent из поиска и User agent, который метрика разбирает.

И еще прогревающие боты по куче сайтов ходят, переходя из поиска, чтобы нагулять статистику, а в вашем случае сразу идут на сайт. Не понятен смысл таких переходов.

Sdrozdov
На сайте с 19.02.2021
Offline
42
#26
 Вчера на одном сайте заметил, что количество прямых ботов в 5-10 раз (по дням) превышает траффик из поисковиков.  Причем появились они резко.
S
На сайте с 12.10.2012
Offline
208
#27
Sdrozdov #:
 Вчера на одном сайте заметил, что количество прямых ботов в 5-10 раз (по дням) превышает траффик из поисковиков.  Причем появились они резко.
Теперь они будут так каждый день, пока не отфильтруете.
Sdrozdov
На сайте с 19.02.2021
Offline
42
#28
sagamorr #:
Теперь они будут так каждый день, пока не отфильтруете.

Уже.

Накрутчики в принципе сбивают сайтам всю статистику по целевой аудитории. Правильно тут више писали - у сайта по женским средствам гигиены целевая аудитория мужики за 40 :(

skapunker
На сайте с 15.01.2014
Offline
217
#29

Я для борьбы с ботами сам себе сделал файрвол, который с помощью рекапчи 3 и 2 и некоторых других методов фильтрует ботов и всякую шушеру. Работает довольно эффективно. Но опять же рекапча не бесконечная.

jpg 2023-04-25_10.17.25_6e9b1719e266.jpg
jpg 2023-04-25_10.17.12_9289f71996ef.jpg
Виталий Литвинов
На сайте с 08.05.2008
Offline
117
#30
Я сделал чтобы на сайте распознавало и банило быстрых ботов - кроме поисковиков создающих большую нагрузку на сервер.
Я их вычисляю так - показываю картинку через джава скрипт которая ставит куки в браузер - люди в нормальных браузерах ходят с этой cookies, а роботы ходят без неё - так и распознаю людей и роботов! А дальше дело техники - делай с ними что хочешь!
1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий