Помощь в фильтрации ботов через CloudFlare

M
На сайте с 13.06.2020
Offline
40
#1071
andrey911 #:
Кто вносил в исключение ботов от Яндекса, Вк и ОК (по соц.сетям превью не подтягивает, если в целом по стране делать фильтрацию ботов)? Подскажите пожалуйста, как это делается? 

Правило Skip - User agent - contains:

; +http://yandex.com/bots

vkShare

OdklBot/1.0

RS
На сайте с 05.05.2023
Offline
10
#1072
mrftun #:

В бесплатной версии ограничение на количество правил. Видимо, у вас прям много все прописано.

Да, много прописано в 4 и 5 правилах (BAD CRAWLER  и  BAD CRAWLER_1), поэтому и не получается их объединить ни с каким из последних трёх. Ещё можете подсказать, у меня переходы происходят на главную страницу, в правиле надо указать  http.request.uri.path contains "/" или  http.request.uri.path contains "//", т. е. один / или два?

RS
На сайте с 05.05.2023
Offline
10
#1073
mrftun #:

Попробуйте, должно помочь. JS  Challenge - это проверка браузера на JavaScript, а так как боты имитируют реальный посетителей, то все эти проверки проходят.

Изменил на  Interactive Challenge, посмотрим даст ли это положительный результат...

M
На сайте с 13.06.2020
Offline
40
#1074
RomarioSpirtberg #:

Да, много прописано в 4 и 5 правилах (BAD CRAWLER  и  BAD CRAWLER_1), поэтому и не получается их объединить ни с каким из последних трёх. Ещё можете подсказать, у меня переходы происходят на главную страницу, в правиле надо указать  http.request.uri.path contains "/" или  http.request.uri.path contains "//", т. е. один / или два?

Если не путаю, то для главной страницы нужно указать просто один слэш, но только не url path, а url full и значение не contains, а equals

Smuel
На сайте с 09.01.2021
Offline
33
#1075
mrftun #:

Сначала надо понять о каких ботах идёт речь. Если краулеры всякие, то в белом списке самого Кф находятся всякие ахрефсы и семрашы, то есть их свободно пропускают. Еслм про прямые заходы, то, например, часть ботов спокойно проходят автоматическую проверку. Говорят, особо настырные даже и капчу подтверждения, что не робот, пройдут. Если говорить про поведенческие из поиска, то их Кф вообще никак не останавливает, только если капчу ставить для всех пользователей. Потом смотреть логи и самым подозрительным ее оставлять.

А если ориентироваться на то, что показывает метрика, то там вообще рандом. Яндекс может любого с ВПН признать ботом, а откровенных ботов, но с уже нагуленным профилями считать человеком.

Краулеры, типа  ахрефсы и семрашы  - у меня все заблокированы. Речь идет именно о накрутчиках. Общие принципы фильтрации мне понятны и правила уже давно настроены на нескольких сайтах. Но вот с таким случаем сталкиваюсь впервые. Если смотреть Events в Клауде, то за сутки на главную было всего 49 подозрительных перехода:

А в Метрике совсем другие цифры за те же  24 часа:

Как эти боты просачиваются в Метрику, минуя Клауд? Обычно я блочу их по ASN. А как в этом случае определить ASN, если Клауд эти посещения не видит?

UPD Кажется решил вопрос. Поставил капчу для тех, чей реферер не Яндекс или Гугл. Пример фильтра давали тут парочкой страниц ранее. Всем спасибо)

TheVS
На сайте с 27.12.2006
Offline
427
#1076
RomarioSpirtberg #:

Да, много прописано в 4 и 5 правилах (BAD CRAWLER  и  BAD CRAWLER_1), 

Эта распространенная в интернете инструкция давно не работает, а эти два правила из нее на 95% бесполезны.

🍄 Партнёрская программа для вебмастеров: https://bit.ly/finance_pp
юни
На сайте с 01.11.2005
Offline
901
#1077
Smuel #:
А как в этом случае определить ASN, если Клауд эти посещения не видит?
А ip видит? По ip можно определить роутинг и, соответственно, автономку.
https://a-parser.com/ - парсер для профессионалов SEO, маркетологов, арбитражников и SaaS, https://searchengines.guru/ru/forum/944108 - прокси-сервис на базе операторов домашнего интернета, сотни тысяч IP-адресов, канал от 20 Мбит
RS
На сайте с 05.05.2023
Offline
10
#1078
TheVS #:

Эта распространенная в интернете инструкция давно не работает, а эти два правила из нее на 95% бесполезны.

Можете предложить другие варианты вместо последних двух правил?

vashfreelancer
На сайте с 24.10.2023
Offline
27
#1079
Smuel #:
Кажется решил вопрос. Поставил капчу для тех, чей реферер не Яндекс или Гугл.

Нужно смотреть не вырезку, а полные правила. Могут просто заходы под Ваши условия не попадать. А если уверены что попадают, то просто отключаете SSL со стороны хостера старый бесплатный и правильно настраиваете режим Full SSL. Клауд сам выдает бесплатный SSL. Бывает такое что боты идут по старому SSL, минуя клауд. В логах сервера заходы есть, в метрике есть, а в клауде пусто. Мелочь, но ..

Защита сайта от ботов - накрутки ПФ, роботность, DDoS, Cloudflare ДДос - https://vashfreelancer.com
S0
На сайте с 05.12.2014
Offline
117
#1080
В гайде Ивана Зимина в правиле " Запрещаем доступ всем, кто не HTTP2 протокол...." во втором шаге  or (http.referer eq "")  в кавычки что за eqxampl надо вписать? Свой сайт? Или так и надо оставить кавычки без сайта?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий