Помощь в фильтрации ботов через CloudFlare

RS
На сайте с 05.05.2023
Offline
10
#531
GuruSite24 #:

Реферер пустой при прямом заходе сразу на страницу /contacts/. А если зайти куда-то там на сайт, потом перейти на страницу контактов - он уже не пустой.
Раз страница /contacts/ не существует (правило распространяется только на нее, а не на вторую с about), а боты на нее ломятся - ну так и блочьте нещадно всех кто туда лезет, чего стесняться.

Понял, спасибо за помощь!

RS
На сайте с 05.05.2023
Offline
10
#532
alaev #:

Во-первых, этот дубль нужно убрать. Либо смотреть код cms, либо в .htaccess прописать 

Redirect 301 /about/contacts/ https://site.ru/contacts/

Понял, спасибо за подсказку!

TheVS
На сайте с 27.12.2006
Offline
454
#533

Решил попробовать добавить Managed Challenge для:

(http.referer eq "" and ip.geoip.asnum eq 12389) or (http.referer eq "" and ip.geoip.asnum eq 25159)

Это:

OJSC Rostelecom Macroregional Branch South
Metropolitan branch of OJSC MegaFon

По статистике CF прохождение этого правила 0%, но по метрике такие посетители всё равно есть. Как это понимать и в какую сторону копать?

🍄 Финансовая партнёрская программа для вебмастеров и блогеров: https://bit.ly/finance_pp
KH
На сайте с 08.12.2016
Offline
104
#534
TheVS #:

Решил попробовать добавить Managed Challenge для:

(http.referer eq "" and ip.geoip.asnum eq 12389) or (http.referer eq "" and ip.geoip.asnum eq 25159)

Это:

OJSC Rostelecom Macroregional Branch South
Metropolitan branch of OJSC MegaFon

По статистике CF прохождение этого правила 0%, но по метрике такие посетители всё равно есть. Как это понимать и в какую сторону копать?

А попробуй блок поставить и посмотреть. Может метрика уже сразу учитывает визит на прокладке WAF CF-а. По вебизору также видны?

S
На сайте с 12.10.2012
Offline
225
#535
Борис Лифановский #:

На всякий случай, одна сеть - это МТС, другая - Мегафон. Если их внести в блок, абоненты этих операторов на сайт не попадут.. ))

Я делаю проверку вместе с пустым реферером. Т.е эти сети залочены только на прямой заход.
S
На сайте с 12.10.2012
Offline
225
#536
GuruSite24 #:

Да вроде нормально Managed Challenge и Challenge отрабатывают. В процентном соотношении, в графе CSR это видно. Часто там менее 1% проходит проверку. 
По JS проверке да, есть нюансы. Я так например долго экспериментировал и в итоге отказался от нее, сразу Managed Challenge ставлю, а там уже пусть клауд решает, какую из проверок применить.

Если же чисто про правило с пустым реферером, то правильно понял, у вас любой прямой запрос на сайт = блок?
(http.referer eq "")

Вот с этой AS25159 SONICDUO-AS боты проходят любые проверки. Либо смирится с ботами из нее, либо блочить все прямые с нее.
S
На сайте с 12.10.2012
Offline
225
#537
alaev #:

Да хорош! За месяц большинство ботов отлетает. В большинстве случаев.

Ерунда полная. У меня CF на одном сайте стоял с февраля. Недавно решил отрубить CF и буквально через час поперли боты, спустя сутки показатели по количеству ботов вернулись на те, до подключение CF.

Так что никто из ботоводов списки обхода не обновляет, как ломились на ваш сайт, так и будут ломится.

Поэтому забить (если у сайта большой процент реального трафика) или фильтровать через CF.

S
На сайте с 12.10.2012
Offline
225
#538
GasTarbols #:
Смотрю на некоторых сайтах боты ломятся на 1 страницу, самую "суровую" проверку cloudflare они проходят. У всех пребывание на сайте до 15 сек. Вопрос такой: если настроить правило, которое блочит доступ на эту страницу для всех кто пришёл с пустым реферером, то на базе собранных айпишников есть смысл делать чёрный список или эти айпи каждую неделю будут разные? Очень много прёт с Краснодара, но по AS банить не хочу.
Очень рабочий вариант. Блокируйте доступ к этой странице для прямых заходов. Список IP смысла собирать нет, т.к их тысячи.
TheVS
На сайте с 27.12.2006
Offline
454
#539
KeicH2O #:

А попробуй блок поставить и посмотреть. Может метрика уже сразу учитывает визит на прокладке WAF CF-а. По вебизору также видны?

Да я по вебвизору и смотрел. Поставил блок, он работает, вернул Managed Challenge он снова не работает несмотря на заверение CF, что он всё фильтрует под 0. Поставил капчу на тест.

TheVS
На сайте с 27.12.2006
Offline
454
#540

Просмотрев вручную почти 400 визитов с ASN 25159 Metropolitan branch of PJSC MegaFon нашёл только 1 визит, который практически точно сделан человеком и около 5, которые 50/50, всё остальное -- боты.
Встречал ошибочную версию, что это траф из метро. Видимо, некоторые сразу видят тут "метрополитен", но на самом деле это "столичный", так что полностью блокировать не спешите.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий