После редиректа в Cloudflare на новый домен, боты стали пропускать капчу

big boy
На сайте с 18.11.2006
Offline
327
381

Суть кратко:

  • С домена А через .htaccess настроен 301-й постраничный редирект на домен Б.
  • Несмотря на это в метрике иногда появляются заходы на старый сайт, а в search console количество проиндексированных страниц начало расти, после того, как почти все страницы уже выпали.
  • Добавил редирект в самом клауде на новый домен.
  • Итог: редирект стал еще лучше работать )) Но бот трафик увеличился примерно в 3 раза. Боты перестали попадать под проверку капчей.
  • Вопрос: почему и как исправить?


А теперь подробности.

На обоих доменах настроена антибот защита, с максимально простыми правилами - если это прямой заход (без реферера) и в юзер агентах нет ничего связанного с "хорошими ботами" - показываем галочку.

И получается, что заходя на сайт А я вижу проверку, прохожу её, срабатывает серверный редирект и на новом сайте опять проверка. Это не касается пользователей из поиска, например.

Добавил редирект прямо в клауде:

  • redirect: dynamic
  • expression: concat("https://new.site", http.request.uri.path)
  • status code: 301

И всё заработало еще лучше. Теперь редирект срабатывает сразу, а проверка только одна на новом домене.

Но проблема в том, что количество ботов увеличилось в разы. Было в среднем менее 10%, стало более 30% и растёт (сегодня первый день нового редиректа).

В метрике бот трафик отображается, как прямой заход, чего быть не должно, учитывая проверку клауда.

На старом домене с ботами была настоящая беда, но клауд их срезал почти в ноль. А этот новый редирект почему-то часть из них стал пропускать через проверку. Хотя если я сам захожу через старый домен - проверку вижу, она никуда не делась.


✔ Как я генерирую статьи через ИИ, которые приносят трафик - https://webmasta.ru/blog/16-vkalyvayut-roboty-ne-chelovek-stati-s-pomoschyu-ii-kotorye-prinosyat-trafik
Mik Foxi
На сайте с 02.03.2011
Offline
1165
#1
Это стандартный способ обхода капчи клаудфлара, если запрос подозрительный и получил капчу - просто обновляешь страницу 1-2 раза и капча исчезает сама. Возможно и редирект также работает.
Антибот, антиспам, веб файрвол, защита от накрутки поведенческих: https://antibot.cloud/ Форум на замену серчу: https://foxi.biz/
big boy
На сайте с 18.11.2006
Offline
327
#2
Mik Foxi #:
просто обновляешь страницу 1-2 раза и капча исчезает сама
Проверил, 100500 раз обновил страницу - не работает, капча на месте.
Delysid
На сайте с 27.05.2019
Offline
239
#3
big boy :
Вопрос: почему и как исправить?

Проверь поддомены, может через них идут.

Ещё сам хостинг может быть в деле и ботов крутить..

Mik Foxi
На сайте с 02.03.2011
Offline
1165
#4
big boy #:
Проверил, 100500 раз обновил страницу - не работает, капча на месте.

попробуй в урл добавить новую гет переменную. я парсингом занимаюсь, именно так и обхожу, если капча - не заморачиваюсь даже, беру следующий урл этого же сайта, и в 2/3 будет уже без капчи, а потом и первый урл можно забирать 😀 

M3
На сайте с 09.02.2022
Offline
81
#5
Mik Foxi #:

попробуй в урл добавить новую гет переменную. я парсингом занимаюсь, именно так и обхожу, если капча - не заморачиваюсь даже, беру следующий урл этого же сайта, и в 2/3 будет уже без капчи, а потом и первый урл можно забирать 😀 

сколько пытался, не смог повторить такой финт, в том числе с подменой "авторизованных куков"

Mik Foxi
На сайте с 02.03.2011
Offline
1165
#6
master32 #:

сколько пытался, не смог повторить такой финт, в том числе с подменой "авторизованных куков"

когда паршу множество страниц одного сайта, от частых запросов с одного ипа в основном, если одна страница выдала капчу - просто запрашиваю следующую, в большинстве она уже не выдаст капчу. работает на многих сайтах на CF. с куками никакого шаманства, что выдает то принимаю, хуманом эмулятором.

alaev
На сайте с 18.11.2010
Offline
817
#7
ТС, я бы пробовал так.
1. Клаудом кидать капчу по рефке от домена, который редиректит. 
2. Можно пустить Клаудом только ботов ПС на домен, который редиректит, все остальное забанить, если это навредит. Т.е. к урлу старого сайта никто не обращается по ссылкам.
3. Настроить прием показаний метрики только с нового домена.
4. Посмотреть статистику метрики и логи cf. Боты могут вообще не заходить на сайт, но писать в метрику визиты.
Создание и продвижение сайтов - https://alaev.net , аудиты сайтов, контекстная реклама
Delysid
На сайте с 27.05.2019
Offline
239
#8
big boy :
показываем галочку.

Прочитал внимательно что происходит. Вам самому надо разобраться в CF.

Галочка показывается не всем подряд, она показывается только не проверенным или сомнительным или подозрительным IP адресам.

Галочка это не капча, а вот капча настоящая CF показывается всегда. И да, умные боты умеют галочку ставить.

Вам нужно ставить именно капчу а не галочку. 😀

big boy
На сайте с 18.11.2006
Offline
327
#9
alaev #:
Можно пустить Клаудом только ботов ПС на домен, который редиректит

Старый домен с историей, там есть и внешние ссылки, которые уже никак не заменить.

alaev #:
3. Настроить прием показаний метрики только с нового домена.
Метрика у каждого своя стоит. На старом, несмотря на редирект, бывает до 5 посещений показывает. Сам перехожу на эти страницы - перекидывает. По поведению этих посещений - явные боты. Много отказов, мало активности, а по номеру визита некоторые уже более 100 раз на сайт заходят. Как-то они видать обходят редирект, потому что даже вебвизор их отображает.
alaev #:
Клаудом кидать капчу по рефке от домена, который редиректит. 

Суть в том, что эти посещения ботовые вообще без рефки, типа прямой заход на сайт. Словно какой-то bypass для них вместе с редиректом срабатывает.

alaev #:
Посмотреть статистику метрики и логи cf. Боты могут вообще не заходить на сайт, но писать в метрику визиты.

Можно еще и серверные логи глянуть, но суть в том, что именно метрика их регает.


Пока отключил редирект в клауде, боты обратно пропали. А старый сайт вообще удалю, он получается еще висит фоном под редиректом.

alaev
На сайте с 18.11.2010
Offline
817
#10
big boy #:
Старый домен с историей, там есть и внешние ссылки, которые уже никак не заменить.

Тогда тот вариант не подойдет.

big boy #:
Метрика у каждого своя стоит. На старом, несмотря на редирект, бывает до 5 посещений показывает.

Это лучше писать платонам из метрики, должны пофиксить, при редиректе такого быть просто не должно.

big boy #:
Суть в том, что эти посещения ботовые вообще без рефки, типа прямой заход на сайт. Словно какой-то bypass для них вместе с редиректом срабатывает.

Их могут просто "рисовать" в метрику. Без обращения к сайту.

big boy #:

Можно еще и серверные логи глянуть, но суть в том, что именно метрика их регает.

Стоит посмотреть. Возможно, в серверных логах этих ботов не будет, их "видит" только метрика. У меня такое было.

https://searchengines.guru/ru/forum/1072958/page699#comment_17027365

Попробуйте вдуматься. Отправь резюме в яндекс, они тебя возьмут - Яндекс - Поисковые системы
Попробуйте вдуматься. Отправь резюме в яндекс, они тебя возьмут - Яндекс - Поисковые системы
  • 2024.02.12
  • searchengines.guru
Это разные IP одного пользователя на двух разных сайтах. непонятно - вам нужно подтягивать знания по матчасти и о том. Ваш диалог с саппортом касался разницы IP у пользователя, который посетил сайт и IP того же пользователя, который посетил Метрику. Когда найдешь такого провайдера и сможешь это вопроизвести в боаузере

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий