Резкий всплеск прямых заходов. Как бороться?

Mik Foxi
На сайте с 02.03.2011
Offline
1076
#111
Панда #:
Поставьте защиту от ddos

это не ддос боты, антиддос не поможет, если конечно он всем подряд не выдаст капчу.

Антибот, антиспам, веб файрвол, защита от накрутки поведенческих: https://antibot.cloud/ + партнерка, до 40$ с продажи.
alaev
На сайте с 18.11.2010
Offline
700
#112
Панда #:
Поставьте защиту от ddos

Достаточно 403 ошибку отдать и все. Ботоводы такие сайты избегают. Лучше будет, если изначально сайт будет выкидывать 403 страницу их парсерам.

Создание и продвижение сайтов - https://alaev.net , аудиты сайтов, контекстная реклама
S
На сайте с 12.10.2012
Offline
202
#113
sochi-russia #:

)), нет, все гораздо проще

Как избавились?
S
На сайте с 12.10.2012
Offline
202
#114
AfterWar #:

Список Known Bots - то что пропускает Cloudflare

ahrefs

Ahrefs SEO bot

apple

Applebot is the web crawler for Apple, for products like Siri and Spotlight Suggestions

archive.org

Archive.org bots

baidu

Baidu search engine bots

better uptime

Bot for monitoring website uptime

bing

Bing search engine bots

feedbin

Feedbin.com bots

google

Google search engine bots

grapeshot

Grapeshot (Oracle) SEO bots

linkedin

LinkedIn bots

mail.ru

Mail.ru bots

naver

Naver (South Korean) search engine bots

pingdom

Pingdom.com monitoring bots

pinterest

Pinterest bots

seznam

Seznam search engine bots

sogou

Sogou search engine bots

uptimerobot

Uptime Robot monitoring bots

yahoo

Yahoo! search engine bots

yandex

Yandex search engine bots

***

Если правило  Allow - то Known Bots - зеленая галочка 

Если Block - серая

У меня правила в Firewall rules расположены в таком порядке

1. Что жестко блокировать (Block - конкретные Usera Agents которые никак нельзя пропускать) 

2. Что Обязательно пропускать (первым Known Bots а дальше feedburner, pinterest, facebook и т.д.) 

3. Что пропускать через JS проверку ( все подозрительно и идущее через http/1.0 и 1.1, запросы к админке и т.п.)

ТО ЧТО ИДЕТ ВВЕРХУ ПО ПРАВИЛАМ CLOUDFLARE ПРИОРИТЕТНЕЕ К ВЫПОЛНЕНИЮ - то есть если вверху разрешить known bots а внизу логически запретить - то по общему правилу он разрешит.

У меня после подключения cloudflare, пришел отчет от директа, что сайт не доступен.

В WAF первым стоит правило Known Bots и добавлено исключение для mail.ru, для них - Allow.

Может после 24 февраля в cloudflare решили убрать яндексовских ботов из Known Bots?

Или бот директа блокируется с включенным режимом Bot Fight Mode?

Подскажите кто знает.

I5
На сайте с 07.02.2020
Offline
35
#115
sagamorr #:

У меня после подключения cloudflare, пришел отчет от директа, что сайт не доступен.

В WAF первым стоит правило Known Bots и добавлено исключение для mail.ru, для них - Allow.

Может после 24 февраля в cloudflare решили убрать яндексовских ботов из Known Bots?

Или бот директа блокируется с включенным режимом Bot Fight Mode?

Подскажите кто знает.

Вы закрыли доступ для ботов Яндекса и др. Просто добавьте в WAF следующее правило и ошибки не будет.

png 66xnmm_0wcavk_2023-03-14_l_23.17.00.png
S
На сайте с 12.10.2012
Offline
202
#116
Inferno5533 #:

Вы закрыли доступ для ботов Яндекса и др. Просто добавьте в WAF следующее правило и ошибки не будет.

Да, там было циклическое перенаправленные из-за того, что редирект на https стоял на хостинге и на cloudflare.

Cloudflare реально вычистил почти всю эту дрянь, можно в этом топике в первом сообщении закрепить инструкцию по настройке WAF от прямых заходов.

iccup
На сайте с 01.05.2016
Offline
195
#117

да, тоже столкнулся с тем что Allow для Known bots не работает для некоторых ботов Яндекса, пришлось вручную прописать AS Num. Через Юзер агенты не стал делать как советовали выше, ибо многие подделывают его.


kimsufi.com ( https://www.kimsufi.com ) очень дешевые и качественные дедики https://clck.ru/gvF9p - антибот, использую уже 3 года.
R
На сайте с 27.08.2011
Offline
108
#118

На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит. 
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа  прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .

Прямые заходы и трафик из поисковых систем

MI
На сайте с 18.08.2021
Offline
44
#119
Redje #:

На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит. 
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа  прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .


Да уж

Защита сайта от прямых заходов, ботов, накрутки пф https://clck.ru/33hqox
R0
На сайте с 04.12.2019
Offline
59
#120
Redje #:

На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит. 
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа  прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .


Это 70000 прямых в день? Или я не правильно 

смотрю. А роботность сколько процентов показывает? По моим наблюдениям больше 45% это плохо. Постройте ещё такой же график пожалуйста по времени и глубине просмотра.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий