Помощь в фильтрации ботов через CloudFlare

A
На сайте с 15.03.2008
Offline
130
#371
sagamorr #:

Есть пруф, что боты мейл.ру в белом списке или вы так предполагаете только?

Я удалил мэйл.ру из отдельного правила, где know bots. И всё равно он заходит на сайт, что видно по логам. А тут в соседней теме на форуме пишут, что "мыло" уже сменилось на яндекс и теперь такого отдельного поиска нет. Так что думаю, что пора уже добавлять мэйл.ру к плохим роботам, чтобы не заходил на сайт и не создавал лишнюю нагрузку.

Mik Foxi
На сайте с 02.03.2011
Offline
1218
#372
Inferno5533 #:
а это какая-никакая потеря поискового трафика.

это никакая потеря трафика, чем какая ))

Антибот, антиспам, веб фаервол, защита от накрутки поведенческих: https://antibot.cloud/ (8 лет на защите сайтов). Форум на замену серчу: https://foxi.biz/
D
На сайте с 17.01.2018
Offline
44
#373
Вопрос из начала темы. 

есть видос который упоминали. сделал все так же.

нагрузка на сайт не упала. в CF работа вроде идет за 15 минут где то  bad country 10
http 5
а полезные боты где то 50. это точно полезные? что то их много.

помогите как убрать нагрузку) и если убрать конкретно всех ботов что тогда будет? даже полезных. так как я вижу из яндекса ботов куча их ранее не было. а щас все боты мира у меня 

получается мне надо заблочить и яндекс и гугл? судя по айпи адресам лезет яндекс из рф. а рф у меня открыт
alaev
На сайте с 18.11.2010
Offline
862
#374
Dimamelnic #:
Вопрос из начала темы. 

есть видос который упоминали. сделал все так же.

нагрузка на сайт не упала. в CF работа вроде идет за 15 минут где то  bad country 10
http 5
а полезные боты где то 50. это точно полезные? что то их много.

помогите как убрать нагрузку) и если убрать конкретно всех ботов что тогда будет? даже полезных. так как я вижу из яндекса ботов куча их ранее не было. а щас все боты мира у меня 

получается мне надо заблочить и яндекс и гугл? судя по айпи адресам лезет яндекс из рф. а рф у меня открыт

Из полезных ботов можно оставить Яндекс, Гугл, бинг и что-то там ещё.

А все остальное в бан. Всякие ahrefs, majestic и прочие.

Создание и продвижение сайтов - https://alaev.net , аудиты сайтов, контекстная реклама
D
На сайте с 17.01.2018
Offline
44
#375
alaev #:

Из полезных ботов можно оставить Яндекс, Гугл, бинг и что-то там ещё.

А все остальное в бан. Всякие ahrefs, majestic и прочие.

за 20 минут зашло в районе 15 ботов
и 25 ботов гугла

это нормально? я только что не делал) запрещал и через роботс и через .htaccess
через что банить их? и почему так много ботов от гугла и яндекса 

D
На сайте с 17.01.2018
Offline
44
#376
alaev #:

Из полезных ботов можно оставить Яндекс, Гугл, бинг и что-то там ещё.

А все остальное в бан. Всякие ahrefs, majestic и прочие.

за последние 3 дня вот эти боты заходят

"msnbot|Googlebot|PetalBot|YandexRenderResourcesBot|bingbot|AhrefsBot|YandexBot|MJ12bot|DotBot|AdsBot-Google|BLEXBot"

Анти БОТ
На сайте с 14.03.2020
Offline
129
#377
Dimamelnic #:

за последние 3 дня вот эти боты заходят

"msnbot|Googlebot|PetalBot|YandexRenderResourcesBot|bingbot|AhrefsBot|YandexBot|MJ12bot|DotBot|AdsBot-Google|BLEXBot"

Можно поставить отдельным правилом, перед know bots, банить если юзерагент такой-то. И всех левых ботов туда.

Защита сайта от поведенческих ботов, настройка АнтиБот систем, фильтрация ботов для Яндекс Директ - https://antibot24.ru
Mik Foxi
На сайте с 02.03.2011
Offline
1218
#378

только имейте в виду, с cloudflare такое есть, без него все быстро. для тех кому важна всякая такая скорость.

Анти БОТ
На сайте с 14.03.2020
Offline
129
#379
Mik Foxi #:

только имейте в виду, с cloudflare такое есть, без него все быстро. для тех кому важна всякая такая скорость.

Это не про клауд, а про оптимизацию самого сайта / хостинг )
Не нужно вводить людей в заблуждение.

Mik Foxi
На сайте с 02.03.2011
Offline
1218
#380
GuruSite24 #:

Это не про клауд, а про оптимизацию самого сайта / хостинг )
Не нужно вводить людей в заблуждение.

возможно ) но пока гугл прислал только на те сайты, которые с клаудом, а те которые просто на шареде бегета не прислал. и оно и визуально заметна разница, что с клаудом получается медленнее, если клиент гдето в ссср.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий