Резкий всплеск прямых заходов. Как бороться?

Shelton724
На сайте с 26.05.2011
Offline
263
#681
sagamorr #:
Получается боты так и будут долбится на ваш сайт, просто скриптом вы от них метрику скроете.

Так в этом и фишка. Даже если на уровне сервера по таблицам роботы какой-то сети будут отбиваться, ходить многие из них (уже прогретые) не перестанут, потому что вполне продолжат выполнять свою функцию - возврат к выдаче, чтобы продолжить прогулку и потом остаться на прогоняемом сайте надолго. Просто их не будет на сайте. Да даже если их запускать на сайт, а просто не отдавать визиты в метрику такие и не показывать рекламу РСЯ и Адсенс - возможно (не точно, конечно) хоть какой-то толк будет.

S
На сайте с 12.10.2012
Offline
235
#682
Shelton724 #:

Так в этом и фишка. Даже если на уровне сервера по таблицам роботы какой-то сети будут отбиваться, ходить многие из них (уже прогретые) не перестанут, потому что вполне продолжат выполнять свою функцию - возврат к выдаче, чтобы продолжить прогулку и потом остаться на прогоняемом сайте надолго. Просто их не будет на сайте. Да даже если их запускать на сайт, а просто не отдавать визиты в метрику такие и не показывать рекламу РСЯ и Адсенс - возможно (не точно, конечно) хоть какой-то толк будет.

Попробуйте, напишите потом.

Я как то ради эксперимента ставил попап форму, ботов отрезало полностью.

Единственная еще проблема - нормально исключения настроить, чтобы нужных ботов не отрезать.

P.S. Вот еще один момент. Через CF можно фильтровать только прямые заходы, а тут "под удар" пойдет весь трафик.

И как например Яндекс будет оценивать визиты ботов, которые перешли на ваш сайт из поиска, а в метрику данные не подгрузились.

Получается по логике яндекса сайт не доступен. Учитывая, что ботов они не могут отличить от слова совсем, то я думаю это скорее негативно на ПФ сайта повлияет.

Shelton724
На сайте с 26.05.2011
Offline
263
#683
sagamorr #:
И как например Яндекс будет оценивать визиты ботов, которые перешли на ваш сайт из поиска, а в метрику данные не подгрузились.

Ну если совсем тупой Яндекс - может подумать и так, а если заметит (если у него хоть как-то работают в сторону сравнения алгоритмы), что именно этих посетителей не пускает не только один сайт, а множество, то вполне может сделать правильные выводы.

Shelton724
На сайте с 26.05.2011
Offline
263
#684
sagamorr #:
чтобы нужных ботов не отрезать.

Так я их и не отрезаю, им сайт показывается. Просто без метрики и рекламы (так что им даже "повезло" бы, если туда затесались бы люди - быстрее загрузка, отсутствие реламы - красотища!). Ну кроме спамных сетей, которые тут обсуждались много раз и я настроил через htaccess (не полез в конфиги nginx, я там полный профан), файлик стал на 13 кб, сравнительные тесты не показали какого-то увеличения времени обработки запросов (хотя оно какое-то точно появилось дополнительное), памяти больше тоже жрать не стало, хотя у меня всплесков более 50 запросов в секунду практически никогда не бывает на каждом из впс. 

S
На сайте с 12.10.2012
Offline
235
#685
Shelton724 #:

Ну если совсем тупой Яндекс - может подумать и так, а если заметит (если у него хоть как-то работают в сторону сравнения алгоритмы), что именно этих посетителей не пускает не только один сайт, а множество, то вполне может сделать правильные выводы.

Не берусь судить на сколько они тупые😁

Но такой эксперимент лучше делать на сайте, который не жалко, т.к риск в любом случае есть.

GRAFLEKX
На сайте с 05.11.2010
Offline
225
#686
softerra #:
На метрику нельзя нацелиться, но метрику (ID номер) можно разместить на любом другом сайте, странице.

Вот это уже точно похоже на фантастику.

softerra #:
Вы копирайтер?
Мы поможем в поиске работы: стабильная работа для вас ( https://www.rabota.ru ), вакансии и резюме.
Shelton724
На сайте с 26.05.2011
Offline
263
#687
sagamorr #:
Но такой эксперимент лучше делать на сайте, который не жалко, т.к риск в любом случае есть.

А какой риск, если сам Яндекс говорит, что проверка доступности страницы проверяется его определенным роботом ( Mozilla/5.0 (compatible; YandexAccessibilityBot/3.0; +http://yandex.com/bots), а не потому, что кто-то с выдачи на сайт ушёл, а в метрике не отобразился (в конце концов, мало ли где может теряться переход, не прогрузиться метрика, обрыв соединения и т.д.)?

How to check that a robot belongs to Yandex - Webmaster. Help
  • yandex.com
Some robots can disguise themselves as Yandex robots by indicating the relevant User Agent. You can check the authenticity of a robot using reverse DNS lookup. Just follow these steps: Check whether the host belongs to Yandex. All Yandex robot names end in , or . If the host name has a different ending, the robot does not belong to Yandex. Make...
softerra
На сайте с 02.10.2023
Online
116
#688

Я заблочил почти все ботные сетки и стало даже немного скучно. Одни живые переходы из поиска остались. Боты стучатся, а им по мордам ответ сервера 403.

И никаких всплывашек и прыгающих капчей - просто блок сетей.

JS
На сайте с 19.11.2020
Offline
97
#689
softerra #:

Я заблочил почти все ботные сетки и стало даже немного скучно. Одни живые переходы из поиска остались. Боты стучатся, а им по мордам ответ сервера 403.

И никаких всплывашек и прыгающих капчей - просто блок сетей.

Дайте список всех сетей.

GRAFLEKX
На сайте с 05.11.2010
Offline
225
#690
Shelton724 #:
А какой риск, если сам Яндекс говорит

Да особых рисков нет, наоборот, имхо, вы всё правильно делаете, отсекая метрику и РСЯ от заходов ботов.

Только вот с юзер-агентом нужно быть осторожнее, у Яндекса их навалом, типа:

Mozilla/5.0 (compatible; YandexMetrika/2.0; +http://yandex.com/bots)
Mozilla/5.0 (compatible; YandexNews/4.0; +http://yandex.com/bots)
Mozilla/5.0 (compatible; YandexZenRss/1.0; +http://yandex.com/bots)
Mozilla/5.0 (compatible; YandexWebmaster/2.0; +http://yandex.com/bots)

И т.д.

Может получиться так, что один бот Я пройдет, а для другого сайт будет недоступен.

Ну и плюс Fake-боты будут проходить, с подставными юзер-агентами.

Если уж по уму, то нужно делать проверку на соответствие User-Agent -> IP -> PTR.


UPD: Я вас не верно понял, извиняюсь... вы же просто отсекаете Метрику и РСЯ, а не блокируете. Тогда вполне может прокатить, как защита от блока в РСЯ из-за ботного трафа и кликов.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий