Анти БОТ

Анти БОТ
Рейтинг
142
Регистрация
14.03.2020
Должность
специалист по поведенческим ботам
юни #:

Есть примеры?

Адреса этой версии больше распространены у хостеров, провайдеры их поддерживают в виде исключения, в сеть по в6 выходят в Штатах, иногда в Европе. В бСССР это редкость.

Иными словами, именно для накрутки поведенческих данный протокол скорее вреден. Можно парсить ПС или маркетплейсы, регистрировать аккаунты в соцсетях или заниматься другими техническими работами.

Когда постоянно занимаешься одним и тем же, смотришь каждый день на различные логи в клауде, постепенно формируется какая-то своя картинка с повторяющимися паттернами. Есть люди, которые имеют доступ к статистике, и исходя из более широкого кругозора, принимают то или иное решение. Когда только свой проект, таких знаний не наберешься, негде брать.

Тот же Mik Foxi неделю назад в соседней теме что-то там исходя из своего опыта утверждал, а его в ответ только фекалиями набрасывали. В след раз промолчит.

Вот чисто навскидку. От сайта к сайту сила присутствия протокола и состав сетей прыгает. Насчет экссср зря так думаете, мобильные операторы тоже ipv6 предоставляют, на том же МТС периодически встречаю.

Но повторюсь - я протокол отключаю. Иногда этого простейшего действия было достаточно, даже без остальных настроек, чтобы поведенческий трафик (+ нагрузка на сервер) обваливался практически в ноль, так как там только самых дешманских ботов гоняли.

А накрутчикам все равно на каких айпи набивать статистику у ботофермы. Начальную накрутку массе профилей сделают на IPv6, а потом при необходимости самых раскрученных на бродилку IPv4 переведут, делов-то на пару кликов мышкой.

55

55

55

nikenike #:
Не слушай этих "умников", это полный запрет к сайту. Почитай здесь есть на форуме темы про ботов, там есть советы. Обычно рекомендуют использовать  CloudFlare.

Топикстартер четко указывает, что ему нужна фильтрация поведенческих ботов через Nginx. Так что все верно подсказали, запрет доступа к сайту решит эту проблему.

А если нужна фильтрация ботов, то да, потребуется настройка Cloudflare.
Вот тема.
https://searchengines.guru/ru/forum/1075193

BrickLayer #:

        
deny all;
return 403;

Почему топикстартер мешает в кучу ботов без user-agent и поведенческих ботов - непонятно. Это вообще разные категории и очень распространенное заблуждение.

У поведенческого бота профиль такой же как и у обычного посетителя. И реальный браузер такой-же, со всеми включенными опциями, и юзерагент как у всех. Т.е. если взять профиль поведенческого бота и топикстартера - с точки зрения Яндекса оба одинаковые, но у бота лучше. Так что здесь еще нужно посмотреть, кто бот.

Единственно возможный способ избавиться от поведенческих ботов через NGINX предложил BrickLayer.

Datot #:
чел, сда.щий в аренду квартиру под баррель не привлекается по 241, если он не знал цель аренды квартиры.

Ну здесь такое, шаткое все.

Можно сдать квартиру и не знать что там происходит, или закрыть глаза и не увидеть. А вот продвигать сайт с тематикой, где "не знать" невозможно - это уже как следователь посмотрит, как по мне.

egel #:

IPv6 можно заюзать огромное количество с почти нулевым ценником. С IPv4 это дороже.

Разбираться с фильрацией 10 000 000 сорсов против 10 000, тем более по низкокачественными геобазам IPv6 на порядок более трудоемкая задача.

Все правильно. А если кто-то утверждает обратное - в разговоре с ним внимательно следите за своим кошельком, тот в опасности.

Прокачивать ботов на IPv6 тупо дешевле по сравнению с IPV4. Многие сети поведенческих ботов крутятся только на IPv6, и простое отключение этого протокола сразу снижает нагрузку на сайт, в одной действие.

ASN44812 IP SERVER LLC, ASN204916 Racktech в основном по 6 протоколу ходят, и еще целая пачка подобных.

KeicH2O #:

Почему только all remaining custom rules? А если он зоны настроит или хотлинки, то гугл и яша не будут индексить картинки. Не вводите в заблуждения. Галочки нужны везде известным ботом в первом правиле

Мы же сейчас про обычные стандартные настройки, а не про хотлинки и проч. В абсолютном большинстве случаев за пределы раздела WAF никто не вылазит.

Mik Foxi #:
Т.е. почти по всей россии уже нету надобности блочить ипы.

За все время работы с клаудом мне попался всего один хостер, который блочит по айпи из списка РКН. Хостинг старый, но до сих пор относительно мелкий, оборудование как понимаю соответствующее не купили, поэтому им проще послать клиента лесом, если тот подключил клауд и на этом недохостинге этот сайт перестал открываться.
Возможно, что-то в дальнейшем и изменится, но пока у меня так.

Харизма #:
Некоторое время назад помню была проблема, РКН блокировал некоторые IP  у  Cloudflare.  Соответственно сайт мог не открываться у пользователей из РФ. Но бОльшая проблема была, если не открывался у части пользователей. Не сразу можно было понять в чем дело.  А как сейчас обстоят дела с этим? 

Давно не слышал о подобном.

Если так посмотреть, то большинство айпишников клауда можно найти в списках РКН. Допустим на каком-то из них в 2017 году располагался сайт с фармой. Но если блочить по айпи, то пострадают вообще не имеющие к тому сайту никакого отношения. Также нужно иметь в виду, что айпи адреса клауда, которые назначены сайту - динамические, и отличаются в зависимости от страны запроса.

Как мне кажется, пробовали одно время, но очень быстро поняли ущербность подобной тактики.

pahanmcs #:

все галочки проставить?

Только первую, all remaining custom rules. Ну и логирование чтобы зелененьким горело.
Больше ничего там проставлять не нужно.

Также выше правила с skip должно стоять правило с блоком тех ботов, которых клауд этим правилом пропускает, но вы их не считаете необходимыми для своего сайта. Получить список таких ботов именно для своего проекта можно, проанализировав логи этого правила. 

dickduck #:
Насколько я знаю некоторые сервисы пользуются прокачкой через HTTP запрос, без загрузки сайта

По метрике да, иногда есть необъяснимые странности.

Вот этот счетчик физически сняли с сайта, поставили вообще новый, свежесозданный. Все кэши очистили.

Однако почти 2 месяца в счетчик, которого уже нигде нет, еще идет остаточный трафик. Несколько посетителей показывает даже за сегодня. Счетчик сняли еще в декабре.

55

Tom77 :
Добавил в код счетчика передачу параметра пользователя - параметра у бота нет. 

Аналогично. В счетчик ставился проброс айпи в метрику. Галки все необходимые (учитывать только с этого сайта), стояли. Однако в счетчике отображались переходы с сетей, которые заблокированы в клауде. И они были без айпи адреса, в отличие от остальных переходов в отчете.
В логах сервера, естественно, этих фантомных переходов обнаружено не было.

Всего: 1492