Поддельный Mail.RU Mail.RU_Bot/2.0 парсит сайты.

Delysid
На сайте с 27.05.2019
Offline
257
#11
Александр #:
Эти диапазоны - чисты, и вот уже, года 3 идут, как и положено, от VK. По всяким роботс и т.д.

bot mail.ru

Вот так идут боты под user agent(ом) умершей поисковой системы и непонятно от кого? 😀

У них даже ссылка в user agent не действительна.. 😂

Delysid
На сайте с 27.05.2019
Offline
257
#12
юни #:
И да, никаких "кто-то, нагло, под видом" и пр. Мейловцы и запускают. Собственными руками.

Все доводы я привёл, что сканируют с хостинга под старым и поддельным user agent , прочитать только нужно внимательно написанное.

юни
На сайте с 01.11.2005
Offline
924
#13

Повторюсь, дьявол в деталях. Так-то услуги хостинга и у федеральных провайдеров есть.

Главное потом не возмущаться, отправляя в блеклисты всех "хостеров" скопом и удивляясь, что от этого нет никакого толку. В лучшем случае.

https://searchengines.guru/ru/forum/944108 - прокси-сервис на базе операторов домашнего интернета, сотни тысяч IP-адресов, канал от 20 Мбит
softerra
На сайте с 02.10.2023
Offline
101
#14

Я с Питоном познакомился в мае. Юзер агент в нем можно любой писать.
И много чего еще другого.

Меня парсили, теперь я парсюю ..

Ссылки нет, значит мне можно верить ..
Delysid
На сайте с 27.05.2019
Offline
257
#15
юни #:

Повторюсь, дьявол в деталях. Так-то услуги хостинга и у федеральных провайдеров есть.

Главное потом не возмущаться, отправляя в блеклисты всех "хостеров" скопом и удивляясь, что от этого нет никакого толку. В лучшем случае.

Что там с вами? 😁 Видать вашу ботоферму и парсер от неё баним.. Я уже убеждён, что всё правильно делаю. 

Delysid
На сайте с 27.05.2019
Offline
257
#16
softerra #:

Я с Питоном познакомился в мае. Юзер агент в нем можно любой писать.
И много чего еще другого.

Меня парсили, теперь я парсюю ..

Я питон знаю хорошо. Любой уважающий себя SEO хакир знает питон. 😁 

юни
На сайте с 01.11.2005
Offline
924
#17
Delysid #:
Я уже убеждён, что всё правильно делаю
Чудесно.
Александр
На сайте с 18.03.2020
Offline
198
#18
Delysid #:

Вот так идут боты под user agent(ом) умершей поисковой системы и непонятно от кого? 😀

У них даже ссылка в user agent не действительна.. 😂

Ну ты же по AS банишь, конечно боты VK будут пытаться сканировать.
Пропиши в роботс запрет, увидишь, с этих диапазонов и с этого AS - перестанут сканировать сайт.
А все боты с подставными агентам сразу спалятся.

Повторюсь, что с данного диапазона запросы типичных ПС ботов, принты которых ничем не отличаются уже лет 5 точно.
А вот зачем они сканируют - тут уже вопрос.
В любом случае, я слежу за каждым запросом с каждого IP. Чуть что не понравится - в бан :D

Delysid
На сайте с 27.05.2019
Offline
257
#19
Александр #:

Повторюсь, что с данного диапазона запросы типичных ПС ботов, принты которых ничем не отличаются уже лет 5 точно.

Как всё трудно. У вас есть посещения с таким user agent: Mozilla/5.0 (compatible; Linux x86_64; Mail.RU_Bot/2.0; +https://help.mail.ru/webmaster/indexing/robots) ?

Вот откройте ссылку эту и увидите, что ссылка не открывается. Нету уже ботов Mail.RU_Bot/2.0 поисковой системы mail.ru, а вы о принтах.

Вообще есть поисковик свой у VK? Вообще VK это не поисковая система, с в контакте только может быть переход на сайт или скриншот страницы размещённой.

У вк нету поиска сайтов, я непонимаю вашу логику вообще. Кто то сканирует сайт поддельным и устаревшим  Mail.RU_Bot/2.0 с хостинга, но его ненужно

банить т.к. они уже 3 года сканируют.. Раньше  Mail.RU_Bot/2.0 ходил совсем с другой сетки, сейчас эта сетка стала хостингом что и приведено в расследовании в шапке темы. )

Александр
На сайте с 18.03.2020
Offline
198
#20
Delysid #:
Вообще есть поисковик свой у VK? Вообще VK это не поисковая система, с в контакте только может быть переход на сайт или скриншот страницы размещённой.

vkShare, например ;)
Блокнешь AS, потом будешь интересоваться, почему это при шаринге в VK не подгружаются превью ;)

Просто пропиши в роботс:

User-agent: Mail.RU_Bot
Disallow: /

Если и потом полезут сканировать - уже утверждай, что агент подставили.
Не ищи черную кошку в черной комнате, особенно, если ее там нет :D

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий