Парсинг сайтов

antonio83
На сайте с 03.10.2011
Offline
108
2016

Здравствуйте. Кто подскажет что за зверь такой http://totgor(точка)com парсит сайты на ура. Как от него избавится?

Максим Гопкало
На сайте с 05.03.2015
Offline
48
#1

Блокировку поставить по ip или адресу, капчу поставить, поставить ограничение по кол-ву обращений с одного ip или устройства.

XPraptor
На сайте с 15.10.2004
Offline
333
#2

Да это кто-то из дороделов бойлерпайп тестирует :)

Видимо вы случайно попали в его список, не волнуйтесь, когда пройдет скан всего сайта вашего - видимо больше вы не попадете к нему.

edvago63
На сайте с 29.07.2012
Offline
65
#3

В файле .htaccess делаешь запись

#

Order Deny,Allow

Deny from 185.197.74.181.

#

#185.197.74.181. - ip сайта http://totgor(точка)com

antonio83
На сайте с 03.10.2011
Offline
108
#4
XPraptor:
Да это кто-то из дороделов бойлерпайп тестирует :)
Видимо вы случайно попали в его список, не волнуйтесь, когда пройдет скан всего сайта вашего - видимо больше вы не попадете к нему.

Дело в том, что туда попал не один мой сайт, а стразу три. Интересно то что в выдаче google нет ни одной страницы моего сайта, а вот в Яндексе все мой страницы присутствуют в выдаче. Это же полные дубли. Где тогда уникальность текста и кого посчитают первоисточником? И я проверял не только свои сайты там присутствуют огромное множество других хороших сайтов. Мне кажется стоит задуматься.

Спасибо все заблокировал в файле .htaccess. Пропало все это г…о 🙅

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий