бот (граббер) как с ним бороться?

M8
На сайте с 21.05.2011
Offline
25
1141

Здравствуйте!

Пару дней назад случайно через счётчик Яндекса заметил, что у моего-сайта.org.ua появилось пять 100% клонов в зоне com.

Судя по whois домены клонов были зарегистрированы давно - в марте месяце.

Если я правильно понял, то это бот (граббер)

Граббер мгновенно ворует контент в течении секунд.

Знающие люди, подскажите, кому это может быть выгодно и как с этим бороться?

Den73
На сайте с 26.06.2010
Offline
523
#1

купить хостинг на котором пофильтруют грабберы

[umka]
На сайте с 25.05.2008
Offline
456
#2

1. Создаёте белый список для поисковых роботов.

2. Для всех запросов с айпишников, не попадающих в этот список, проверяете, установлена ли специальная кука. Если не установлена, то вместо страницы выдаёте JavaScript, который эту куку устанавливает.

3. Profit!

Лог в помощь!
M8
На сайте с 21.05.2011
Offline
25
#3

Ответ моего хостера...

Здравствуйте.

>>Может ли ваш хостинг пофильтровать грабберы?

Каким образом?

Если вы знаете IP - мы можем их заблокировать.

Если у этих граббером какие-то особенные UserAgent'ы - мы тоже можем заблокировать.

А так по сути это обычный трафик, отфильтровать мы можем только если вы укажите нам условия для фильтра...

Den73
На сайте с 26.06.2010
Offline
523
#4

maestro80

фильтровать всех кроме браузеров можно так как написал [umka]

банить по ip, referer, user agent смысла в большинстве случаев нету. (ип меняется ибо прокси, а referer/user agent валидные и безпалевные)

не у всех хостеров есть такой функционал, опять же таки вы можете его реализовать самостоятельно как на уровне web приложения так и на уровне веб севрера. но актуальность белого списка придется поддерживать самостоятельно.

если слишком сложно то можете найти такого хостера у которого есть данный функционал.

M8
На сайте с 21.05.2011
Offline
25
#5

Проблема решена... оказалось это не граббер может кому-то поможет.

ответ хостера.

Здравствуйте.

Это не граббер, это кто то домены направил на ваш vds, эти домены не существуют на сервере и отдаётся домен по умолчанию. Я исправил эту ситуацию, теперь отдаётся фейковый домен. Проверьте пожалуйста.

Den73
На сайте с 26.06.2010
Offline
523
#6
maestro80:
Проблема решена... оказалось это не граббер может кому-то поможет.
ответ хостера.
Здравствуйте.
Это не граббер, это кто то домены направил на ваш vds, эти домены не существуют на сервере и отдаётся домен по умолчанию. Я исправил эту ситуацию, теперь отдаётся фейковый домен. Проверьте пожалуйста.

раз у вас впс то сервер нужно настраивать перед использованием :)

очень частое явление

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий