Сайт на движке DLE блокирует определённые айпи

Mozgnsk
На сайте с 09.01.2008
Offline
135
5843

Имеется сайт на движке DLE старинной версии 5.3. Недавно появилась проблема:

блокируется доступ к содержимому сайта с определенных айпи. А конкретно проблема возникает у робота стейной биржи pr sape. приходит робот для индексации размещённой статьи и видит ответ:

<!--bot_true-->

< html>

< head>

< meta name=" robots“ content=" noarchive“ />

< meta name=" googlebot“ content=" nosnippet“ />

</head>

< body>

< div align=center>

< h3> Error. Page cannot be displayed. Please contact your service provider for more details. (12)</h3>

</div>

</body>

</html><! DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN» «http://www.w3.org/tr/1999/rec-html401–19991224/loo...;

< html>

< head>

и только дальше обычный контент страницы.

В шаблоне и файлах движка ничего подобного нет. В исходном коде страницы - которая выдаёт такой ответ боту тоже чисто. Смотрел на сайт глазами роботов — тоже все ок. Но как только с определённого айпи приходит бот — он видит страницу в таком виде. В логах сайта и сервера ничего подозрительного нет, на вирусы проверялся весь сервер. На сервере был установлен мод секьюрити и фаервол - отключены, результат тот же. Пробовал переносить весь сайт на другой сервер - опять то же самое. Что-то именно в файлах сайта выдаёт вот такой ответ именно саповскому боту.

Может кто-то сталкивался с подобным? подскажите куда можно посмотреть, что такое может быть?

предположительно на сайте срабатывает антифлуд или антиспам, хотя в движке все стандартно и ничего не менялось. При этом антифлуд установлен стандартный - протиив флуда в комментах на 30 сек, я его отключил полностью.

siv1987
На сайте с 02.04.2009
Offline
427
#1

Пишите своему хостеру, тут явно не в дле проблема. В нем вообще ничего подобного нету.

Mozgnsk
На сайте с 09.01.2008
Offline
135
#2
siv1987:
Пишите своему хостеру, тут явно не в дле проблема. В нем вообще ничего подобного нету.

Спасибо за ответ. Сервер мой, а его сам админю. Отключил мод секьюрити и фаерволл полностью. Смотрел в логи - боту отдаётся код 200, в логах самого сайта тоже никаких ошибок нет. переносил сайт на другой сервер, -проблема оставалась. Естесвенно с поддержкой хостера проверяли сервер, и никаких блокировок не нашли.

White WebMaster
На сайте с 08.05.2010
Offline
46
#3

Экспериментируйте с темами, попробуйте сменить... отследите результат.

Какие доп.модули установлены?

ValdisRu
На сайте с 02.10.2006
Offline
139
#4
Mozgnsk:
Имеется сайт на движке DLE старинной версии 5.3. Недавно появилась проблема:

блокируется доступ к содержимому сайта с определенных айпи. А конкретно проблема возникает у робота стейной биржи pr sape. приходит робот для индексации размещённой статьи и видит ответ:

<!--bot_true-->
< html>
< head>
< meta name=" robots“ content=" noarchive“ />
< meta name=" googlebot“ content=" nosnippet“ />
</head>
< body>
< div align=center>
< h3> Error. Page cannot be displayed. Please contact your service provider for more details. (12)</h3>
</div>
</body>
</html><! DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN» «http://www.w3.org/tr/1999/rec-html401–19991224/loo...;
< html>
< head>
и только дальше обычный контент страницы.

В шаблоне и файлах движка ничего подобного нет. В исходном коде страницы - которая выдаёт такой ответ боту тоже чисто. Смотрел на сайт глазами роботов — тоже все ок. Но как только с определённого айпи приходит бот — он видит страницу в таком виде. В логах сайта и сервера ничего подозрительного нет, на вирусы проверялся весь сервер. На сервере был установлен мод секьюрити и фаервол - отключены, результат тот же. Пробовал переносить весь сайт на другой сервер - опять то же самое. Что-то именно в файлах сайта выдаёт вот такой ответ именно саповскому боту.

Может кто-то сталкивался с подобным? подскажите куда можно посмотреть, что такое может быть?

предположительно на сайте срабатывает антифлуд или антиспам, хотя в движке все стандартно и ничего не менялось. При этом антифлуд установлен стандартный - протиив флуда в комментах на 30 сек, я его отключил полностью.

скачайте все содержимое сайта (файлы) и попробуйте поискать к примеру тотал командером (с опцией поиска в тексте какого нибудь фрагмента типа "<!--bot_true-->")

можно также скачать весь дамп базы данных и попробовать поискать тоже самое в нем

зы. а как вы узнали что бот сапы "видит" именно такой контент?

Обалденный заработок на социальных сетях (https://goo.gl/Qtsq6M)
Mozgnsk
На сайте с 09.01.2008
Offline
135
#5
ValdisRu:
скачайте все содержимое сайта (файлы) и попробуйте поискать к примеру тотал командером (с опцией поиска в тексте какого нибудь фрагмента типа "<!--bot_true-->")
можно также скачать весь дамп базы данных и попробовать поискать тоже самое в нем

зы. а как вы узнали что бот сапы "видит" именно такой контент?

Поиском по всем файлам сайта и базе пользовался - ничего нет. В сапе все проданные вечные статьи выпали в ошибку - написал в поддержку узнать причину. Ответили, что их роботу сайт отдаёт специфичный ответ.

IL
На сайте с 20.04.2007
Offline
435
#6
Mozgnsk:
Ответили, что их роботу сайт отдаёт специфичный ответ.

А если попробовать в логе доступа по USER_AGEТЕ-у / коду этого ответа поискать?

Некоторые хостеры из-за частоты обращений к сайтам блокируют IP-шники... Но в результате блокировки, как правило, отдаётся HTTP-заголовок ответа соответствующий.

Mozgnsk:
Поиском по всем файлам сайта и базе пользовался - ничего нет.

Если "глюк" переезжает между хостерами - всё-таки дело в сайте.

Попробуйте изменить фразы для поиска (по специфичным вхождениям - например "nosnippet", "1999/rec-html401"), и ещё.. всякие base64 и/или eval посмотреть не помешает. Если нет опасений - отправляйте доступы, посмотрю на чЮдеса.

... :) Облачные серверы от RegRu - промокод 3F85-3D10-806D-7224 ( http://levik.info/regru )
Mozgnsk
На сайте с 09.01.2008
Offline
135
#7

Проблема была в вирусе, прописавшемся пару лет назад в файле /language/Russian/website.lng - в самом конце целый массив кода, вызывающий соединение с удалённым сайтом. Вирус никак себя не проявлял нашёлся поиском по файлам. спасибо всем за ответы!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий