Яндекс бот взбесился

1 234
A
На сайте с 20.08.2010
Offline
775
#31
VVV85:

Запретил роботу яндекса заходить на сайт, и все нормализовалось, благо сайт пока не думаю развивать, хочу сменить направление развития, пока руки до него не дошли.

Разумеется нормализовалось, но какой ценой. Просто отключите функцию передачу урлов боту. Бот яндекса формально ни при чем, это дело рук каких-то засранцев.

VVV85
На сайте с 25.11.2011
Offline
44
#32
awasome:
Разумеется нормализовалось, но какой ценой. Просто отключите функцию передачу урлов боту. Бот яндекса формально ни при чем, это дело рук каких-то засранцев.

Во как, не знал, надо будет посмотреть как это сделать спасибо.

модный женский сайт (http://lady-girl.ru/) и форум, сайт как проехать и проложить маршрут (http://auto-marshrut.ru/) по России, решение тестов мти (http://reshenie-testov-mti.ru/) вту, бесплатный каталог онлайн игр (http://game-links.ru/) на пк
И3
На сайте с 23.03.2011
Offline
212
#33
Просто отключите функцию передачу урлов боту

Тоже актуальный вопрос по одному из сайтов. Подскажите, где находится эта функция?

A
На сайте с 20.08.2010
Offline
775
#34
Иван34:
Тоже актуальный вопрос по одному из сайтов. Подскажите, где находится эта функция?

/ru/forum/comment/13799546

fest1val
На сайте с 18.06.2013
Offline
69
#35

о чем разговор, коды должны верные отдаваться вот и все + кэширование.

что за сайт такой который уязвим на такие дырки.

сильно грузит - забаньте бота через файл конфигурации апатча.

напишите в поддержку

Хостинг 25$/год 1GB SSD UA GR FR USA Umlim uptime 100% ApchLogs (http://www.ukraine.com.ua/?page=22784)
N
На сайте с 06.05.2007
Offline
419
#36
Оптимизайка:
/forum/index.php?b77545c0b03f1cb

а сам сайт не мог по ошибке такие url сгенерировать ? очень уж похоже на session id, но без параметра.

Вы походите по сайту с отключенными кукисами что-ли. В старых версиях ссылки с session id сплошь и рядом генерировались, но проблем это обычно не вызывало.

Уж больно детективно такие истории выглядят. Обычно все проще.

Кнопка вызова админа ()
A
На сайте с 20.08.2010
Offline
775
#37
netwind:

Уж больно детективно такие истории выглядят. Обычно все проще.

Другие админки себе такого не позволяют, сама проблема существует. Новая волна - уже этой осенью (судя по статистике) :)

Станислав
На сайте с 27.12.2009
Offline
237
#38
netwind:
а сам сайт не мог по ошибке такие url сгенерировать ? очень уж похоже на session id, но без параметра.
Вы походите по сайту с отключенными кукисами что-ли. В старых версиях ссылки с session id сплошь и рядом генерировались, но проблем это обычно не вызывало.
Уж больно детективно такие истории выглядят. Обычно все проще.

Так и есть, phpbb по крайней мере 2.х версии частенько выдавал такие ссылки, вот только не помню по каким причинам, но связано это было с проверкой актуальности данных на главной странице (чтобы из кеша страницу не юзать)

Оптимизайка:
Спасибо за совет, но это не решает вопрос озвученный в первом посте топика.

Конечно решает, так как нагрузка спадет если 404 страницу отдавать будете с которой запросов в базу данных нет и html код генерить особо не надо, а обработать несколько запросов в секунду страницы 404 может любой дряхлый хостинг. Но опять же в phpbb эти урлы на сколько я помню нужны, только не помню с какими действиями они генерировались =) phpbb2.x использовал года 4 назад и такие урлы тоже видел у себя.

Мы там, где рады нас видеть.
N
На сайте с 06.05.2007
Offline
419
#39
Ms-Dred:
Но опять же в phpbb эти урлы на сколько я помню нужны, только не помню с какими действиями они генерировались =)

Это включался механизм ведения сессии пользователя по ссылкам когда кукисы запрещены. Во все ссылки дописывался идентификатор.

Могу только насчет vb уверенно заявить, что там внутри есть описания поисковых систем, где при обнаружении соответствующего useragent механизм выключается и ссылки становятся красивее.

Но данной случай отличается - тут нет параметра s=XXXX. Может из-за переделок движка все же возникла ошибка и полезли эти ссылки ?

Станислав
На сайте с 27.12.2009
Offline
237
#40
netwind:
Это включался механизм ведения сессии пользователя по ссылкам когда кукисы запрещены. Во все ссылки дописывался идентификатор.
Могу только насчет vb уверенно заявить, что там внутри есть описания поисковых систем, где при обнаружении соответствующего useragent механизм выключается и ссылки становятся красивее.

Но данной случай отличается - тут нет параметра s=XXXX. Может из-за переделок движка все же возникла ошибка и полезли эти ссылки ?

Ну тогда можно смело в nginx отлавливать ботов ПС и скидывать их на 404 с данных URL.

Тут кто то писал что такие URL могут в ПС появиться, данная проблема уходить при правильно robots.txt. Раньше использовал под phpbb запрещающий всё, но разрешающий ползать по топикам, темам, морде. Могу поискать его потребуется, хороший robots в 10-15 строк всего.

По сути на форуме и так две морды / и /index.php, второе можно закрыть думаю.

1 234

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий