Hetzner, Yandex и ошибка 403

Lord Maverik
На сайте с 15.04.2003
Offline
471
6887

С полмесяца назад перевел сайта на хостинг от Hetzner. И все вроде бы хорошо и всем доволен, но вот заметил что стали выпадать из Яши страницы. Причина 403-я ошибка.

Сам их открываю - все отлично.

Есть ли способ определить возможные причины такого? Какие логи на предмет этого смотреть?

RedMall.Ru (https://redmall.ru) - Товары из Китая (Таобао, Tmall) с проверкой качества, скидка для форумчан 7% Партнерская программа 2 уровня: 5% + 5%. Подробнее. (https://redmall.ru/about/partner/)
P
На сайте с 08.03.2007
Offline
250
#1

Может быть, яндекс наваливается на сайт несколькими параллельными запросами, и он не выдерживает нагрузки?

[umka]
На сайте с 25.05.2008
Offline
456
#2

Не думаю, что Яндекс так сильно наваливается, но изучение error-log-ов от nginx и apache должно несколько прояснить ситуацию.

Лог в помощь!
Himiko
На сайте с 28.08.2008
Offline
560
#3

Видимо web-сервер выдаёт 403-ю ошибку. Возможно это какой-то модуль, который типа защищает от ДДОС.

Профессиональное администрирование серверов (https://systemintegra.ru). Круглосуточно. Отзывы (/ru/forum/834230) Лицензии (http://clck.ru/Qhf5) ISPManager,VDSManager,Billmanager e.t.c. по низким ценам.
Lord Maverik
На сайте с 15.04.2003
Offline
471
#4
Himiko:
Видимо web-сервер выдаёт 403-ю ошибку. Возможно это какой-то модуль, который типа защищает от ДДОС.

История повторилась, куда рыть, куда копать?

Вот лог по одному из сайтов:


95.108.244.253 - - [12/Oct/2011:23:19:49 +0200] "GET /catalog/item/1309077_sumka-dlya-fotokameri-etsumi-e-3404.html HTTP/1.1" 403 548 "-" "Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)"
95.108.158.233 - - [12/Oct/2011:00:17:52 +0200] "GET /robots.txt HTTP/1.1" 403 536 "-" "Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots)"
95.108.158.233 - - [12/Oct/2011:00:21:25 +0200] "GET /upload_files/catalog/_thb_34_2.jpg HTTP/1.1" 200 6103 "-" "Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots)"
195.239.178.205 - - [12/Oct/2011:00:24:38 +0200] "GET / HTTP/1.0" 302 266 "-" "Mozilla/5.0 (compatible; Nigma.ru/3.0; crawler@nigma.ru)"
195.239.178.205 - - [12/Oct/2011:00:24:39 +0200] "GET / HTTP/1.0" 200 16902 "-" "Mozilla/5.0 (compatible; Nigma.ru/3.0; crawler@nigma.ru)"
95.108.158.233 - - [12/Oct/2011:00:24:49 +0200] "GET /upload_files/catalog/153_1.jpg HTTP/1.1" 403 556 "-" "Mozilla/5.0 (compatible; YandexImages/3.0; +http://yandex.com/bots)"

Движок тут не причем. Как видно даже на robots.txt отдало 403-ю. Nginx не стоит.

Панель ISP Pro. Никаких особых настроек.

SI
На сайте с 03.12.2007
Offline
130
#5

Можно посмотреть на сайт глазами Яндекса - http://webmaster.yandex.ru/server-response.xml (Требуется регистрация)

-= Онлайн сервисы =-
Himiko
На сайте с 28.08.2008
Offline
560
#6
Lord Maverik:
История повторилась, куда рыть, куда копать?

Смотрите установленные модули, настройки и т.п.

Просто запросом robots.txt - он открывается?

Lord Maverik
На сайте с 15.04.2003
Offline
471
#7
Sigmo#ID:
Можно посмотреть на сайт глазами Яндекса - http://webmaster.yandex.ru/server-response.xml (Требуется регистрация)

там все отлично...

Himiko:
Смотрите установленные модули, настройки и т.п.
Просто запросом robots.txt - он открывается?

Да открывается. И вон через сервис выше все отлично, но в логах идут 403-ие, и в вебмастерс исключенные страницы за 403-ю.

zloy.alex
На сайте с 20.04.2009
Offline
22
#8

Скорее всего на вер-сервере закрыт доступ для IP яндексовых. Вот и выдает ошибку.

Lord Maverik
На сайте с 15.04.2003
Offline
471
#9

Так я не закрывал ничего? Так ведь и проверка через сервис Яндекса проходит, ответ 200 идет.

izbushka
На сайте с 08.06.2007
Offline
110
#10

Могу только сказать, что раз в логах вы видите 403, то слово Hetzner из топика можно выкинуть :)

Ой, или у вас именно хостинг?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий