Какой код ответа должна отдавать страница боту, если настроен Last-Modified?

MALTIZER
На сайте с 27.12.2012
Offline
76
2355

Недавно настроил на сайте заголовок Last-Modified. Теперь если с последнего визита поискового робота на странице ничего не изменилось ему должен выдаваться ответ 304 Not Modified, если же изменилось или страница новая то ответ – 200 Ок. Валидатор ответа сервера от Яндекса (http://www.webmaster.yandex.ru/server-response.xml) показывает что всё работает правильно.

Вчера заглянул в логи сайта, и там все страницы при обращении поискового робота отдают код ответа – 200 Ок, даже если на странице не было изменений уже несколько месяцев.

Скажите, может так и должно быть в логах?

Как узнать какой реально код отдают страницы, которые не изменились с последнего посещения робота?

A
На сайте с 20.08.2010
Offline
775
#1

Логи надо смотреть, бот-чекалка в вм всегда отдает 200 (304 в нем ни разу не видел), основной бот отдаст 304. Это, я так понял, специальная настройка чекалки.

MALTIZER
На сайте с 27.12.2012
Offline
76
#2

awasome, вот как раз при проверке в вебмастере Яндекса показывается ответ 304 Not Modified, если я вас правильно понял.

Я смотрел вот для этого бота:

Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots) - это основной бот и ему все страницы почему с кодом 200 Ок отдаются, даже если страница с последнего его посещения не изменилась, а по логике должен быть ответ 304 not modified

A
На сайте с 20.08.2010
Offline
775
#3

Где показывает? На графике? График не отражает и одной десятой реальных обращений бота. Я говорю про "Проверить ответ сервера", здесь я не вижу 304. У меня в логах часто 304 проскакивает, где есть кэш, но не всегда, иногда все равно отдает 200.

L
На сайте с 07.12.2007
Offline
351
#4
MALTIZER:
Я смотрел вот для этого бота:

Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots) - это основной бот и ему все страницы почему с кодом 200 Ок отдаются, даже если страница с последнего его посещения не изменилась, а по логике должен быть ответ 304 not modified

Посмотрите логи на роботе Google.

Есть такое ощущение, что робот-индексатор Яндекса - сломался, ибо раньше он 100% запрашивал дату модификации страниц и брал в индекс только новые. Сейчас(судя по моим логам) - у него лишь единичные случаи с 304 Not Modified.

PS: Периодически роботы принудительно переиндексируют страницу - обновляют свой кэш. Тогда они сдёргивают страницу, не давая заголовок If-Modified_Since.

jpg yandex.jpg
jpg google.jpg
MALTIZER
На сайте с 27.12.2012
Offline
76
#5

awasome, не совсем понял вас, 304 Not Modified показывает в инструменте http://webmaster.yandex.ru/server-response.xml, там нет никаких графиков, просто добавляем заголовок If-Modified-Since и задаём время изменения вручную, и тогда всё правильно определяется, это говорит о том что сам ответ сервера 304 отдаётся корректно, когда и должен, значит на стороне сервера все ОК.

Ladycharm, воспользовался вашим советом, и действительно Гугл боту все не изменившиеся страницы отдаются как 304 Not Modified, а изменившиеся 200 Ок, значит действительно проблема на стороне Яндекса.

Ещё такой вопрос - как вы смотрите логи сайта в таком удобочитаемом виде (имею ввиду скрины что вы привели)? это какая то программа, или функционал хостинга, или ещё что-то?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий