Во время последней видеовстречи для вебмастеров сотрудник Google Джон Мюллер объяснил, что при сканировании контента поисковик в первую очередь проверяет коды ответов сервера (коды состояния HTTP).
Вопрос к Мюллеру звучал так:
«Интересно, проверяет ли Google коды ответа сервера перед всем остальным – перед рендерингом контента?».
В ответ Мюллер подтвердил, что так и происходит. Прежде, чем приступить к обработке контента, Google сначала смотрит на эти коды.
В первую очерель Google проверяет, возвращает ли страница код ответа 200, чтобы удостовериться, что это действительный URL, который может содержать заслуживающий индексации контент.
Если Google видит коды 400 или 500, или переадресацию, то он не будет осуществлять рендеринг контента для индексации.
При этом Мюллер напомнил, что Google не видит страницы с ошибкой 404. Поэтому, продумывая дизайн и содержимое таких страниц, нужно понимать, что их будут видеть только люди.
По умолчанию Google не обрабатывает ничего, пока не получит код ответа сервера 200.
Прослушать ответ Мюллера можно, начиная с отметки 26:38 на видео ниже: