Как ходит Googlebot?

[Удален]
593

Возможно вопрос глупый из-за непонимания технического процесса.

Как узнать с какой внутренней страницы перешел Googlebot? Он оставляет за собой реф ссылку?

bums
На сайте с 03.07.2006
Offline
441
#1

Никак не узнать, т.к. реферера не может быть. Боты ПС не переходят по ссылкам, они проверяют robots.txt и индексируют то что не закрыто в этом файле.

Например в первый раз robots.txt и главную страницу, в следующий раз индексируют страницы на которые есть ссылка с главной, в третий заход индексируются страницы на которые есть ссылки на уже проиндексированных страницах.

Но если есть карта сайта(xml), то получив в первый раз из нее список страниц для индексирования, в следующий раз проиндексируют все или большинство из них.

P.S.

я так думаю/считаю

Недорогая регистрация и продление доменов RU/SU/РФ/COM/NET/ORG/и т.д. ( https://www.regnic.name/?sesign ) в РЕГРУ, РЕГТАЙМ, Р01, РУЦЕНТР. А так же хостинг и SSL сертификаты.
B
На сайте с 02.05.2007
Offline
240
#2
bums:

я так думаю/считаю

именно так и есть

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий