файл sitemap.xml в индексе

Z-Style
На сайте с 18.03.2010
Offline
185
724

Сегодня обнаружил что файл sitemap.xml оказался в индексе. В robots.txt никогда не закрывал этот файл. Собственно, возник вопрос: нужно ли его закрывать от индексирования?

богоносец
На сайте с 30.01.2007
Offline
774
#1

Сам Гугл на эту тему не заморачивается http://www.google.com/search?q=inurl:com/sitemap.xml

Ещё надо закрывать роботсы http://www.google.com/search?q=inurl:com/robots.txt

Кэш роботса по состоянию на 4 янв 2012... редко же он в него смотрит.

И сайтмап в нём реально указан другой. Т.е. индексится не именно сайтмап или роботс, а произвольный документ...

Вопрос: дата в кэше роботса соответствует чему? Последнему запросу бота?.. с целью индексации файла или с целью проверки того, что в нём написано? Или это одно и то же?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий