Вопрос по индексированию страниц в гугле.

M
На сайте с 07.10.2011
Offline
143
329

Добрый вечер!

Пишу в роботе

User-agent: Googlebot

Disallow: /

А проверка через гуглвебмастер показывает, что сайт по прежнему разрешен к индексации.

Что это может быть?

Спасибо!

«Дьявол начинается с пены на губах ангела, вступившего в бой за святое правое дело» (С)
wwwwww
На сайте с 29.04.2011
Offline
195
#1

Файл называется robots.txt и располагается в корневой директории сайта?

Видишь? Свободная подпись.
M
На сайте с 07.10.2011
Offline
143
#2

Да конечно! Я так все в Яндексе закрываю. Причем если проводить эксперименты в самом вебмастере, то все закрывает, а моего робота не видит. Может время загрузки должно пройти? Пока гугл его загрузит еще раз?

wwwwww
На сайте с 29.04.2011
Offline
195
#3

Подождите пока загрузится новый файл.

В меню Состояние - Заблокированные УРЛ

показывается содержимое robots.txt.

Посмотрите, старое или новое. Если инструкции старые, то дождитесь пока Гуглбот обновит файл.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий