Как закрыть сайт от индексации google

PZ
На сайте с 12.01.2011
Offline
3
2741

Как запретить google индексировать содержимое сайта, желательно посредством robots.txt? Спасибо

PD
На сайте с 20.03.2010
Offline
28
#1

User-agent: Googlebot

Disallow: /

PZ
На сайте с 12.01.2011
Offline
3
#2

ProuD88,

если на данный момент robots.txt:

"User-Agent: *

Disallow:

Host: site.ru"

То как добавить то, что Вы написали, при этом не запретив сайт к индексации остальным поисковикам и прочее?

angr
На сайте с 11.05.2006
Offline
413
#3
pove-zlo:
То как добавить то, что Вы написали

так и добавить, прямо перед вашими данными... только уберите кавычки ", они лишние

да и почитать об этом можно, интернет еще не запретили...

Требуется СЕО-Специалист в Кишиневе, в офис. ()
J
На сайте с 17.09.2009
Offline
42
#4

Чтобы не создавать лишний топик, напишу сюда:

У меня запрещена директория

User-agent: *

Disallow: /folder/

но гугл в нее почему-то лезет и индексирует содержимое. Яндекс не индексирует.

Где ошибка?

Спасибо

angr
На сайте с 11.05.2006
Offline
413
#5

jare, ошибок нет, просто гугл не совсем обращает внимание на указания в роботс-е

A
На сайте с 20.08.2010
Offline
775
#6

на новом сайте гугл проиндексировал wp-admin, хотя он закрыт роботсом. наглый гугля

angr
На сайте с 11.05.2006
Offline
413
#7

Большой брат всё видит!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий