Удалить сайт из yandex и google

[Удален]
1167

Всем добрый вечер. Дело в том, что я сделал парочку сайтов на WP, которые недавно начали индексироваться в yandex и google. Буквально вчера я заметил что ссылки на статьи имеют очень некрасивый вид, и решил сменить ЧПУ. Вот теперь мне необходимо удалить все ссылки на мой сайт и начать индексировать его заново. На сколько я понимаю мне необходимо сделать файл robots.txt

Пожалуйста напишите точно (символ к символу) каким должен быть файл robots.txt запрещающий индексировать все странницы моего сайта для поисковых систем yandex и google.

Заранее извеняюсь если тема уже была, но в каждой теме пишут по разному. Одни советуют писать так:

User-agent: Yandex

Disallow: /*

User-agent: Googlebot

Disallow: /

Другие так:

User-agent: Yandex
Disallow: /*

User-agent: Googlebot
Disallow: /

Очень надеюсь услышать мнению тех, кто делал такое на практике.

Заранее спасибо!

K
На сайте с 31.01.2001
Offline
737
#1

1) Между User-agent и Disallow не должно быть пустой строки

2) Звездочки в Disallow не нужны.

3) Чтение правил раздела и справки Яндекса помогает сэкономить время.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
robot-sgibatel
На сайте с 11.10.2008
Offline
87
#2

Не нужно ничего запрещать, это только хуже сделает. Сайт и так со временем переиндексируется, урлы сменятся, а страрые удалятся т.к. будут выдавать ошибку 404

"Радиация убивает только тех, кто ее боится." © Гомер Джей Симпсон (http://esquire.ru/wil/simpson)
Maximalist
На сайте с 17.04.2007
Offline
202
#3

а зачем запрещать полностью?

у меня есть сайт, недавно решил сменить урлы (так было нужно) с латиницы на цифры

просто закрыл категории на латинице в роботсе

Disallow: /Anekdotyi/
...

Я за один АП выкинул старые урлы и добавил новые (на сайте ~ 2К стр.)

почитайте - Использование robots.txt ;)

Maximalist добавил 20.11.2009 в 22:27

robot-sgibatel:
Сайт и так со временем переиндексируется, урлы сменятся, а страрые удалятся т.к. будут выдавать ошибку 404

этот вариант не всегда подходит :)

- = тут что-то должно быть = -

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий