Правильно ли написан robots.txt

В2
На сайте с 25.06.2006
Offline
3
670

User-agent: *

Disallow: /administrator/

Disallow: /cache/

Disallow: /editor/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Host: www.site.ru

Нужно закрыть от индексации некоторые директории и определить для Яндекса основное зеркало. Прошу подсказать, все ли написано правильно или нет? Есть сомнения, морда вылетела три недели назад, и до сих пор не вернулась.

IrokezV
На сайте с 05.03.2006
Offline
153
#1

Не совсем правильно.

Директива Host используется только для Яндекса, вот и пропишите это в robots.txt

И прочитайте все здесь:

/ru/forum/67692

Вся жилая недвижимость на Avaho.ru ( http://avaho.ru/?utm_source=searchguru )
K
На сайте с 31.01.2001
Offline
737
#2

Уберите лишнюю пустую строку. В блоке не должно быть пустых строк - это разделитель между блоками!

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
В2
На сайте с 25.06.2006
Offline
3
#3

Т.е. правильным будет так?

User-agent: Yandex

Disallow: /administrator/

Disallow: /cache/

Disallow: /editor/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Host: www.site.ru

User-agent: *

Disallow: /administrator/

Disallow: /cache/

Disallow: /editor/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

В2
На сайте с 25.06.2006
Offline
3
#4

Kost, Такой вариант тоже должен работать?

User-agent: *

Disallow: /administrator/

Disallow: /cache/

Disallow: /editor/

Disallow: /images/

Disallow: /includes/

Disallow: /language/

Disallow: /media/

Disallow: /modules/

Disallow: /templates/

Disallow: /installation/

Host: www.site.ru

SZ
На сайте с 17.08.2005
Offline
63
#5

Виталий21, первый будет более правильным.

Гроссмейстер
На сайте с 15.01.2005
Offline
104
#6
Андрей Муравьёв Временно заброшенный блог: «Заметки интернет-маркетолога (http://web-blog.ru/)» «Чтобы задать правильный вопрос, нужно знать большую часть ответа» © Цицерон.
W
На сайте с 07.02.2006
Offline
9
#7

т.е. если запрещаем некоторые папки, указывая их в каждой строке, а которые не указали разрешены для индексации?

В2
На сайте с 25.06.2006
Offline
3
#8

Всем огромное спасибо, сделаю по первому варианту.

http://notes.webartsolutions.com/archives/000213.html на мой взгляд одно из лучших разъяснений.

В2
На сайте с 25.06.2006
Offline
3
#9
web@:
т.е. если запрещаем некоторые папки, указывая их в каждой строке, а которые не указали разрешены для индексации?

Разрешено все, что не зарещено.

Serboy
На сайте с 29.09.2005
Offline
94
#10

ИМХО, если Вы хотите указать директиву, которую понимают не все роботы, то в этом случае лучше указать назначение для кого. Конечно, незнакомую директиву боты просто пропустят, но мне кажется, так будет более верно.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий