Прошу потдвердить. Или опровергнуть.

12
ВC
На сайте с 02.02.2006
Offline
463
1359

При создании сайта я обычно сразу делаю файл robots.txt и прописываю в нем:

User-agent: *

Host: site.ru

При этом я полагаю, что основным адресом сайта будет site.ru. И, соотвественно, размещаю в сети ссылки на свой сайт типа <a href="http://site.ru/">Смотри</a> . А ссылки с адресом www.site.ru вообще не использую, поскольку директиву Host понимают не все поисковики.

Вроде бы, в этой части я всё делаю правильно. Но вдруг вкралось сомнение - а правильно ли?

_mihey
На сайте с 15.07.2005
Offline
199
#1

Да, все верно.

Куплю размещение статей с трансляцией в Я.Новости (/ru/forum/833079)
john2007
На сайте с 26.03.2007
Offline
173
#2

Все верно, вроде бы. А в чем Ваши сомнения?

Совершая ошибки, мы не только учимся их не повторять, но и учимся прощать такие же ошибки другим... (с)
ВC
На сайте с 02.02.2006
Offline
463
#3
john2007:
А в чем Ваши сомнения?

Даже не могу объяснить... Вроде, в сети обычно адреса с префиксами www, а я как-то совсем от них ушел. Подумалось, не нарушаю ли ненароком каких-либо сетевых правил.

Сейчас занялся первым в своей жизни коммерческим сайтом, вот и провожу ревизию по всем статьям. Решил и об этом спросить, чтобы не мучиться сомнениями.

Спасибо!

Anaxa
На сайте с 20.12.2006
Offline
123
#4

Вот вам интересная статья про роботс http://www.softdevelop.ru/articles3.html

В вашем случае я бы написал так:

User-agent: *

Disallow:

Host: site.ru

Соблюдаются две основные директивы.

Каширин
На сайте с 03.01.2004
Offline
1018
#5
Владимир-C:
User-agent: *
Host: site.ru

а правильно ли?

Нет, не правильно.

Во-первых, вы написали неверно User-Agent.

Во-вторых, директива Disallow обязательно должна присутствовать.

Ну а в-третьих, раз уж вам угодно прописывать Host, учтите, что работает это только для Яндекса, остальные могут игнорировать блок. Поэтому стоит заменить * на Yandex.

В итоге получаем:

User-Agent: Yandex

Disallow:

Host: www.site.ru

ВC
На сайте с 02.02.2006
Offline
463
#6
Каширин:
В итоге получаем:

User_Agent: Yandex
Disallow:
Host: www.site.ru

С директивами ясно, а вот с хостом я теперь совсем запутался. Если мне нужно, чтобы мой сайт адресовался без префикса, как я это указал в теме, то мне надо сделать роботс таким:

User_Agent: Yandex

Disallow:

Host: site.ru

Верно?

nickspring
На сайте с 29.03.2006
Offline
228
#7
Владимир-C:
Верно?

Верно, только не User_Agent, а User-Agent

Каширин
На сайте с 03.01.2004
Offline
1018
#8
Владимир-C:

User-Agent: Yandex
Disallow:
Host: site.ru

Верно?

Верно. User-Agent - я виноват, я опечатался, а вы успели скопировать до того как я исправил ;) Правильно - через дефис, а не через подчеркивание.

ВC
На сайте с 02.02.2006
Offline
463
#9
Каширин:
я виноват, я опечатался

Уважаю. Жаль, что зеленый шар не лезет в лузу. Примите одобрение на словах.

TW
На сайте с 18.04.2006
Offline
118
#10

Подскажите, а стоит ли прописывать в роботс указанное выше?

Какие от этого плюсы и какие минусы?

Спасибо.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий