robots.txt

romanov
На сайте с 13.01.2005
Offline
145
1040

Доброго всем времени суток!

--------------------------------------

Задача: склеить зеркала

Решение:

User-agent: *

Host: somesite.ru

Disallow:

Правильно?

И для всех ли (имеется в виду поисковики G. R. A.)?

Всем спасибо!

зарабатываейте с нами (http://www.seowizard.ru/r.54b8561c00.php)
AiK
На сайте с 27.10.2000
Offline
257
AiK
#1

romanov, правильнее так:


User-agent: *
Disallow:

User-agent: Yandex
Disallow:
Host: somesite.ru

В коде есть ответ и на втрой вопрос :)

romanov
На сайте с 13.01.2005
Offline
145
#2

AiK, вопрос №2 не правильно понят:

User-agent: Yandex/1.03.000

Disallow:

Host: somesite.ru

User-agent: StackRambler

Host: somesite.ru

Disallow:

User-agent: Aport

Host: somesite.ru

Disallow:

И для остальных:

User-agent: *

Disallow:

Я имел в виду остальная часть русской тройки также воспримет этот robots.txt (Host: somesite.ru)?

С Я и так все ясно.

B
На сайте с 07.10.2004
Offline
114
#3

Host - это исключительно директива Я.

Г - склеит.

Р - стоит написать в саппорт

А - см. Р

Бородин Антон. 411-22-05, icq 199228260, bomass [at] ya.ru Домен .ru за 6,3$ (http://webst.ru/?id=146)
C
На сайте с 19.09.2001
Offline
120
#4

romanov,

1. Директива Host должна идти после всех директив Disallow

2. Директиву Host поддерживает только Яндекс, на что AiK и намекал.

С уважением, Владимир Чернышов. (не)?путевые заметки (http://chernyshov.kiev.ua/)
romanov
На сайте с 13.01.2005
Offline
145
#5
Как писал Bomass
Host - это исключительно директива Я.
Г - склеит.
Р - стоит написать в саппорт
А - см. Р

Вот!Это-то и я имел в иду.

Просто хотелось уточнить (чтоб на 100%)

Всем огромное спасибо!

AiK
На сайте с 27.10.2000
Offline
257
AiK
#6

romanov, если ты ничего от роботов закрывать не собираешься, то подойдёт и твой вариант из первого сообщения. А если что-то хочешь закрыть, то запреты для Яндекса нужно дублировать в отдельной секции. В противном случае твой вариант будет равносилен записи:


User-agent: *
Приходи кто хочешь, бери что хочешь

потому, что если секция оформлена неверно (а добавление директивы host стандартом не предусмотрено), то робот вправе считать, что её не существует.

romanov
На сайте с 13.01.2005
Offline
145
#7

AiK,спасибо,это знаем...

Мне надо было уточнить отношение остальных к host.

R
На сайте с 07.02.2005
Offline
1
#8

возможно вопрос глуповат, но все же

у меня есть два сайта, раньше был один, потом он плавно переехал на новый домен, но тИЦ первого терять не хочеться (хоть он и падает, т.к. на этом сайте уже ничего нет) - предположим http://1.ru и http://2.ru

я переехал на http://2.ru

вот сам вопрос:

robots.txt должен быть на http://2.ru?

его содержание должно быть

User-agent: *
Disallow:

User-agent: Yandex Disallow:
Host: 1.ru

?

AiK
На сайте с 27.10.2000
Offline
257
AiK
#9

r09er, robots.txt должен быть идентичным на обоих сайтах. Иначе бы ты мог приклеивать себе чужие домены. Да и зеркала это или нет в конце концов? :)

Прописывать нужно главное зеркало, т.е. 2.ru. И не записывать директивы в одну строку.

Есть тут одна тонкость - вообще-то данная деректива это только подсказка для зеркальщика. Если сайты сильно различаются (а ты пишешь, что на старом уже ничего нет), то и склеивать зеркальщик может не захотеть. Но это нужно проверять на опыте, так как я зеркалил сайты процентов на 70 похожие.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий