"Host" в файле robots.txt - пропадание сайта из Яндекса

12
S
На сайте с 20.08.2003
Offline
15
1592

Прописал в robots.txt директиву Host, чтобы яндекс выбрал нужный адрес для зеркала. Через несколько дней сайт вообще пропал из результатов поиска. На форуме яндексе мне ничего не сказали по этому поводу. Никаких мер по раскрутке не проводилось - поэтому бан, я думаю, исключен. Почему такое случилось? Что делать?

Нефтегазовое оборудование (http://barrel.udm.ru/)
K
На сайте с 05.04.2004
Offline
15
#1

таким образом потерял индекс аж по пяти сайтам, мне тоже так и не ответили в Я, а когда я проверил роботс через:

http://kako.yandex.ru/cgi-bin/test-robots?host=вставить свой домен

то Я выдал "ресурс запрещен к индексированию" ВО КАК!!! парадокс или глюк ... или им ****** на все

K
На сайте с 10.03.2004
Offline
254
#2

semibratov,

привидите пример своего роботса,

и скажите чего вы хотите: какой сайт объявить зеркалом, а какой поставить на индексацию?

я по незнанию все первый раз перепутал, потом разобрался и все встало на свои места, яндекс проиндексировал и через два апдейта сразу в топе

Так что Яндекс работает отлично в данном направлении

Белых оптимизаторов, работающих над внешними факторами, не бывает. И да, мой блог (http://blog.skobeeff.ru/).
Дайвер
На сайте с 07.04.2004
Offline
47
#3

У меня тоже сайт выпал из Яндекса, как я добавил в robots - host

Главный сайт - http://prus.ru

robots.txt:

User-Agent: *

Host: prus.spb.ru

User-Agent: *

Host: www.prus.spb.ru

User-Agent: *

Host: spb.prus.ru

User-Agent: *

Host: www.spb.prus.ru

User-Agent: *

Disallow: /cgi-bin/

Disallow: /nonsystem/

Disallow: /services/phantom/

Disallow: /forum/posting.php

Disallow: /i/

Disallow: /im/

Disallow: /images/

Disallow: /inc/

Disallow: /lib/

Disallow: /template/

Disallow: /forum/

K
На сайте с 10.03.2004
Offline
254
#4

Дайвер,

вот ваша и ошибка, если главный сайт то его именно хостом нужно прописывать:

User-Agent: *

Host: prus.ru

и на те сайты все залей этот же роботс

тогда Яндекс сразу разберется что к чему всех склеит и выведет только http://prus.ru

вот и все

удачи вам в продвижении проекта

Дайвер
На сайте с 07.04.2004
Offline
47
#5

Дело в том, что у меня один сайт.

Просто на него несколько доменов.

Разве мне не надо указывать другие домены?

А если надо, то как выделить главным prus.ru?

AN
На сайте с 05.06.2004
Offline
243
#6
Разве мне не надо указывать другие домены?

А если надо, то как выделить главным prus.ru?

Именно так, как написал Kostya. И больше ничего не надо (ну еще Disallow, они у вас вроде правильно написаны).

Размещу ваши баннеры на посещаемых сайтах. Места еще есть! Возможен безнал. (/ru/forum/324945) Нужны копирайтеры/рерайтеры - медики. Пишите в личку. (/ru/forum/676932)
midian777
На сайте с 07.07.2004
Offline
108
#7

User-Agent: *

Disallow: /cgi-bin/

Disallow: /nonsystem/

Disallow: /services/phantom/

Disallow: /forum/posting.php

Disallow: /i/

Disallow: /im/

Disallow: /images/

Disallow: /inc/

Disallow: /lib/

Disallow: /template/

Disallow: /forum/

Host: prus.ru

---------------------

Дайвер
На сайте с 07.04.2004
Offline
47
#8

Спасибо.

WG
На сайте с 17.05.2004
Offline
6
#9

Господа, рассейте мои сомнения...

User-Agent: *

Disallow: /cgi-bin

Host: barrens.ru

это прописано у меня в роботсе... кто писал - не знаю.

http://kako.yandex.ru/cgi-bin/test-robots?host=

без www выдает 302 ошибку

с www говорит что:

Запрещена индексация всех URL, начинающихся с указанных префиксов:

/

Индексация сервера www.barrens.ru:80 запрещена полностью.

Это нормально? Первый раз в этот вопрос сунулся

Специализация: компрессоры
S
На сайте с 20.08.2003
Offline
15
#10

файл robots.txt такой:

User-Agent: *

Disallow: /cgi-bin

Host: www.radiosystem.ru

Адрес сайта выбранного яндексом: www.axitel.ru

Сегодня я через AddURL добавил www.radiosystem.ru в яндекс. Он (яндекс) мне сказал, что это новый адрес и будет скоро проиндексирован. Хотя по старому адресу он был проиндексирован полность.

Теперь про адрес www.axitel.ru он говорит, что это зеркало radiosystem и к индексации не принимает.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий