robots.txt что не так

12
K
На сайте с 22.07.2006
Offline
29
1053

Привет.

Есть сайт toptj.com PR=4

есть сайт toptj.tj

есть сайт index.toptj.com

сделал такой вот robots.txt:

User-agent: *

Host: www.toptj.com

ни яндекс ни гугл не объединили toptj.tj с toptj.com

и для одних и тех же запросов выдают ответ с двух сайтов одновременно.

че за хрень. Че сделал не так?

Sadie
На сайте с 11.04.2005
Offline
64
#1

"Disallow:" должен стоять, даже если пустой.

Гугль директиву Хост не знает, и потому не склеит. Яндексу понадобится для этого некоторое время.

Заодно поищите по форуму как сделать редирект 301 при помощи htaccess - это поможет Вам справиться и со склейкой Гугля.

Новости без комплексов (http://www.kompleksov.net/) | ЖЖ (http://sad-sadie.livejournal.com/)
K
На сайте с 22.07.2006
Offline
29
#2

спасибо большое

O
На сайте с 02.06.2006
Offline
67
#3

Чтобы не создавать отдельного, все таки вопрос в тему

-поставил в роботс на сайте http://moneyguard.org

чтобы шло только с www

следущее

User-agent:Yandex
Host: www.moneyguard.org
User-agent: *
Disallow:

И сайт вылетел с 500 ошибкой. Ничего не пойму.

Убрал, все нормально грузится. Что не так сделал ?

ZuS
На сайте с 22.04.2006
Offline
97
ZuS
#4

поставь 301 редирект и не мучайся - любой поисковик отменно клеет по редиректу

.htaccess

RewriteCond %{HTTP_HOST} ^site.ru

RewriteRule ^(.*)$ http://www.site.ru/$1 [R=301]

Лёлик
На сайте с 28.04.2006
Offline
54
#5
oldvovk:
Чтобы не создавать отдельного, все таки вопрос в тему
-поставил в роботс на сайте http://moneyguard.org
чтобы шло только с www
следущее



И сайт вылетел с 500 ошибкой. Ничего не пойму.
Убрал, все нормально грузится. Что не так сделал ?

Сделайте так

User-agent:Yandex

Disallow:

Host: www.moneyguard.org

User-agent: *

Disallow:

ZuS
На сайте с 22.04.2006
Offline
97
ZuS
#6

Тогда уж и для рамлера

User-agent:Rambler

Disallow:

Host: www.moneyguard.org

User-agent:Yandex

Disallow:

Host: www.moneyguard.org

User-agent: *

Disallow:

K
На сайте с 31.01.2001
Offline
737
#7
ZuS:
Тогда уж и для рамлера
User-agent:Rambler
Disallow:
Host: www.moneyguard.org

Это ерунда, Рамблер не знает директивы Host.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
ZuS
На сайте с 22.04.2006
Offline
97
ZuS
#8

Kost, рамблер знает директиву хост

O
На сайте с 02.06.2006
Offline
67
#9

Ребят погодите. Вопрос не в том понимает ли что то Рамблер,

и нужен ли он мне.

Вопрос то стоит почему сайт вылетел с ощибкой с этим роботс

Все понял при - копировании попали лишние коды с блокнота попали

Лёлик
На сайте с 28.04.2006
Offline
54
#10
ZuS:
Тогда уж и для рамлера
User-agent:Rambler

Правильнее будет так:

User-agent: StackRambler

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий