Гугл не поддерживает Host в robots.txt?

12
S
На сайте с 18.09.2006
Offline
110
2155

На сайт ссылаются как с www. так и без.

Было выбрано юзать урл без ввв - и на сайте сделан редирект (если есть ввв - редиректить на ту же страничку без ввв).

Дополнительно в файле роботс.тхт

добавлена директива

User-agent: *

Disallow:

Host: domainname.com

в гугл вебмастер тулс выразилось мне так:

Parsing results

Host: domainname.com Syntax not understood

подскажите в чем проблемма?

сайт англоязычный и двигается там же :)

B
На сайте с 14.07.2006
Offline
71
#1

Гугл не поддерживает Host в robots.txt, поставьте 301 редирект с www на без www, если вы этого ещё не сделали, и всё будет в норме.

Таггу x_x
На сайте с 31.10.2005
Offline
445
#2
SEManiak:
На сайт ссылаются как с www. так и без.
Было выбрано юзать урл без ввв - и на сайте сделан редирект (если есть ввв - редиректить на ту же страничку без ввв).

Дополнительно в файле роботс.тхт
добавлена директива
User-agent: *
Disallow:
Host: domainname.com

в гугл вебмастер тулс выразилось мне так:
Parsing results
Host: domainname.com Syntax not understood
подскажите в чем проблемма?
сайт англоязычный и двигается там же :)

Вообще то именно в этих тулзах можно напрямую указать основное зеркало.

Там это называется основной домен.

☠️☠️☠️
S
На сайте с 18.09.2006
Offline
110
#3
blagoy:
Гугл не поддерживает Host в robots.txt, поставьте 301 редирект с www на без www, если вы этого ещё не сделали, и всё будет в норме.

про редирект я сказал, что сделал

просто удивило, почему гугль не юзает такую широкоиспользуемую штуку 😮

к тому же, у меня есть проект, в котором гугл запутался с "www.":

- на сайт 80% ссылок идут с www., в хостах записано тоже с "ввв.", редирект стоит, в вебмастерах преферед домен тоже стоит на ввв.

но вот в гугле все адреса идут без ввв, и при "site:www.domainname.com" тоже ничего не возвращает (без ввв - 120 доков, сайту уже 4 месяца).

самое обидно, что на вебмастер туле показывает, что около 30% страниц имеют медиум пейджранк, а на тулбарном всё ПР0 :( - и по результатам выдачи видно, что сайт ещё под фильтрами.

вобщем буду ждать и надеятся на лучшее

sevan
На сайте с 03.03.2006
Offline
139
#4

Директиву Host придумал Яндекс - больше никто про нее не знает

Nikolai Popkov
На сайте с 07.06.2001
Offline
291
#5

Если у вас сервер Apache, то можно вместо использования директивы Host задать robots.txt с использованием директив SSI:

<!--#if expr=" \"${HTTP_HOST}\" != \"www.ebanners.ru\" " --> 

User-Agent: *
Disallow: /
<!--#endif -->

В этом файле роботу запрещен обход всех хостов, кроме www.ebanners.ru

партнерские программы (http://www.ebanners.ru/viewforum.php?f=7), словарь термины SEO (http://www.ebanners.ru/viewtopic.php?t=548) Форум маркетинг (http://www.reclama.su/) Reclama.Su, обмен ссылками (http://www.ebanners.ru/viewforum.php?f=13), Reklama.SU: контекстная реклама (http://www.reklama.su/) по цене Яндекса+продвижение за результат
K. Ermakov
На сайте с 10.12.2004
Offline
328
#6
SEManiak:
но вот в гугле все адреса идут без ввв, и при "site:www.domainname.com" тоже ничего не возвращает (без ввв - 120 доков, сайту уже 4 месяца)

Раз Вы пользуетесь Webmaster Tools, то должны знать, что там можно явным образом указать, какой именно из Ваших доменов показывать в выдаче - с www или без. Возможно, это Вам поможет.

С уважением, Константин Ермаков, absite.ru: онлайн кроссворды (http://absite.ru/); searchsuggest.ru: поисковые подсказки доставляют (http://searchsuggest.ru/).
S
На сайте с 18.09.2006
Offline
110
#7
K. Ermakov:
Раз Вы пользуетесь Webmaster Tools, то должны знать, что там можно явным образом указать, какой именно из Ваших доменов показывать в выдаче - с www или без. Возможно, это Вам поможет.

я уже упомянул тут, что пользуюсь тулзами.

но они не работают (поправка: плохенько работают) + гугл очень часто путается (не удевительно - ведь у него много работы)

для примера:

есть средний проектик (10,000 уникальных страничек), на него один горе-сабмитер сабмитил линки как с ввв, так и без ввв (возможно причина не в этом)

клиентом выбран домен без ввв.

я это поставил в начале сентября в тулзах, как и редирект.

выполняем в гугле сайт:имядомена.ком - первый снипет (главная) без ввв, ВСЕ остальные с ВВВ. на тулзах - самый высокий рейтинг у странички с ввв, в ноябре уже без ввв.

вот мне и интересно, как гугль вразумить.

надеюсь покупка ПР5-6 ссылок + дир.Яху ему поможет

если есть советы - буду рад :)

K. Ermakov
На сайте с 10.12.2004
Offline
328
#8

SEManiak, я не понял, Вы воспользовались настройкой Diagnostic -> Preferred domain или нет?

S
На сайте с 18.09.2006
Offline
110
#9
K. Ermakov:
SEManiak, я не понял, Вы воспользовались настройкой Diagnostic -> Preferred domain или нет?

йес, для всех сайтов выставил нужный вормат с или без ввв.

всего в веб-тулзах сайтов 20

в двух из них гугл прикольнулся

DimaU
На сайте с 30.08.2005
Offline
180
#10
Дополнительно в файле роботс.тхт
добавлена директива
User-agent: *
Disallow:
Host: domainname.com

в гугл вебмастер тулс выразилось мне так:
Parsing results
Host: domainname.com Syntax not understood

может пригодится такой выход :) :

1. использовать две секции в роботс.тхт:

User-agent: *
Disallow:

User-agent: Yandex
Disallow:
Host: ваш_сайт.ru

2. В настройках гугл-sitemap есть переключатель - основное зеркало

"c www / без www" (good, что выставлен :) )

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий