robots.txt

laqi
На сайте с 11.12.2008
Offline
73
447

Здравствуйте, уважаемые.

Проблема... как в robots.txt закрыть от индексации страницы типа: http://site.ru/page/#comment-13015, т. е. страницы комментариев...?

Добавляю, к примеру, Disallow: /#comment/... закрывает все страницы (при проверке Яндекс.Вебмастером пишет "запрещен правилом /")

Добавляю Disallow: /comment/... все разрешает.

Как быть???

Заранее спасибо!

Всех поррву ррр
aka_Puhh
На сайте с 22.09.2010
Offline
17
#1

А так ? Disallow: /*comment

NC
На сайте с 23.05.2010
Offline
31
#2

Попробуйте так:

Disallow: /#comment-*
Актуален обмен ссылками: универсальное (/ru/forum/503305), фото (/ru/forum/503307)
K
На сайте с 31.01.2001
Offline
737
#3
laqi:
страницы типа: http://site.ru/page/#comment-13015, т

Поисковики отбрасывают все, начиная с #, поэтму не парьтесь, не закроете.

Даже не поисковики, а на более высоком уровне HTTP-стандартов все лишнее отбрасывается.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
NC
На сайте с 23.05.2010
Offline
31
#4

Стоп. А покажите-ка реальную страницу. На # же внутренние метки начинаются.

laqi
На сайте с 11.12.2008
Offline
73
#5

aka_Puhh, Ne&Co, к сожалению не помогает...

Kost, что Вы имеете ввиду под "отбрасывают"? В смысле не индексируют? Я то хочу закрыть эти страницы, т. к. слишком много дублей получается...

K
На сайте с 31.01.2001
Offline
737
#6
laqi:
что Вы имеете ввиду под "отбрасывает"? В смысле не индексирует?

При обработке URL в нем отбрасывается все, начиная с #.

Для поисковиков http://site.ru/page/#comment-13015 то же самое, что и

http://site.ru/page/

http://www.faqs.org/rfcs/rfc1738.html - информация к размышлению, символа # в URL быть не может.

laqi
На сайте с 11.12.2008
Offline
73
#7

Kost, спасибо большое, я понял..

AS
На сайте с 16.01.2009
Offline
87
#8

У меня тоже небольшая просьба по тому что именно нужно написать в этом файле.

Нужно чтобы сайт хорошо индексировался поисковиками.

Дело в том что вот уже года 2 этого файла у меня нет совсем, я незнал что этот файл имеет большое значение для самого сайта.

Сам сайт на движке dataLife Engine.

Заранее балгоадрен

Простой и стильный дизайн для вашего сайта (http://freelansim.ru/freelancers/AggreSSor)
K
На сайте с 31.01.2001
Offline
737
#9

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий