Как запретить страницы page/2/?

N
На сайте с 06.07.2010
Offline
122
1545

Здравствуйте! Сайт на DLE. Обнаружил в яндекс вебмастер, что страниц стало вдвое больше, проиндексировались страницы типа http://сайт/writers/page/2/, в конце адреса page/2/. Изначально в robot.txt было прописано Disallow: /page/, но оказывается он не запрещает такие страницы. Подскажите как запретить индексацию таких дублей?

shabash
На сайте с 02.05.2008
Offline
97
#1

Попробуйте

Disallow: /*page/

Help от Яндекса по роботсу

W
На сайте с 14.03.2011
Offline
111
wnt
#2

То что у вас было написано ранее запрещало страницы вида http://сайт/page/

Видимо вам нужно прописать

Disallow: /writers/page/

Способ от seobash тоже подходит. И возможно подойдет лучше, чем то что я предложил.

P
На сайте с 09.01.2010
Offline
26
#3

у меня вот так

Disallow:*/page

отлично работает

VDS & Dedicated хостинг в США (http://coolvds.com/pl.php?124)
N
На сайте с 06.07.2010
Offline
122
#4

спасибо, то что надо

P9
На сайте с 19.05.2011
Offline
10
#5
nepeyvoda:
спасибо, то что надо

Только имейте ввиду, если пропишите так Disallow:*/page то у Вас не одна страница которая в УРЛе содержит page, индексироваться не будет

W
На сайте с 10.05.2009
Offline
114
#6

а зачем это делать, а Вы не боитесь что у вас половина сайта не поиндексится, как робот найдет ваши страницы с материалами, если нету нормальной навигации? Рекомендуют закрыть только страницу page/1/ которая дублирует главную, а остальные дублей не создают.

immo
На сайте с 10.04.2010
Offline
168
#7
wolfston:
а зачем это делать, а Вы не боитесь что у вас половина сайта не поиндексится, как робот найдет ваши страницы с материалами, если нету нормальной навигации? Рекомендуют закрыть только страницу page/1/ которая дублирует главную, а остальные дублей не создают.

Роботы ходят везде, просто не включают в индекс то что запрещено 🚬

Продвижение коммерческих сайтов в МСК от 16 т.р. Гарантии и отзывы. Опыт более 11 лет. WebGard.ru
kimberlit
На сайте с 13.03.2007
Offline
370
#8
proxy988:
Только имейте ввиду, если пропишите так Disallow:*/page то у Вас не одна страница которая в УРЛе содержит page, индексироваться не будет

Содержит "/page"

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий