Как запретить индексирование подразделов сайта

TN
На сайте с 17.08.2004
Offline
21
687

Как запретить индексирование подразделов сайта без запрета индексирования главной страницы этого раздела?

Т.е. например есть раздел /test/ и в нем например вот такие подразделы:

/test/a/

/test/b/

/test/lala.htm

/test/?go=out

Допустим таких разделов достаточно большое число, поэтому в каждую страничку в meta прописывать robot noindex лениво, да и не правильно заставлять рробота грузить страничку если она ему не нужна.

Можно ли это сделать с помощью robots.txt?

Евген
На сайте с 28.02.2004
Offline
1040
#1
Арбитражишь? подними РОИ на 10-20% - бонусы на пополнение рекламных сетей (тм, мт, твк, твс) (https://eprofit.me/ru/partner?olymp)
Григорий Селезнев
На сайте с 25.09.2001
Offline
298
#2

TaraNTino,

попробуйте ;-))

Disallow: /test/a

Disallow: /test/b

Disallow: /test/c

Disallow: /test/d

Disallow: /test/e

.....

Disallow: /test/x

Disallow: /test/y

Disallow: /test/z

+

Disallow: /test/?

TN
На сайте с 17.08.2004
Offline
21
#3
Как писал Евген
читай

Отлично, гугля понимает регулярные выражения, а как с этим у яндекса/рамблера?

Как писал Professor
TaraNTino,
попробуйте ;-))

Disallow: /test/a
Disallow: /test/b
Disallow: /test/c
Disallow: /test/d
Disallow: /test/e
.....
Disallow: /test/x
Disallow: /test/y
Disallow: /test/z
+
Disallow: /test/?

А еще

Disallow: /test/0

...

Disallow: /test/9

И еще насколько я помню рамблер у меня при одной строчке

Disallow: /test/?

запрещал индексирование всего раздела вместе с подразделами.

NL
На сайте с 29.01.2003
Offline
212
#4
И еще насколько я помню рамблер у меня при одной строчке
Disallow: /test/?
запрещал индексирование всего раздела вместе с подразделами.

Т.е. Рамблер индексировал кроме /test/?... еще и /test/ и /test/0 ... /test/z ?

Если это действительно так (т.е. сможете доказать) - с чистой совестью пишите баг-репорт в Рамблер.

ER
На сайте с 19.11.2002
Offline
107
#5
пишите баг-репорт в Рамблер.

NULL, с год назад в рамках борьбы с дубликатами на сайте добавил в robots.txt строчку "Disallow: /?" Вскоре из Рамблера практически весь сайт вывалился, только новостей немного осталось в базе... написал, спросил в чём дело. Ответили только что я сам запретил индексацию. Предположил что этой строкой как раз, убрал, страницы снова появились в базе. И еще раз написал, спрашивал почему такая запись запрещает индексацию, где об этом написано. В ответ тишина. Им, видимо, свои баги править не надо.

NL
На сайте с 29.01.2003
Offline
212
#6

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий