Вопрос по robots.txt

S
На сайте с 14.06.2011
Offline
28
428

Приветствую!

Возникла необходимость закрыть все страницы, в урл которых присутствуют числа.

Отсюда - http://help.yandex.ru/webmaster/?id=996567 я так и не понял как лучше это сделать.

Можно конечно попробовать таким макаром:

Disallow: /*1

Disallow: /*2

....

Disallow: /*9

Может кто сталкивался и знает как это сделать одной строчкой!

kimberlit
На сайте с 13.03.2007
Offline
370
#1
stroilogik:
как это сделать одной строчкой

Никак. 10 никак.

S
На сайте с 14.06.2011
Offline
28
#2
kimberlit:
Никак. 10 никак.

т.е. вы хотите сказать, что и мой вариант не подходит?

блин, а как же быть...

дело в том что урлы с цифрами (это id статей) = полный дубль таких же страниц, но только без цифр. А настроить правильно редирект не получается, писать на каждый урл отдельной строчкой тоже не вариант.

stroilogik добавил 14.12.2011 в 18:42

извиняюсь, я понял...буду использовать rel="canonical"

но в любом случае интересно было бы узнать про роботс.

если у кого будут идеи - отпишитесь пожалуйста.

kimberlit
На сайте с 13.03.2007
Offline
370
#3
stroilogik:
т.е. вы хотите сказать, что и мой вариант не подходит?
блин, а как же быть...

Подходит. Но он как бы не одной строкой.

Speaker19
На сайте с 20.12.2010
Offline
224
#4

stroilogik, а Вы изначально не предполагаете, что если настроено ЧПУ, то могут быть материалы с цифрами в урлах? Может всё-таки с редиректом разобраться?

Дешевая и эффективная реклама ВКонтакте: сообщества, рекламные посты, аналитика. (http://adspoiler.com/r/16336752) Имеются свободные рекламные места в соц. сетях? (http://partner.apishops.com/soc.htm)
S
На сайте с 14.06.2011
Offline
28
#5

kimberlit, спасибо за ответ.

Speaker19:
stroilogik, а Вы изначально не предполагаете, что если настроено ЧПУ, то могут быть материалы с цифрами в урлах? Может всё-таки с редиректом разобраться?

Для наглядности приведу пример:

было - /2-razdel/48-kategoriya/1897-statya-o-juchkah.html

теперь так - /razdel/kategoriya/statya-o-juchkah.html

Страница доступна по 2 адресам

Ну и вот, редирект не получается сделать, т.е. можно конечно каждый урл занести в .htaccess, но тут проще или роботс, или rel="canonical".

Если подскажете как массово прописать редирект, буду очень благодарен.

siv1987
На сайте с 02.04.2009
Offline
427
#6

stroilogik, редирект

RewriteEngine On

RewriteRule ^[0-9]+-([^/]+)/[0-9]+-([^/]+)/[0-9]-(.+\.html)$ /$1/$2/$3 [R=301,L]

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий