robot.txt правильно ли?

U
На сайте с 24.02.2009
Offline
116
699

Disallow: /Novosti/*

если хочу закрыть от индексации страницы вида

http://site.ru/Novosti/Page-2

Dr_Tapac
На сайте с 27.08.2008
Offline
139
#1

Весь раздел?

Полное комплексное продвижение: SEO+SMO+SMM в услуге Комплекс Плюс (http://all-reg.net/promo/komplus/index.html) | Контекстная реклама 6 в 1 (https://contextpro.biz/) - Директ - поиск, РСЯ, Google Ads - поиск, КМС, ремаркетинг + ретаргетинг
emariaru
На сайте с 26.10.2010
Offline
73
#2

Да, все ок - но только файлик должен называться robots.txt и в нем следующий текст

User-agent: *

Disallow: /Novosti/*

K
На сайте с 31.01.2001
Offline
737
#3

И звездочку лучше убрать на конце.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
U
На сайте с 24.02.2009
Offline
116
#4
Kost:
И звездочку лучше убрать на конце.

а если уберу то

http://site.ru/Novosti/Page-3

в выдачу не попадет?

там лента новостей с превьюшками текста (1 символов)

сами ж нововости имеют второй уровень

вида

http://site.ru/ololo

все новости есть в xml карте сайта...

нужно выкинуть именно все что 3 уровня и второй уровень что со слешем на конце...

/Novosti/🙄

A
На сайте с 03.04.2010
Offline
179
#5

неважно, с звездочкой или без, закроется все что вам нужно. Вообще хорошая статья на тему http://help.yandex.ua/webmaster/?id=1115958

K
На сайте с 31.01.2001
Offline
737
#6
askary:
неважно, с звездочкой или без, закроется все что вам нужно.

Были времена, когда ни один поисковик не воспринимал звездочку за спецсимвол, звездочки нет в стандарте о robots.txt, поэтому написание со звездочкой ничего не запрещало.

U
На сайте с 24.02.2009
Offline
116
#7
askary:
неважно, с звездочкой или без, закроется все что вам нужно. Вообще хорошая статья на тему http://help.yandex.ua/webmaster/?id=1115958

спасибо.🍾

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий