robot.txt

V9
На сайте с 03.02.2013
Offline
21
482

Подскажите как запретить индексировать страницы: архивы, рубрики и другие отдельные страницы?

продукты содержащие валин (http://www.zanfiz.ru/valin-tsennyy-istochnik-energii)
F
На сайте с 13.11.2009
Offline
269
#1

Ну, во-первых, не robot, а robots.txt

А во-вторых, клик

V9
На сайте с 03.02.2013
Offline
21
#2

Там не все понятно))

Если мне надо запретить именно архивы и рубрики, что надо указывать??

Сайт на wp

---------- Добавлено 16.02.2013 в 20:44 ----------

?m=201301

?author=1

cat=1

?cat=1&paged=2

?m=201302

Как запретить индексировать такие ссылки?

F
На сайте с 13.11.2009
Offline
269
#3

Если внимательно читать, то все там понятно.

Disallow: /рубрика

Disallow: /архив

Надеюсь догадаетесь слова "рубрика" и "архив" заменить на название вашей рубрики и директории с архивами?

lockki
На сайте с 03.08.2010
Offline
124
#4

User-agent: Yandex

Disallow: /wp-admin/

Disallow: /wp-content/

Disallow: /*trackback

Disallow: /*feed/

Disallow: /*?s=

Disallow: /tag/

Disallow: /20

Disallow: /*comments

Allow: /wp-content/uploads

Host: вашсайт.ру

User-agent: *

Disallow: /wp-admin/

Disallow: /wp-content/

Disallow: /*trackback

Disallow: /*feed/

Disallow: /*?s=

Disallow: /tag/

Disallow: /20

Disallow: /*comments

Allow: /wp-content/uploads

Sitemap: http://вашсайт.ру/sitemap.xml

категории сами закроете) чтобы хоть как-то подучится)

F
На сайте с 13.11.2009
Offline
269
#5

что за ерунда специально для яндекса повторять одно и то же?

lockki
На сайте с 03.08.2010
Offline
124
#6

foran, как google относится к директиве host?

+ я написал стандарт, чтобы потом меньше вопросов возникало, где яндекс и т.п.

Matis
На сайте с 20.10.2007
Offline
124
#7

foran, директива хост присваивается Яндексу, а не общему * юзер-агенту. Можно конечно и общему, яша не идиот - поймёт.... но почему бы не написать правильно, по стандарту.

☜♡☞ Анализ и оптимизация DLE сайтов (/ru/forum/492127). Индивидуальный подход! Телеграм: @Matfor • Комплексное создание сайтов! • Продвижение сайтов и интернет магазинов!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий