Помогите создать robots.txt

LoNeLyGraYWoLFF
На сайте с 28.02.2012
Offline
14
483

Доброго времени суток.

Я в сайтоведении новичок. Никак не могу создать robots.txt.

1. имя сайта/название категории

2. имя сайта/название категории/название подкатегории

3. имя сайта/название категории/статья.html

4. имя сайта/название категории/название подкатегории/статья.html

Вообщем нужно запретить к индексации 1 и 2 строку, при этом, чтобы индексировалась 3 и 4. Помогите пожалуйста.

Заранее благодарен.

[Удален]
#1

А зачем такая сложная структура в урлах?

Сделай просто сайт/название статьи.хтмл. Если нужно будет перенести статью в другую категорию, то ничего не теряется.

Закрывается так:

Disallow: /категория/*

Либо, если не менять, то добавить каждую категорию и подкатегорию в роботс.

LoNeLyGraYWoLFF
На сайте с 28.02.2012
Offline
14
#2
_AntonOFF_:
А зачем такая сложная структура в урлах?
Сделай просто сайт/название статьи.хтмл. Если нужно будет перенести статью в другую категорию, то ничего не теряется.

Закрывается так:
Disallow: /категория/*

Либо, если не менять, то добавить каждую категорию и подкатегорию в роботс.

_AntonOFF_, последовал вашему совету. И урл стал покороче и мороки с роботс нет. Большое спасибо!:)

S
На сайте с 17.04.2011
Offline
8
#3

Правильный Robots.txt для WordPress

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: */trackback

Disallow: */*/trackback

Disallow: */*/feed/*/

Disallow: */feed

Disallow: /*?*

Disallow: /tag

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: */trackback

Disallow: */*/trackback

Disallow: */*/feed/*/

Disallow: */feed

Disallow: /*?*

Disallow: /tag

Host: elkalaz.ru

Sitemap: http://elkalaz.ru/sitemap.xml.gz

Sitemap: http://elkalaz.ru/sitemap.xml

series60
На сайте с 03.02.2009
Offline
92
#4

serasera,

Для каких целей два условия в роботе? (Для всех и яндекса)

R
На сайте с 01.02.2009
Offline
49
#5

Вообще можно походить по сайтам на схожих CMS со схожей структурой, и посмотреть, как у них выглядит robots.txt

S
На сайте с 17.04.2011
Offline
8
#6
series60:
serasera,
Для каких целей два условия в роботе? (Для всех и яндекса)

Ну тут показан принцип работы с каждым Поисковиком отдельно. Например для Яши закрывать комменты или еще что... 🍿

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий