robots.txt для Wordpress?

12 3
Zevss
На сайте с 23.03.2008
Offline
389
1113


Уважаемые гуру, что скажете, все ли тут правильно?

Код:

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /webstat/

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /webstat/

Disallow: /feed/

Disallow: /trackback

Disallow: */trackback

Disallow: */feed

Disallow: */comments

Disallow: /*?*

Disallow: /*?

Disallow: /category/*/*

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /comments

Host: мойсайт.ru

Sitemap: http://мойсайт.ru/sitemap.xml

Sitemap: http://мойсайт.ru/sitemap.xml.gz

Продаются сайты с доходом, недорого https://www.maultalk.com/topic356667.html
Кошачий
На сайте с 12.10.2012
Offline
116
#1
Zevss:
Disallow: /category/*/*

Достаточно так прописать:

Disallow: /category

А это что за значение у вас?

Disallow: /*?*

Для примера, роботс одного своего сайта:

User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: /feed
Disallow: /comments
Disallow: /category
Disallow: /author
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Host: meow.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /feed
Disallow: /comments
Disallow: /wp-comments
Disallow: /category
Disallow: /author
Disallow: */trackback
Disallow: */feed
Disallow: */comments

Sitemap: http://meow.ru/sitemap.xml

Вообще никакого мусора нет в выдаче.

Кстати, у вас автор не закрыт, а это лишние дубли по записям. Можете мой копировать и все будет meow 😂

Когда планета покроется котиками, она станет мягкой и пушистой ▲_▲ ▲_▲ Котосмайлы () на котофорум (/) ▲_▲
Zevss
На сайте с 23.03.2008
Offline
389
#2
Кошачий:
Disallow: /category

а категории обязательно закрывать?

Кошачий
На сайте с 12.10.2012
Offline
116
#3
Zevss:
а категории обязательно закрывать?

Да. Если открытыми оставлять, то в выдаче дубли будут.

serjoo
На сайте с 12.09.2011
Offline
389
#4
Кошачий:
Да. Если открытыми оставлять, то в выдаче дубли будут.

А я не закрыываю, все норм, продвигаю каты :)

---------- Добавлено 09.11.2013 в 13:03 ----------

Zevss:
Host: мойсайт.ru

структура сайта соответствует роботсу канешна ))

Мультур..
S6
На сайте с 06.12.2011
Offline
158
SEO
#5
Кошачий:

Disallow: /*?*
А это что за значение у вас?

Под маску /*?* попадают все страницы, вытащенные из базы при помощи get запросов. А они дублируют соответствующие страницы, например, с ЧПУ.

Аудит сайта. Консультации.
Кошачий
На сайте с 12.10.2012
Offline
116
#6

serjoo, я стараюсь все лишнее изолировать от выдачи... а по катам у меня своя заморочка придумана, чтобы все по феншую было :)

Xammer2000
На сайте с 10.08.2011
Offline
188
#7

Кошачий, а зачем камменты закрывать? я обратил внимание что наличие камментов, двигает страницу в выдаче, может камменты оставить все же?

Кошачий
На сайте с 12.10.2012
Offline
116
#8

Xammer2000, это уже свои заморочки. Я, например, вообще камменты выпиливаю из кода 😂

каждый сайт имеет свое направление и при составлении роботса нужно учитывать, что лучше запретить, а что оставить в индексе. Я скинул стандартный вариант роботса на мфа, который подойдет и для обычных сайтов, ибо он изолирует весь мусор.

phoenix555
На сайте с 20.11.2008
Offline
175
#9
serjoo:
А я не закрыываю, все норм, продвигаю каты :)

Можно и не закрывать, но тогда лучше добавить текст на страницу категории и закрыть навигацию;)

💦💦💦 XMLRiver.com - Выдача Google и Yandex в формате XML.Yandex | От 10р за 1000 запросов 🍀🍀🍀 KeyAssort.com - Программа для профессиональной кластеризации поисковых запросов
serjoo
На сайте с 12.09.2011
Offline
389
#10
phoenix555:
Можно и не закрывать, но тогда лучше добавить текст на страницу категории

А я без текста продвигаю, ага. -)

phoenix555:
закрыть навигацию

какую именно? все сложно

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий