правильный robots.txt для wordpress

12
J
На сайте с 07.10.2010
Offline
163
2583

здравствуйте уважаемые форумчане. Вопрос как правильно создать robots.txt для wordpress? На данный момент он выглядит так:

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes/

Disallow: /wp-content/cache

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: */trackback/

Disallow: */feed/

Disallow: */comments/

Disallow: /?s=

Disallow: /category/

Disallow: /tag/

Sitemap: http://site.ru/sitemap.xml

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes/

Disallow: /wp-content/cache

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: */trackback/

Disallow: */feed/

Disallow: */comments/

Disallow: /?s=

Disallow: /category/

Disallow: /tag/

Host: site.ru

Укажите пожалуйста на ошибки и недочеты. Быть может, какие-либо директивы закрыл неправильно. Заранее спасибо.

Jaroslav добавил 21.10.2010 в 21:52

ну помогите пожалуйста. Неужели никто не разбирается?

Jaroslav добавил 22.10.2010 в 00:01

в принципе вопрос исчерпан!

DG
На сайте с 01.06.2010
Offline
8
#1

User-agent: *

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes/

Disallow: /wp-content/cache

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: /?s=

Disallow: /category/

Disallow: /tag/

host: сылка на ваш сайт www.site.ru

Sitemap: http://site.ru/sitemap.xml

User-agent: Yandex

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes/

Disallow: /wp-content/cache

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: /trackback/

Disallow: /feed/

Disallow: /comments/

Disallow: /?s=

Disallow: /category/

Disallow: /tag/

Host: site.ru

Вот так будет правильней!

Сайт: www.Allforps.ru - Всё для фотошоп, фотошоп уроки, дополнения и т.д. (http://allforps.ru)
[Удален]
#2

А я бы рекомендовал его закрыть, если не уверены. Поисковик со временем сам выкидывает все не нужное, но если делать робота (и были уже такие случаи), то можно случайно закрыть доступ к нужным файлам!!

Перепроверьте 10 раз, прежде чем его написать!

D
На сайте с 30.09.2008
Offline
107
#3

Jaroslav, все ок у вас в первом посте. Только Disallow: /wp-login.php и Disallow: /wp-register.php не обязательны (ИМХО и сам не использую, проблем не было).

xmlrpc.php у меня лично только Яндекс индексирует, закрываю только от него.

Shapranov Pavel
На сайте с 27.08.2007
Offline
304
#4

У себя использую такой, пользуйтесь на здоровье :)

User-agent: *
Disallow: /cgi-bin/
Disallow: /author/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /category/
Disallow: /category/*/*
Disallow: /page/
Disallow: /?feed=
Disallow: /?s=
Disallow: /xmlrpc.php
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: */comments
Disallow: */comment-page*
Disallow: /*trackback
Disallow: /*feed
Disallow: /author*
Disallow: /*?*
Disallow: /*?
Disallow: /?*
Disallow: */feed
Disallow: /feed
Disallow: */trackback
Disallow: /tag/*/page
Sitemap: http://site.ru/sitemap.xml
Host: site.ru
niceteam
На сайте с 20.02.2009
Offline
55
#5

А, если поставить Disallow на разделы /pryaniki/ и категорию /category/ будет толк?

Shapranov Pavel
На сайте с 27.08.2007
Offline
304
#6
niceteam:
А, если поставить Disallow на разделы /pryaniki/ и категорию /category/ будет толк?

На категории только нужно, т.к. аналогичные страницы открываются и без category в урле.

J
На сайте с 07.10.2010
Offline
163
#7

всем большое спасибо за помощь!

J
На сайте с 07.10.2010
Offline
163
#8

Shapranov Pavel, в общем сейчас вот такой роботс.тхт получился:

User-agent: *

Disallow: /cgi-bin/

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Disallow: /wp-content/cache

Disallow: */trackback

Disallow: /trackback

Disallow: /feed

Disallow: */feed

Disallow: /*feed

Disallow: /comments

Disallow: */comments

Disallow: /*?

Disallow: /*?*

Disallow: /?*

Disallow: /category/

Disallow: /tag/

Disallow: /?s=

Disallow: /xmlrpc.php

Sitemap: http://site.ru/sitemap.xml

User-agent: Yandex

Disallow: /cgi-bin/

Disallow: /wp-login.php

Disallow: /wp-register.php

Disallow: /xmlrpc.php

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/themes

Disallow: /wp-content/cache

Disallow: */trackback

Disallow: /trackback

Disallow: /feed

Disallow: */feed

Disallow: /*feed

Disallow: /comments

Disallow: */comments

Disallow: /*?

Disallow: /*?*

Disallow: /?*

Disallow: /category/

Disallow: /tag/

Disallow: /?s=

Disallow: /xmlrpc.php

Host: site.ru

Sitemap: http://site.ru/sitemap.xml

Пойдет такой? И нудно ли для яндекса все отдельно прописывать?

Shapranov Pavel
На сайте с 27.08.2007
Offline
304
#9
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-content/cache

Почему не закрыли слешем-то в конце?

Я использую один общий для всех, меня все устраивает :)

J
На сайте с 07.10.2010
Offline
163
#10
Shapranov Pavel:
Почему не закрыли слешем-то в конце?

спасибо...теперь закрыл:)

А так все нормально да?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий