Составляем правильный robots.txt для worpdress

Zegaldis
На сайте с 09.08.2005
Offline
152
561

Прочитавши вот эти материалы

http://www.liewcf.com/blog/archives/2007/03/use-robotstxt-to-increase-search-engine-rankings/

http://www.askapache.com/2007/seo/seo-with-robotstxt.html

Составил вот такой вот robots.txt для своего блога:


User-agent: *
disallow: /cgi-bin/
disallow: /error/
disallow: /wp-register.php
disallow: /xmlrpc.php
Disallow: /tag/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /2006/0*
Disallow: /2007/0*
Disallow: /2006/1*
Disallow: /2007/1*
Disallow: */feed/
Disallow: */trackback/

То есть закрываем от индексации служебные файлики, архив сообщений по годам и месяцам (У меня страницы блога по категориям идут), а также пинги и трекбеки в отдельных постах.

Комментируем, критикуем. :idea:

Zegaldis
На сайте с 09.08.2005
Offline
152
#1

Дополняем:

Судя по поведению чекера

http://www.yandex.ru/cgi-bin/test-robots

Конструкция:


Disallow: /2006/0*
Disallow: /2007/0*
Disallow: /2006/1*
Disallow: /2007/1*

Яндекс ботом не понимается.

А понимается правильно вот такая конструкция:


Disallow: /2006/
Disallow: /2007/
Zegaldis
На сайте с 09.08.2005
Offline
152
#2

Дискутантов нет? 🙄

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий