robots.txt

TM
На сайте с 18.01.2012
Offline
1
333

правильно ли я составил robots.txt

User-agent: Googlebot

Disallow:

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /category #

User-agent: Yandex

Disallow:

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /category #

Host: http://texnomob.ru/

User-agent: *

Disallow:

Disallow: /wp-admin/

Disallow: /wp-includes/

Disallow: /category #

Sitemap: http://texnomob.ru/sitemap.xml

http://texnomob.ru/
forest25
На сайте с 12.09.2009
Offline
67
#1

Проверь валидатором от W3C http://validator.w3.org/

Он согласно robots.txt ходит

VPS 512MB 20GB SSD KVM - 5$ (http://u.hmdw.me/digitalocean) | ИМХО о хостингах (http://u.hmdw.me/hosting)
kimberlit
На сайте с 13.03.2007
Offline
370
#2

Я тут задачу решал для одного школьника. У меня ответ получился: "семнадцать". Я правильно решил задачу?

ЗЫ А роботс неправильный. Приоритет директив, хост и т.д. RTFM

R34-zevs
На сайте с 15.07.2006
Offline
238
#3
TexnoMob:
User-agent: *
Disallow:
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /category #

Вы же указали что для всех (User-agent: *), смысл от неправильной конкретики выше?

Агентство недвижимости Фабрика Жилья (http://xn--80aacvicll3bzbzgqb.xn--p1ai/)
azartan
На сайте с 25.11.2010
Offline
67
#4

почитайте тут

Мониторинг обменников - выгодный обмен электронных денег и криптовалют (https://okku.ru) * Сайт о домашних питомцах - вопросы, ответы, объявления (http://zhizo.ru)
TM
На сайте с 18.01.2012
Offline
1
#5

R34-zevs, Пожалуйста объясни по подробней.

nik_kent
На сайте с 05.02.2008
Offline
193
#6
TexnoMob:
Host: http://texnomob.ru/

Хост пишется без http:// и /.

TexnoMob:
Disallow:

Это зачем? Какие страницы/директории Вы этим правилом закрываете?

TexnoMob:
Disallow: /category #

С помощью # оставляют комментарии в роботсе, так как комментария нет, то и # не нужна. Но это конечно ошибкой не является.

Хотя бы хелп Яндекса-то изучите.

С уважением, Николай.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий