robots.txt

R
На сайте с 16.04.2011
Offline
69
744

Ребята помогите пожалуйста составить правильный robots.txt, не знаю правильно ли я его составил,

на InstantCMS. Заранее спасибо сайт s a mara-ne w.ру

_2
На сайте с 30.05.2007
Offline
171
_t2
#1
User-agent: *
Disallow: *.php
Disallow: /forum/thread*-1.html
Disallow: /login
Disallow: /registration
Disallow: /users/
Disallow: /go/
Sitemap: http://samara-new.ru/yandex_sitemap.xml
Sitemap: http://samara-new.ru/sitemap.xml
Sitemap: http://samara-new.ru/google_sitemap.xml

host: samara-new.ru

А зачем три разных карты сайта? Если уж и решили так делать - указывайте их в соответствующих секциях.

User-agent: *

Disallow: ...

Sitemap: http://samara-new.ru/sitemap.xml

User-Agent: Yandex

Disallow: .....

Sitemap: http://samara-new.ru/google_sitemap.xml

User-Agent: Googlebot

Disallow: ....

Sitemap: http://samara-new.ru/yandex_sitemap.xml

*.php замените на /*.php

И не нужно отделять директиву host от остального содержания. Это ошибка. Host нужна только для Яндекса.

R
На сайте с 16.04.2011
Offline
69
#2

User-agent: *

Disallow: /*.php

Disallow: /forum/thread*-1.html

Disallow: /login

Disallow: /registration

Disallow: /users/

Disallow: /go/

Sitemap: http://samara-new.ru/sitemap.xml

User-Agent: Googlebot

Disallow: /*.php

Disallow: /forum/thread*-1.html

Disallow: /login

Disallow: /registration

Disallow: /users/

Disallow: /go/

Sitemap: http://samara-new.ru/google_sitemap.xml

User-Agent: Yandex

Disallow: /*.php

Disallow: /forum/thread*-1.html

Disallow: /login

Disallow: /registration

Disallow: /users/

Disallow: /go/

Sitemap: http://samara-new.ru/yandex_sitemap.xml

host: samara-new.ru

Как я понял вот так ? да :)

_2
На сайте с 30.05.2007
Offline
171
_t2
#3

Да, вроде всё верно. Но для чего всё же три разные карты сайта? :)

R
На сайте с 16.04.2011
Offline
69
#4

на InstantCMS карты делаются через модуль на нем только вот Sitemap: http://....ru/yandex_sitemap.xml и Sitemap: http://....ru/google_sitemap.xml

генерируется а sitemap.xml нету приходится через сервисы генерировать еще 1 карту дополнительно для других поисковиков . Может посоветуешь какой нибудь компонет для инстата. Я сам новичек в этом деле

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий