Правильно ли написан robots.txt ???

123 4
MS
На сайте с 08.02.2009
Offline
89
2130

Всем привет.

На одном блоге есть такая тема - http://seo.kg/wordpress/ideal-wordpress-robots-txt-by-bloggers/

Вопрос, собственно в следующем:

Есть http://seo.kg/robots.txt

в данном случае директива User-agent - используется дважды.

Меня интересует, правильно ли это или нет...?

Я считаю что если есть User-agent: * - то эта строка User-Agent: Yandex НЕ НУЖНА!

Я новичок в SEO, и поэтому хочу услышать ответ профессионалов.

Ну и выяснить, кто из нас прав...

S8
На сайте с 26.09.2008
Offline
45
#1

Если я не ошибаюсь то у яши есть проверка http://webmaster.yandex.ru/wmconsole/public_robots_txt.xml

[Удален]
#2
MegaSEOkg:
Всем привет.
На одном блоге есть такая тема - http://seo.kg/wordpress/ideal-wordpress-robots-txt-by-bloggers/

Вопрос, собственно в следующем:
Есть http://seo.kg/robots.txt
в данном случае директива User-agent - используется дважды.
Меня интересует, правильно ли это или нет...?
Я считаю что если есть User-agent: * - то эта строка User-Agent: Yandex НЕ НУЖНА!

Я новичок в SEO, и поэтому хочу услышать ответ профессионалов.
Ну и выяснить, кто из нас прав...

А чем тебя не устраивает ответ администратора в комментариях?

Андрей,
User-agent: *
Это правило для всех поисковиков.

User-Agent: Yandex
Правило для Яндекса т.к. директиву Host: понимает только он.

User-Agent - должен содержать название поискового робота. В данной записи можно указать каждому конкретному роботу, какие страницы сайта индексировать, а какие нет.

Host - директива служит для определения основного зеркала. Используется, как дополнительная директива Яндексом.

тобиш меня?

MS
На сайте с 08.02.2009
Offline
89
#3
Kimochi:
А чем тебя не устраивает ответ администратора в комментариях?
Андрей,
User-agent: *
Это правило для всех поисковиков.

User-Agent: Yandex
Правило для Яндекса т.к. директиву Host: понимает только он.

User-Agent - должен содержать название поискового робота. В данной записи можно указать каждому конкретному роботу, какие страницы сайта индексировать, а какие нет.

Host - директива служит для определения основного зеркала. Используется, как дополнительная директива Яндексом.

тобиш меня?

Я например думаю так, что если User-agent: * - Это правило для всех поисковиков, то яндекс уже само собой поймёт, что его это тоже касается. В связи с чем думаю, что раз яндексу уже понятно, то зачем? для него ещё раз писать User-agent: Yandex когда он и так понимает при первом варианте.

Что касается Host - я в курсе, что это и для чего.

Написал вопрос на форуме, не ради спора,

а ради того что б лишний раз убедиться прав я или не прав.

[Удален]
#4
MegaSEOkg:
Я например думаю так, что если User-agent: * - Это правило для всех поисковиков, то яндекс уже само собой поймёт, что его это тоже касается. В связи с чем думаю, что раз яндексу уже понятно, то зачем? для него ещё раз писать User-agent: Yandex когда он и так понимает при первом варианте.

Что касается Host - я в курсе, что это и для чего.

Написал вопрос на форуме, не ради спора,
а ради того что б лишний раз убедиться прав я или не прав.

Веселый ты человек) тебя это действительно так волнует?

Вот именно, Яндекса это касается, но не др. ПС. Делается это лишь для того, чтобы синтаксис для др. поисковиков не был нарушен.

MS
На сайте с 08.02.2009
Offline
89
#5

В принципе я согласен что целесообразно использовать директиву User-Agent: Yandex, в том случае,

если бы изначально к примеру было не User-Agent: * а User-Agent: Rambler или User-Agent: Google

Но логически, если в первой строке указана команда, для всех поисковиков, то какой смысл писать отдельно для яндекса...?

MegaSEOkg добавил 09.06.2009 в 00:23

Kimochi:
Веселый ты человек) тебя это действительно так волнует?

В принципе, мне как-то параллельно...

Просто интересовался мнениями других людей, по аське пару коллег ответили,

что второй раз писать не обязательно, однако, и вреда нет.

Победила дружба!

[Удален]
#6

В принципе, MegaSEOkg прав - Host отдельно для Яндекса можно было не выносить. Но можно и вынести. Принципиальной роли это не играет.

murvuz
На сайте с 14.06.2007
Offline
191
#7

Неправильный роботс. Вообще правильно рассуждаете: * достаточно, если Вы не расписываете директивы для каждого бота.

Неправильный синтаксис:

User-Agent: Yandex
Host: seo.kg

Изучайте на будущее - Хелп по роботсу.

Правильно:

User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /awstats/
Disallow: /*.js$
Disallow: /*.inc$
Disallow: /*.css$
Disallow: /wp-content/
Disallow: /wp-includes/
Disallow: /wp-admin/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /download-manager.php
Disallow: /*comment-page-*
Disallow: /jexr/
Host: seo.kg

Sitemap: http://seo.kg/sitemap.xml По идее в самом конце. Я его никогда не прописываю, добавляю через панели вебмастеров.

" А не спеть ли нам песню? О любвииии..."
[Удален]
#8
murvuz:
Неправильный роботс. Вообще правильно рассуждаете: * достаточно, если Вы не расписываете директивы для каждого бота.
Неправильный синтаксис:

Изучайте на будущее - Хелп по роботсу.
Правильно:

) соблюдая синтаксис, директиву host, которую понимает только Яндекс желательно приписать к User-agent: Yandex.

murvuz:
Sitemap: http://seo.kg/sitemap.xml По идее в самом конце. Я его никогда не прописываю, добавляю через панели вебмастеров.

Стоит в конце, игнорировать отсутствие - глупо. ПС рекомендуют! Директива Sitemap.

murvuz
На сайте с 14.06.2007
Offline
191
#9
Kimochi:
) соблюдая синтаксис, директиву host, которую понимает только Яндекс желательно приписать к User-agent: Yandex.

Я никогда не прописывал отдельно для Яндекса. Он нормально понимает и на User-agent: *

А соблюдая синтаксис, host важно написать непосредственно после 'Disallow'('Allow'). Вам тоже по ссылке с моего предыдущего поста ;)

MS
На сайте с 08.02.2009
Offline
89
#10
murvuz:
Я никогда не прописывал отдельно для Яндекса. Он нормально понимает и на User-agent: *
А соблюдая синтаксис, host важно написать непосредственно после 'Disallow'('Allow').

Я это тоже заметил изначально.

Просто, не стал писать...

123 4

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий