Что не так с моим robots.txt ?

12 3
O1
На сайте с 08.08.2008
Offline
109
1362

У меня на одном сайте стоит вордпресс, сделала robots.txt, но Яндекс пишет, что 0 страниц в индексе, по ходу из-за того, что 200 из 900 загруженных роботом - запрещены к индексации. Вот файл:

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: /feed

Disallow: */trackback

Disallow: */feed

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: /feed

Disallow: */trackback

Disallow: */feed

Host: домен

User-agent: Yandex

Crawl-delay: 3

Sitemap: домен

Проверяю в ЯндексВебмастере, выдает:

User-agent: Yandex

Disallow: /cgi-bin

...

Host: домен

User-agent: Yandex

Crawl-delay: 3

Sitemap: http://домен/sitemap.xml

Что здесь неправильно? Написала так, ведь просто хочу защитить административные каталоги от просмотра...

ZoomY
На сайте с 07.11.2008
Offline
165
#1

А зачем вы два раза указываете "User-agent: Yandex"?

Размещу ваши статьи на сайтах с тИЦ до 1400 по 5$ (/ru/forum/846111) Сейчас многие ищут хостинг за пределами России. Ukrnames - один из лучших вариантов: (http://ukrnames.com/?ref_id=114) и лидер рынка, и привычно, и по-русски, и вне юрисдикции РФ.
MO-HAX
На сайте с 01.10.2007
Offline
132
#2

http://сайт.ру/"КАКОЙ УРЛ ПРОВЕРЯЕТЕ"?

iren K
На сайте с 28.12.2008
Offline
222
#3
olja1:


Что здесь неправильно?

правильно:

User-agent: *

Disallow: /папка/

...........

Disallow: /*папка/

надеюсь понятно..))

c уважением Iren
O1
На сайте с 08.08.2008
Offline
109
#4
ZoomY:
А зачем вы два раза указываете "User-agent: Yandex"?

User-agent: *

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: /feed

Disallow: */trackback

Disallow: */feed

User-agent: Yandex

Disallow: /cgi-bin

Disallow: /wp-admin

Disallow: /wp-includes

Disallow: /wp-content/plugins

Disallow: /wp-content/cache

Disallow: /wp-content/themes

Disallow: /trackback

Disallow: /feed

Disallow: */trackback

Disallow: */feed

Host: домен

Crawl-delay: 3

Sitemap: домен

Теперь правильно?

olja1 добавил 08.03.2010 в 00:08

iren K:
правильно:
User-agent: *
Disallow: /папка/
...........
Disallow: /*папка/

надеюсь понятно..))

в смысле, что отдельно для яндекса не нужно прописывать, а только для всех роботов?

Читала повсюду, что нужно писать для Яндекса отдельно...

ZoomY
На сайте с 07.11.2008
Offline
165
#5

Посмотрите также на советы которые вам дали выше.

O1
На сайте с 08.08.2008
Offline
109
#6
MO-HAX:
http://сайт.ру/"КАКОЙ УРЛ ПРОВЕРЯЕТЕ"?

проверяю сайт.ру без http://

olja1 добавил 08.03.2010 в 00:12

ZoomY:
Посмотрите также на советы которые вам дали выше.

Напишите, пожалуйста, как должно быть

ZoomY
На сайте с 07.11.2008
Offline
165
#7
olja1:
проверяю сайт.ру без http://

olja1 добавил 08.03.2010 в 00:12


Напишите, пожалуйста, как должно быть

Точно не уверен, но звёздочки меня смущают.

O1
На сайте с 08.08.2008
Offline
109
#8
ZoomY:
Точно не уверен, но звёздочки меня смущают.

Звездочки можно, так написано даже на Яндексе

MO-HAX
На сайте с 01.10.2007
Offline
132
#9

Правила для Яндекса ставьте вначале, топишь:


User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: /feed
Disallow: */trackback
Disallow: */feed
Host: домен
Crawl-delay: 3


User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: /feed
Disallow: */trackback
Disallow: */feed
O1
На сайте с 08.08.2008
Offline
109
#10
MO-HAX:
Правила для Яндекса ставьте вначале, топишь:

Сделала так, все согласны с этим? Так точно правильно?

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий