вопрос по роботс.тхт

12 3
tuborg
На сайте с 24.08.2011
Offline
3
1398

Посмотрел на сайте роботс - там такие строки

User-agent: Yandex

Disallow:

Host: www.site.ru

как я понимаю эта директива запрещает яндексу доступ ко всему сайту, но почему то текста размещенные на сайте, нормально индексируются.

и вообще, если честно, не понимаю, зачем это все в роботсе, подскажите пожалуйста, для чего эти секции здесь прописаны, кто-то до меня их писал...

User-agent: Yandex

Disallow:

Host: www.site.ru

User-agent: Googlebot

Disallow:

User-agent: StackRambler

Disallow:

User-agent: Aport

Disallow:

User-agent: Mail.Ru/1.0

Disallow:

User-agent: *

Disallow: /

kimberlit
На сайте с 13.03.2007
Offline
370
#1
tuborg:
как я понимаю эта директива запрещает яндексу доступ ко всему сайту, но почему то текста размещенные на сайте, нормально индексируются.

Справку Яндекса читать не пробовал?

tuborg
На сайте с 24.08.2011
Offline
3
#2
kimberlit:
Справку Яндекса читать не пробовал?

несколько раз прочитал, и что?

kimberlit
На сайте с 13.03.2007
Offline
370
#3
tuborg:
несколько раз прочитал, и что?

Disallow: не запрещает доступ ко всему сайту.

S
На сайте с 28.10.2005
Offline
312
#4
tuborg:
Посмотрел на сайте роботс - там такие строки
User-agent: Yandex
Disallow:
Host: www.site.ru

как я понимаю эта директива запрещает яндексу доступ ко всему сайту

Эта секция ничего Яндексу не запрещает, справку читать пробывали? http://help.yandex.ru/webmaster/?id=996567 ;)

stalker37
На сайте с 16.05.2008
Offline
164
#5

tuborg, чтобы сайт не индексировался достаточно написать

User-agent: *

Disallow: /
Шаред и облачный хостинг, VPS (http://jino.ru/?par=stalker37)
VictorSamus
На сайте с 22.02.2011
Offline
98
#6
AS
На сайте с 11.10.2010
Offline
45
#7

Тож вопросик по Роботс:

Если в вордпресе(да и не только) прописать в роботсе:

Disallow: /*?*

Disallow: /*?

То как я понял http://www.сайт.ру/content.php?page_id=1 - не будет индексироваться, а http://www.сайт.ру/?page_id=1 будет, верно?

kimberlit
На сайте с 13.03.2007
Offline
370
#8
Alex-striker:
Если в вордпресе(да и не только) прописать в роботсе:
Disallow: /*?*
Disallow: /*?

Это как бы абсолютно одинаковые записи.

Alex-striker:
То как я понял http://www.сайт.ру/content.php?page_id=1 - не будет индексироваться, а http://www.сайт.ру/?page_id=1 будет, верно?

Обе.

ЗЫ Справку Яндекса читать не пробовал? (с)

AS
На сайте с 11.10.2010
Offline
45
#9
kimberlit:

Обе.
ЗЫ Справку Яндекса читать не пробовал? (с)

Что обе?) Обе будут или обе не будут?)

з.ы. Пробывал, как видишь не помогло))

kimberlit
На сайте с 13.03.2007
Offline
370
#10
Alex-striker:
Что обе?) Обе будут или обе не будут?)

Там типа проверить можно. Не пробовал? (С)

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий