что то не могу понять...

NetMinion
На сайте с 12.05.2004
Offline
72
507

Host: http://www.сайт.ru/

User-Agent: *

Disallow: /node/

Disallow: /taxonomy/

Disallow: /?

вот вроде все объяснид ему... а он зараза все хапает...

вот где я ошибся?

продается культовое доменное имя freemp3.ru жду предложений
bondarev.pp.ru
На сайте с 29.09.2005
Offline
202
#1

Поставьте Host ПОСЛЕ User-Agent

bondarevpipes.com (http://ru.bondarevpipes.com/)
albion
На сайте с 07.10.2005
Offline
247
#2
NetMinion:
Host: http://www.сайт.ru/
User-Agent: *
Disallow: /node/
Disallow: /taxonomy/
Disallow: /?


вот вроде все объяснид ему... а он зараза все хапает...
вот где я ошибся?

если я не путаю, то host пишется в самом низу. 🚬

MPavel
На сайте с 28.02.2006
Offline
32
#3
albion:
если я не путаю, то host пишется в самом низу. 🚬

Помоему тоже.

тестируем тут : http://www.yandex.ru/cgi-bin/test-robots

Зачем покупать то - что можно взять бесплатно? Всегда свежая БД Белых Каталогов. (http://baza.garb.ru) *Ручная регистрация в каталогах (http://baza.garb.ru/submitter/)
NetMinion
На сайте с 12.05.2004
Offline
72
#4
NetMinion:
Host: http://www.сайт.ru/
User-Agent: *
Disallow: /node/
Disallow: /taxonomy/

Disallow: /? - после этого он не будет индексировать все что с параметрами идет

www.site.ru/?dd=2

а сам сайт соответственно будет?

Sculptor
На сайте с 11.06.2005
Offline
179
#5

Яндекс на своих страницах советует ознакомиться с этим faq - Стандарт исключений для роботов

Дорого куплю ссылки со строительных сайтов, не находящихся в биржах и не продающие ссылки.
MPavel
На сайте с 28.02.2006
Offline
32
#6
NetMinion:
Disallow: /? - после этого он не будет индексировать все что с параметрами идет
www.site.ru/?dd=2
а сам сайт соответственно будет?

Строка "Disallow: /dir" запрещает посещение всех страниц сервера, полное имя которых (от корня сервера) начинается с "/dir". Например: "/dir.html", "/dir/index.html", "/directory.html".

Чтобы запрещать посещение именно каталога "/dir", инструкция должна иметь вид: "Disallow: /dir/".

Тоже самое думаю и со знаком "?"

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий