Про синтаксис robots.txt

Maximus325
На сайте с 27.01.2006
Offline
277
1192

Подскажите плз, интересуют только боты гугля, яхи и мсн. Магаз н аджумле. Очевидного ответа не нашёл.

Надо разрешить:

http://site.com/index.html

http://site.com/shop/antibiotics_5.html

Но запретить всё остальное, как то:

http://site.com/index.php?option=com_virtuemart&page=shop.browse&

http://site.com/shop/index.php?page=shop.cart&option=com_virtuemart&Itemid=26

http://site.com/index.php?option=com_virtuemart&Itemid=26

и т.д.

Как правильнее написать?

Спасибо.

Нужен Eng копирайтер с опытом по теме казино, постоянные заказы.
kir_pich
На сайте с 09.07.2006
Offline
124
#1

в роботе можно только запрещать, но не разрешать!

я не идиот, просто у меня винтиков в голове не хватает! (c) kir_pich
GFF
На сайте с 18.09.2006
Offline
38
GFF
#2

Возможно, так?

User-agent: *
Disallow: /index.php?
Disallow: /shop/index.php?

Есть сайт специальный: http://robotstxt.org.ru/

Каширин
На сайте с 03.01.2004
Offline
1031
#3

Запретите все документы через <meta name="robots" (или <meta name="googlebot" - если только для Google), а для указанных документов мету не выводите.

Maximus325
На сайте с 27.01.2006
Offline
277
#4
Каширин:
Запретите все документы через <meta name="robots" (или <meta name="googlebot" - если только для Google), а для указанных документов мету не выводите.

Спасиб, попробуем так.

Unlock
На сайте с 01.08.2004
Offline
786
#5
kir_pich:
в роботе можно только запрещать, но не разрешать!

Ну это не так.

Вот такая строчка:

User-agent: Mediapartners-Google*

Disallow:

Разрешает по сути, а не запрещает.

Есть желание, - тысяча способов; нет желания, - тысяча поводов! /Петр-I/.
Unlock
На сайте с 01.08.2004
Offline
786
#6

kimberlit, то что я написал, не запрещает боту ничего, т.е. по сути разрешает конкретному боту индексировать все... Так что если не быть формалистом, то не запрещает = разрешает. Или вы считаете что вопрос "как разрешить боту индексировать все" не правильный, и надо спрашивать "как не запрещать боту индексировать все"? :)

Unlock
На сайте с 01.08.2004
Offline
786
#7

kimberlit, в данном случае такую вольную трактовку разрешить можно, ничего криминального не случится. Ладно, все равно каждый останется при своем мнении.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий