правильный robots.txt

S1
На сайте с 21.02.2009
Offline
45
406

Будет ли работать такой robots.txt особо интересует заблокирует ли гугл такие страницы http://domen.ru/me/page/3 по вот такому параметру Disallow: /*/page/

User-agent: *

Allow: /

Disallow: /engine/go.php

Disallow: /user/

Disallow: /newposts/

Disallow: /statistics.html

Disallow: /*subaction=userinfo

Disallow: /*subaction=newposts

Disallow: /*do=lastcomments

Disallow: /*do=feedback

Disallow: /*do=register

Disallow: /*do=lostpassword

Disallow: /*do=addnews

Disallow: /*do=stats

Disallow: /*do=pm

Disallow: /*/page/

Disallow: /2011/

Disallow: /2010/

Disallow: /2009/

Allow: /

K
На сайте с 31.01.2001
Offline
737
#1

Нет.

После второй строки можно уже ничего не писать, все разрешено.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
Chalk
На сайте с 05.11.2009
Offline
48
#2

В Гугл вебмастере можно проверить как видит поисковик ваш robots.txt

kimberlit
На сайте с 13.03.2007
Offline
370
#3
sergei1231:
Будет ли работать такой robots.txt особо интересует заблокирует ли гугл такие страницы http://domen.ru/me/page/3 по вот такому параметру Disallow: /*/page/

Не будет. У тебя всё разрешено.

S1
На сайте с 21.02.2009
Offline
45
#4
Kost:
Нет.
После второй строки можно уже ничего не писать, все разрешено.

А так

User-agent: *

Disallow: /engine/go.php

Disallow: /user/

Disallow: /newposts/

Disallow: /statistics.html

Disallow: /*subaction=userinfo

Disallow: /*subaction=newposts

Disallow: /*do=lastcomments

Disallow: /*do=feedback

Disallow: /*do=register

Disallow: /*do=lostpassword

Disallow: /*do=addnews

Disallow: /*do=stats

Disallow: /*do=pm

Disallow: /*/page/

Disallow: /2011/

Disallow: /2010/

Disallow: /2009/

igrinov
На сайте с 09.01.2009
Offline
134
#5

sergei1231, вот здесь http://webmaster.yandex.ru/robots.xml можно проверить, какой адрес блокируется, а какой нет

Персональный VPN/Socks сервер (https://cp.inferno.name/aff.php?aff=2419)
[Удален]
#6

Нет не заблокирует

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий