Правильно ли создан robots.txt ?

12 3
G2
На сайте с 12.01.2013
Offline
36
1142

Добрый день, у меня такой вопрос, мне нужно в robots.txt закрить папки blocks, admin и js. Я для этого прописал вот такое:

User-Agent: *

Disallow: /blocks/

Disallow: /admin/

Disallow: /js/

Правильно ли я все прописал ?

Stanok
На сайте с 26.04.2010
Offline
89
#1

User-Agent: *

Disallow: /blocks*

Disallow: /admin*

Disallow: /js*

Host: site.ru

Пользуйтесь валидатором, работает четко http://webmaster.yandex.ru/robots.xml

G2
На сайте с 12.01.2013
Offline
36
#2

а для гугла это подойдет ?

S6
На сайте с 06.12.2011
Offline
158
SEO
#3
gigs2:
Добрый день, у меня такой вопрос, мне нужно в robots.txt закрить папки blocks, admin и js. Я для этого прописал вот такое:

User-Agent: *
Disallow: /blocks/
Disallow: /admin/
Disallow: /js/

Правильно ли я все прописал ?

Норм. Подойдет.

Аудит сайта. Консультации.
Stanok
На сайте с 26.04.2010
Offline
89
#4

User-Agent: * - звездочка, это все поисковые системы, гугл в том числе.

siv1987
На сайте с 02.04.2009
Offline
427
#5

У вас правильно прописано. Второй вариант хоть с точки зрения синтаксиса и верен, но унылый. Во первых нет четкого разделения что это папки, во вторых использования звездочки в конце бессмысленно, так как по умолчанию она и так подразумевается. Только лишнее несовместимость с ботами которые не понимают подстановочные символы.

G2
На сайте с 12.01.2013
Offline
36
#6

Stanok просто вы поставили в конце каждого каталога *

Disallow: /blocks*

Disallow: /admin*

Disallow: /js*

то есть можно ставить либо звездочку, либо слеш я правильно понял ? или между этими знаками есть какие то отличия ?

S6
На сайте с 06.12.2011
Offline
158
SEO
#7

Почему бы просто не почитать мануал? :)

G2
На сайте с 12.01.2013
Offline
36
#8

ну в общем я понял, вот мой конечный вариант:

User-Agent: *

Disallow: /blocks/

Disallow: /admin/

Disallow: /js/

Host: site.ru

Stanok
На сайте с 26.04.2010
Offline
89
#9
siv1987:
У вас правильно прописано. Второй вариант хоть с точки зрения синтаксиса и верен, но унылый. Во первых нет четкого разделения что это папки, во вторых использования звездочки в конце бессмысленно, так как по умолчанию она и так подразумевается. Только лишнее несовместимость с ботами которые не понимают подстановочные символы.

Спецсимвол '*' означает любую (в том числе пустую) последовательность символов. Оба варианта правильные, а ТС показал где валидатор, в чем проблема?

siv1987
На сайте с 02.04.2009
Offline
427
#10
Stanok:
Спецсимвол '*' означает любую (в том числе пустую) последовательность символов.

Означает. И еще в конце строки (если не указать спец символ $) по умолчанию подразумевается любую (в том числе пустую) последовательность символов.

Stanok:
Оба варианта правильные, а ТС показал где валидатор, в чем проблема?

Выше написано в чем ошибки. Это как говнокод - вроде работает, но все равно говнокод.

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий