Индексация при использования данного robots

NS
На сайте с 10.10.2007
Offline
55
973

Приветствую,

у меня такой вопрос, как теоретически может отразится индексация сайта при использовании

данного файла robots.txt

User-agent: *

Disallow:

Дятлы свили гнездо в интернете (/ru/users/15134")
Talisman13
На сайте с 20.01.2007
Offline
211
#1
NewSign:
у меня такой вопрос, как теоретически может отразится индексация сайта при использовании
данного файла robots.txt

Будет индексироваться так как если бы файла не было. Паук будет приходить, проверять роботс и дальше уже по своему плану действовать. Что здесь непонятного, зачем такие вопросы на форум нести?

pernatik
На сайте с 16.09.2010
Offline
26
#2

Для всех роботов, запрета нет - т.е. индексироваться будет... да и смысла в роботсе нету, конкретно в этом

Любые работы по DLE
NS
На сайте с 10.10.2007
Offline
55
#3

ХЗ,

просто удивило использование директивы Disallow в этом случае - случае когда можно полностью индексировать все.

не лучше ли было написать так

User-agent: *

Allow: /

IV-й
На сайте с 23.06.2009
Offline
159
#4
NewSign:
ХЗ,

просто удивило использование директивы Disallow в этом случае - случае когда можно полностью индексировать все.

не лучше ли было написать так
User-agent: *
Allow: /

Ещё год назад Rambler "Allow" не воспринимал, сейчас не знаю как дела обстоят

Fruit
На сайте с 15.07.2008
Offline
166
#5
NewSign:

просто удивило использование директивы Disallow в этом случае

По стандарту, в роботсе Disallow должен встречаться хотя бы один раз, даже если запрещать ничего не надо.

NewSign:
не лучше ли было написать так
User-agent: *
Allow: /

Нет. Allow: - бессмысленная директива, всё и так по-умолчанию разрешено.

SX
На сайте с 17.09.2009
Offline
20
#6
Fruit:
По стандарту, в роботсе Disallow должен встречаться хотя бы один раз, даже если запрещать ничего не надо.



Нет. Allow: - бессмысленная директива, всё и так по-умолчанию разрешено.

Allow - абсолютно не бессмысленная директива! Например если Вам надо запретить каталог в котором 10 папок, а одну из них не надо запрещать....

Пример:

Allow: catalog/files/

Disallow: catalog/

S
На сайте с 28.10.2005
Offline
319
#7
NewSign:

как теоретически может отразится индексация сайта при использовании данного файла robots.txt

User-agent: *
Disallow:

Никак не может

NS
На сайте с 10.10.2007
Offline
55
#8

понятно, честно говоря не вижел смысла так оставлять файл,

ХЗ как может его оценить Яндекс, например, когда будет с бодуна

S
На сайте с 28.10.2005
Offline
319
#9

Добавте Host, как раз для "с бодуна"

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий