Есть ли ограничение на размер файла robots.txt?

antono
На сайте с 12.07.2004
Offline
303
761

Есть ли ограничение на размер файла robots.txt? Нужно позакрывать очень много, думаю где-то 10 килобайт будет этот файл. Учтет ли поисковик все?

Гроссмейстер
На сайте с 15.01.2005
Offline
104
#1
Есть ли ограничение на размер файла robots.txt?

Я думаю есть. Но оно, на мой взгляд, близко к ограничениям индексации обычных web-документов.

Нужно позакрывать очень много, думаю где-то 10 килобайт будет этот файл. Учтет ли поисковик все?
Мне кажется, что да.

Хотя если нужно закрывать очень много - можно попробовать воспользоваться мета тегом роботс, иногда это проще...

Андрей Муравьёв Временно заброшенный блог: «Заметки интернет-маркетолога (http://web-blog.ru/)» «Чтобы задать правильный вопрос, нужно знать большую часть ответа» © Цицерон.
Segey
На сайте с 23.08.2005
Offline
404
#2

Может попробовать спросить у Я, всетаки это не про поисковый спам вопрос, мне кажетсся ответить должны.

Brexit - уже совсем рядом. (https://about-this-model.blogspot.com/2019/03/brexit.html)
GEREM
На сайте с 29.03.2005
Offline
139
#3

На собственном печальном опыте могу сказать, что robots размером в 11.6 Кб (319 строк) читался поисковиком нормально.

С уважением, Минин Михаил. mihailminin.livejournal.com (http://mihailminin.livejournal.com)
Segey
На сайте с 23.08.2005
Offline
404
#4
GEREM:
собственном печальном опыте могу сказать

А чем он так печален?

GEREM
На сайте с 29.03.2005
Offline
139
#5

Segey, тем что сайт был кривой ужасно. У нормального сайта можно было бы сделать отдельный каталог для ненужных страниц и прописать его в роботсе.

FlyAway
На сайте с 01.06.2005
Offline
439
#6

antono, не думаю, что должны возникнуть проблемы с роботсом в 10 кб.

Сердюченко Андрей (http://www.serdyuchenko.ru/) Масонская ложа — SЕ-Team.ru (http://goo.gl/YIjV6h) :)

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий