Ограничение размера robots.txt и выпадение из индекса

S
На сайте с 27.03.2005
Offline
16
869

Суть проблемы (отрывок из письма Платону):

Уважаемый Платон! Мы хотели бы получить по возможности честный ответ на вопрос: что происходит с индексом www.uti-note.ru ?

0. 2 недели назад из индекса пропала главная страница :(

1. В прошлую среду Я потерял индекс полностью (было в индексе ~5000 страниц) :(((((((((

2. Вы написали, что у Я все ОК, что скорее всего траблы были у нас и скоро будет переиндексация - админ поднял всевозможные логи и т.д. - uptime сервера за последний месяц 100%. Робот (I) благополучно каждый день съедает 500-5000 страниц.

3. Начиная с пятницы периодически ~30-700 страниц появляются у Вас в быстробазе на 3-4 часа и исчезают оттуда. (

- в ночь с 21 на 22 апреля ~30 страниц

- утром 23 апреля ~300 страниц

- днем 24 апреля ~700 страниц

- днем 25 апреля ~890 страниц

к вечеру все страницы из быстробазы вылетают.

4. Во вторник был апдейт индекса - ни одна из страниц из быстробазы туда не попала - по прежнему в индесе 0 страниц.

- Что же происходит с индесом и что нам делать???

- Как сделать так, чтобы страницы из быстробазы легли в обычный индекс - писать Вам?, читать махамантру?

- Когда все-таки стоит ждать восстановления индекса и можем ли мы на это как

то повлиять (ящиком пива, морем вотки, коллективными молитвани на админов и сервер Я...)

Ответ Платона:

Еще раз проанализировал ситуацию с индексированием Вашего сайта. Проблема в

том, что размер файла robots.txt, размещенного на uti-note.ru, превышает

максимально допустимые размеры в 32кБ, в данный момент он 75381Б. Надо

поправить эту проблему и сайт должен начать индексироаться без проблем.

ВОПРОСЫ общественности:

1. В каком стандарте описано ограничение размера robots.txt?

2. Насколько похож на правду ответ Платона (о том, что размер robots.txt влияет на попадание страниц в нормальный индекс из быстробазы)?

albion
На сайте с 07.10.2005
Offline
247
#1
Saper:
2. Насколько похож на правду ответ Платона (о том, что размер robots.txt влияет на попадание страниц в нормальный индекс из быстробазы)?

А зачем ему вам врать?

Saper:
1. В каком стандарте описано ограничение размера robots.txt?

Какая разница есть этот стандарт или его нет (я его не нашел). Яндекс сам для себя установил максимальный размер, который он может прочитать.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий