Народ помогите pls. Резко упал сайт и при добавлении

Интересно... А как узнать какой код он выдает? 😮

Добавьте свой robots.txt в форму http://webmaster.yandex.ru, если проглотит, значит все нормально.

попробуйте такое написать:

User-agent: *

Disallow:

Host: www.site.ru

уточнение: тут надо прописать свой сайт в той форме, как вы его продвигаете (ставите ссылки) с www или без www. указать главное зеркало.

Ещё уточнение: перед директивой Host нужна строчка:

User-agent: Yandex

А вообще оставьте его пустым от греха подальше :D

Во-во!

Косяки разные бывают, если роботса нет, хостинг при обращении много всякого вернуть может...

Лучший способ - просто оставить пустым.

Большой пардон! а почему это при получении некорректного статуса (500) к robots.txt робот отказывается индексить весь сайт ? почему это не рассматривается как отсутствие robots.txt ?

Объясняю.

500 Internal Server Error - значит, что страница есть, но в данный момент недоступна из-за ошибки сервера.

Если мы не можем прочитать robots.txt, но знаем, что он есть - мы не можем определить, не запрещен ли сайт к индексации, и, как результат, считаем, что запрещен.

А то сами потом будете обвинять, что robots.txt игнорируем....

Это уже проверено? Мне кажется неправильно, не можем прочесть robots.txt - запретить сайт к индексации.

Народ новая проблемма! после исправления robots.txt - сайт вернулся, НО ТОЛЬКО на 1 ДЕНЬ!!! А потом опять вывалился!!! В яндексе по запросам уже ссылки на него видны на первых строках, а сам сайт невиден!!! В чем проблемма - подскажите пожалуйста...😕 Мне кажется что, что-то с кодом не так. может кто глянет www.dvamiga.ru

помогите, вообще не понимаю, что происходит. Все поисковики видят, кроме Яндекса.