Проблема получения robots.txt в google webmasters

Sanu0074
На сайте с 31.08.2012
Offline
110
754

У меня случилась такая проблема, у меня был сайт, работал пару лет, стоял на домашнем серваке, в связи с переездом в другое место жительства, сайт не работал в течении где то 3-4 месяцев, я в новом жилье заказал статику, завел сервер, все работает, но в гугл вебмастере страницы ушли из индекса (но это можно понять почему), но проблема в том что он говорит что он не может достучаться до robots.txt, в то время как с доступом проблем нет, возвращается код 200, в содержании файла нет ошибок, все как надо. (ссылка: home-android.ru/robots.txt)

Сказать что что-то блокирует бота - нельзя, т.к. антивир, фаервол выключены. Скриншоты с вебмастера приаттачил. Не пойму, почему он не может получить доступ к robots.txt

F
На сайте с 25.03.2014
Offline
11
#1

История довольно увлекательная, но у меня тоже ругается на robots.txt. Мне тоже не понятно, что Гугл не устраивает :)

В Яндексе все нормально. Там просто нечему быть неправильно!

Sanu0074
На сайте с 31.08.2012
Offline
110
#2

frimost, а как решилась проблема? как с индексацией? ведь там написано что пока он не получит доступ к robots.txt - не начнет индексировать сайт!

F
На сайте с 25.03.2014
Offline
11
#3

У меня ругается в панели на robots.txt , но это не мешает сайту индексироваться.

Видимо, у Вас проблема в чем-то другом.

---------- Добавлено 19.10.2014 в 20:48 ----------

Дословно у меня ситуация такая: ругается на структуру, но в то же время Доступ к файлу robots.txt имеется!

Sanu0074
На сайте с 31.08.2012
Offline
110
#4

frimost, у меня проиндексировано 171 страница, это с самого начала так изменений не заметил. в панели главной написано что нет доступа к robots.txt и "Сканирование отложено, потому что файл robots.txt был недоступен."

F
На сайте с 25.03.2014
Offline
11
#5

Весь прикол в том, что robots и sitemap призваны облегчить работу поисковых роботов, но это не обязательно требование. Как вариант - что то с правами именно этого файла, может он не доступен на чтение.

Но глобально не должно влиять на индексирование. По сути, Вы в файле запрещаете какие-либо разделы, а так индексируется все подряд.

Sanu0074
На сайте с 31.08.2012
Offline
110
#6

frimost, с правами доступа проблем нет. по запросу файл нормально отдается (HTTP 200)

Sanu0074
На сайте с 31.08.2012
Offline
110
#7

теперь такие письма мне приходят от гугла

png 11.png
Sanu0074
На сайте с 31.08.2012
Offline
110
#8

Кстати с яндексом походу такие же проблемы:

png aa.png

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий