В индекс Google залезло содержимое файла robots.txt

Speculum
На сайте с 23.11.2009
Offline
54
760

Здравствуйте.

В индекс Google залезло содержимое файла robots.txt.

Чревато ли это страшными последствиями (игнор директив из robots.txt)? Просто Google индексирует многое из того, что запрещено в этом файле. Yandex индексирует сайт нормально (хотя изредка проскакивает и здесь).

Подозреваю, что Google просто не воспринимает robots.txt должным образом.

Нужно ли исправлять ситуацию? Если да, то как это сделать?

Безопасная тизерка - от 1 рубля за клик! (http://news.gnezdo.ru/p/0/2388/)
Fr3d
На сайте с 29.05.2008
Offline
86
#1
Speculum:

Подозреваю, что Google просто не воспринимает robots.txt должным образом.

Проверьте

В FireFox - зайдите в информацию о странице, тип должен быть text/plain

Webmoney кредиты - это WMCoin.ru (http://wmcoin.ru)
S
На сайте с 28.10.2005
Offline
318
#2
arkadiy_a
На сайте с 11.06.2008
Offline
82
#3

еще как-то так можно.

Speculum
На сайте с 23.11.2009
Offline
54
#4
Проверьте
В FireFox - зайдите в информацию о странице, тип должен быть text/plain

Проверил. Стоит text/plain.

По поводу того, что Google индексирует миллионы таких же файлов: приятно, конечно, что не мне одному так плохо :) Но влияет ли это на индексацию каким-то образом?

iren K
На сайте с 28.12.2008
Offline
222
#5
Speculum:

Чревато ли это страшными последствиями
Подозреваю, что Google просто не воспринимает robots.txt должным образом.
как это сделать?

забаньте ботов гугля в .htaccess и "страшных" последствий не будет, в чем вопрос..🙄

c уважением Iren
Speculum
На сайте с 23.11.2009
Offline
54
#6
iren K:
забаньте ботов гугля в .htaccess и "страшных" последствий не будет, в чем вопрос..🙄

Лучший ответ :)

Только мне бы ещё и трафик с Google хотелось бы поиметь.. А потому, оставим такое решение на самый крайний случай..

S
На сайте с 28.10.2005
Offline
318
#7
Speculum:
Но влияет ли это на индексацию каким-то образом?

Не может влиять

P.S.: Обратите внимание как креативно Гугл подошел к составлению тайтлов для robots.txt 😂

Speculum
На сайте с 23.11.2009
Offline
54
#8
semenov:
Не может влиять

P.S.: Обратите внимание как креативно Гугл подошел к составлению тайтлов для robots.txt 😂

Вроде картина ясна. Спасибо всем за внимание.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий