Индексирует то, что нельзя в robots.txt почему?

1 23
E
На сайте с 21.09.2009
Offline
283
#21

altezzik, следует + письма рассылает, что если роботс не будет доступен, то сканировать временно прекратит.

D4
На сайте с 19.08.2014
Offline
8
#22
Dolst:
Приведу пример своего robots.txt , у меня в google много страниц с /2015/01/ к примеру таких. Скажите пожалуйста правильно ли у меня составлен этот файл, и что сделать с Google? Я тут много чего понаписал, может лишнего. Укажите что не правильно?

Во первых слишком большой файл robots.txt это не очень хорошо, при том что ваш можно упростить например:

Disallow: /index.php?do=addnews

Disallow: /index.php?do=feedback

Disallow: /index.php?do=lostpassword

Disallow: /index.php?do=pm

Disallow: /index.php?do=register

Disallow: /index.php?do=stats

Disallow: /index.php?do=search

Можно заменить на Disallow: /index.php?do

Так как лучше всегда закрывать от индексации get параметры.

Во вторых файл robots.txt это всего лишь рекомендация для робота, а далее робот уже решает что ему делать. Если хотите закрыть на 100% используйте теги <meta name="robots" content="noindex,nofollow">

SeVlad
На сайте с 03.11.2008
Offline
1609
#23
easywind:
следует + письма рассылает, что если роботс не будет доступен, то сканировать временно прекратит.

Какой же ты... Да, Мад_Мен прав. Даже ещё мягко сказал.

Маны не читаешь - это понятно. Но хотя бы головой подумал, что в гуговебмастере зареганы едва ли 10% сайтов. Кому и куда гугл будет отсылать письма? Или он тоже кому-то обязан?

Делаю хорошие сайты хорошим людям. Предпочтение коммерческим направлениям. Связь со мной через http://wp.me/P3YHjQ-3.
M
На сайте с 15.06.2010
Offline
158
#24

Давно уже поднималась эта тема. Robots.txt для Google это рекомендация, а не правило.

Посетите мой сайт: https://www.sweet-shop.kiev.ua/
IBakalov
На сайте с 05.10.2011
Offline
218
#25
vanred79:
Вот этот метатег для запрета индексации текста на странице:
<!--googleoff: all-->текст<!--/googleoff: all-->
IBakalov:
Что за бред?
vanred79:
Бред который работает. http://google.utk.edu/ut-help/googleongoogleoff/
Со снипетов убирается не нужное, проверено (заключенное в метатег убирается примерно через 2-3 недели).
Спасибо добрым людям, раньше тоже думал что нельзя закрыть текст. http://talk.pr-cy.ru/topic/11125-kak-zakryt-tekst-ot-glaz-gugla/

Я таки не поленился проверить: http://bakalov.info/eksperiment-uchityvaet-li-google-teg-googleoff.html

Как и ожидалось - тема бред, указанный тег нефига не работает.

1 23

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий