Гугл красавчик, индексирует запрет

123
SM
На сайте с 07.06.2012
Offline
30
#11
slaviktorres:
Как так, в файле роботс стоит запрет на индексацию страниц сайт.ру/user/...., но гугл красавчик же, проиндексировал страницы, в поиске выдает ссылки на страницы юзеров и пишет "Описание веб-страницы недоступно из-за ограничений в файле robots.txt.", как так???

Они где-то у себя писали в хелпе, что запрет в роботс не всегда работает, и что если хотите чтоб старница наверняка не индексировалась то пишите в мета noindex. Тогда, типа, робот не будет ее трогать и не заносить в индекс.

slaviktorres
На сайте с 05.12.2010
Offline
183
#12

Получается, что гугл говорит пользователям поиска, что ему запрещали индексировать эту страницу, но раз им надо, то он ее покажет. )

Мемори
На сайте с 11.11.2012
Offline
105
#13

(шутка) Сноуден сказал, что скоро еще в выдаче кнопочка будет напротив таких страниц - "все равно посмотреть, хоть и запрещено!" :)

angr
На сайте с 11.05.2006
Offline
413
#14

если на страницы есть ссылки, то и робот гугла узнает о таких страницах

Требуется СЕО-Специалист в Кишиневе, в офис. ()
september
На сайте с 11.09.2009
Offline
591
#15
angr:
если на страницы есть ссылки, то и робот гугла узнает о таких страницах

Бот гугла в отличие от яндекса лезит везде без спроса и индексирует всё, чисто на всякий случай 🤣

$ карта для вывода вебмани в любой точке мира (https://www.epayments.com/registration?p=dc2462e885)
angr
На сайте с 11.05.2006
Offline
413
#16
Хотя Google не сканирует и не индексирует содержание страниц, заблокированных в файле robots.txt, URL, обнаруженные на других страницах в Интернете, по-прежнему могут добавляться в индекс. В результате URL страницы, а также другие общедоступные сведения, например текст ссылок на сайт или заголовок из каталога Open Directory Project (www.dmoz.org), могут появиться в результатах поиска Google.

https://support.google.com/webmasters/answer/156449

S
На сайте с 21.11.2005
Offline
76
#17

А google о свое robots хорошо позаботился ))

http://www.google.com/robots.txt

Покупаю сайты, принятые в РСЯ. Предложения в ЛС.
M
На сайте с 26.05.2013
Offline
81
#18

метатеги запрещающие индексацию в коде страниц установите и будет вам счастье 🤪

Бабайка
На сайте с 05.08.2010
Offline
135
#19

я как то полгода назад в wmt поставил запрет на сайт (удалить из индекса). .. из индекса он вышел буквально в течении суток. Но сам сайт так и остался висеть в папке - все руки не доходили.. а в январе смотрю - есть траф с гугла и весь сайт снова в индексе :) чудеса

anebilitsa
На сайте с 07.02.2012
Offline
167
#20

Может вы поставили запрет, когда он уже проиндексировал?

Бывало такое. Потом при повторном заходе он уже писал, что нельзя смотреть из-за запрета в роботсе, но всё равно в выдаче оставлял.

Отличный облачный майнинг (https://hashflare.io/r/D9BC3BC7) Аудит и продвижение сайтов (/ru/forum/935103) | Сервис для снятия позиций сайта (http://allpositions.ru/redirect/28240)
123

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий