Как запретить индексацию в Яндексе

variousmetal
На сайте с 10.12.2009
Offline
71
432

В общем хотелось бы запретить Яндексу индексировать страницы профилей пользователя

сайт.ru/user/Magnum/

Может что то в rotobs.txt не дописано

User-agent: *

Disallow: /*print

Disallow: /autobackup.php

Disallow: /user/

Disallow: /favorites/

Disallow: /index.php?do=register

Disallow: /?do=lastcomments

Disallow: /statistics.html

Спасибо

С уважением, Андрей

Белый каталог статей (http://rusarticles.su/)
Таггу x_x
На сайте с 31.10.2005
Offline
445
#1

variousmetal, пропишите мету noindex,nofollow на страницах, которые вы не хотите индексировать. А ваш пример без конкретики вообще-то бесполезен.

☠️☠️☠️
D
На сайте с 30.09.2008
Offline
107
#2

variousmetal, а что с такой "конструкцией" Яндекс индексирует? По идее все верно, у вас прописан атрибут Disallow на папки /user/.

variousmetal
На сайте с 10.12.2009
Offline
71
#3

Disallow: /user/ доступ должен блокироваться или я не прав?

D
На сайте с 30.09.2008
Offline
107
#4
variousmetal:
Disallow: /user/ доступ должен блокироваться или я не прав?

Это запрет на индексацию всего что начинается с user/. Если не работает, то пропишите:

<meta name="robots" content="noindex,nofollow" />

как посоветовали выше.

variousmetal
На сайте с 10.12.2009
Offline
71
#5

DC***, А почему тогда профили пользователей папали в индекс ?

D
На сайте с 30.09.2008
Offline
107
#6
variousmetal:
DC***, А почему тогда профили пользователей папали в индекс ?

Если бы я знал. У меня на сайтах все что имеет атрибут disallow, как правило в индекс не попадает. Попробуйте вместо User-agent: * прописать User-agent: Yandex. Если шило на мыло, то мета, как написал выше.

[Удален]
#7

Файл сильно усложнен, если надо закрыть доступ Яндексу (и только Яндексу), то:

User-agent: Yandex

Disallow: /user/*

Все, все файлы, начинающиеся с сайт.ру/user/<все что угодно> должны выпасть из индекса через несколько апов (не моментально!)

На всякий случай проверьте синтаксис.

variousmetal
На сайте с 10.12.2009
Offline
71
#8

rakurs, спасибо большое

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий