Вопрос касательно индексации

BW
На сайте с 28.11.2009
Offline
78
450

Всем доброго времени суток!

Как правильно закрыть сайт (точнее поддомен сайта) от яндекса?

Вот содержимое роботс.тхт (для поддомена) на данный момент:

User-agent: Yandex

Disallow: /

HOST:

User-agent: *

Disallow: /

Вроде все правильно. Но сайт уже второй раз возвращается в выдачу. Это из-за того, что он на поддомене (это временная мера) или что-то нужно дописать?

T
На сайте с 15.11.2011
Offline
120
#1

В .htaccess лучше допишите, если доступ есть (чтобы наверняка).

А robots.txt бот "труба шатал", потому и индексируется и возвращается в выдачу.

Дешевые VDS - Дешевле некуда! (http://0ll0.ru/4Ta9y)
emtecif
На сайте с 05.03.2012
Offline
150
#2

Кстати о .htaccess, его гугл тоже шатал) наверное, не 100% конечно)

Был у меня один проект, заливал я туда статьи и через месяц открыл сайт. В индексе гугла была дата добавления статьи, причем эта дата нигде не светилась даже, ни на странице ни в sitemap.

donc
На сайте с 16.01.2007
Offline
665
#3
emtecif:
Кстати о .htaccess, его гугл тоже шатал) наверное, не 100% конечно)

Если забанить ботов по айпи, а их все знают, то не шатает, проверенно

Осуждаем применение нейросетей в SEO и не только ( https://webimho.ru/forum/148/ ) :) Продвижение сайтов от 25 000 в мес, прозрачно, надежно ( /ru/forum/818412 ), но не быстро, отзывы ( http://webimho.ru/topic/3225/ )
emtecif
На сайте с 05.03.2012
Offline
150
#4
donc:
Если забанить ботов по айпи, а их все знают, то не шатает, проверенно

Можно ссылку на актуальный список?

donc
На сайте с 16.01.2007
Offline
665
#5
emtecif:
Можно ссылку на актуальный список?

Сюда http://somethingood.ru/logger/logger.php загружаете логи посещаемых сайтов и пробиваете айпи. Если там гугл инк - он и есть, подлец. Я лично так делаю

emtecif
На сайте с 05.03.2012
Offline
150
#6

А если вот так?

RewriteCond %{REMOTE_ADDR} !255.255.*.*

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий