Запретить индексировать сайт всем кроме Яндекса и Гугла

palarmaz
На сайте с 05.04.2010
Offline
125
834

Собственно вопрос. Нужно Запретить индексировать сайт всем кроме Яндекса и Гугла. Если в роботсе прописать

User-agent: Yandex
Disallow:
Sitemap:
Host: site.ru

User-agent: Googlebot
Disallow:

User-agent: *
Disallow: /

Так правильно?

AS
На сайте с 21.09.2007
Offline
132
#1

Sitemap - указать или удалить

на правильность можно проверить в панели вебмастера яши гугла

лучше всего банить остальных по юзерагенту в nginxксе

Станислав
На сайте с 27.12.2009
Offline
243
#2

Что то типа того

User-agent: Yandex

HOST: site.ru
Sitemap: http://site.ru/sitemap.xml

User-agent: Googlebot

User-agent: *
Disallow: /
Мы там, где рады нас видеть.
palarmaz
На сайте с 05.04.2010
Offline
125
#3
Ms-Dred:
Что то типа того

А яндекс или гугл не смутится при чтении строчки

User-agent: *

Disallow: /

siv1987
На сайте с 02.04.2009
Offline
427
#4

ТС, у вас все правильно, только пустую директиву Ситемап либо уберите либо пропишите туда xml карту.

orphelin
На сайте с 02.07.2006
Offline
261
#5
Ms-Dred:
Что то типа того

типа такого бреда давно не видел.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий