Запрет индексации поисковиками

PIN_KOD
На сайте с 19.11.2006
Offline
85
721

Прошу сразу не ругаться, поскольку не работал ранее с файлов Robots

Необходимо создать файл Robots таким образом, чтобы Яндекс, Рамблер и Гугл не индексировали сайт.

Спасибо

MyOST
На сайте с 22.01.2006
Offline
559
#1

PIN_KOD, http://robotstxt.org.ru/ пинаю туда ;)

а сам файл будет такого содержания

User-agent: *

Disallow:

Host: www.ИМЯ САЙТА.ru

User-agent: Yandex

Disallow: /

User-agent: Googlebot

Disallow: /

User-agent: StackRambler

Disallow: /

А если ВСЕМ поисковикам запрет, то

User-agent: *

Disallow: /

Host: www.ИМЯ САЙТА.ru

Блог (http://seom.info/) | Ты уже SEO профессионал? (http://www.key-collector.ru/) Развиваем семантику более 8 лет! ()
Shtogrin
На сайте с 02.11.2006
Offline
95
#2

Запретить всем индексировать

User-Agent: *

Disallow: /

www.shtogrin.com (http://www.shtogrin.com/). Канцтовары (http://www.invit.com.ua/). 1С Бухгалтерия (http://account.kiev.ua/).
PIN_KOD
На сайте с 19.11.2006
Offline
85
#3

Ребят, а что бы потом опять возобновить индексацию, надо просто удалить файл и снова через форму добавления сайтов поисковика добавить ресурс?

MyOST
На сайте с 22.01.2006
Offline
559
#4
PIN_KOD:
надо просто удалить файл

можно так, а можно изменить содержание на

User-agent: *

Disallow:

Host: www.ИМЯ САЙТА.ru

и добавить ресурс или внешние ссылки проставить на сайт

fima32
На сайте с 12.01.2006
Offline
132
#5
MyOST:
User-agent: *
Disallow:
Host: www.ИМЯ САЙТА.ru

Лучше для возвращения к индексации прописать так:

User-agent: Yandex
Disallow:
Host: www.ИМЯ САЙТА.ru

User-agent: *
Disallow:
K
На сайте с 31.01.2001
Offline
737
#6
MyOST:
User-agent: *
Disallow:
Host: www.ИМЯ САЙТА.ru

MyOST, а это на хрена? Если для Яндекса секция уже есть, а директиву Host больше никто не понимает.

Надо быть проще.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
MyOST
На сайте с 22.01.2006
Offline
559
#7
Kost:
Если для Яндекса секция уже есть,

где? :)

в первом посте привел 2 примера, конкретно для 3х поисковиков, и конкретно для всех.

MyOST:
User-agent: *
Disallow:
Host: www.ИМЯ САЙТА.ru

если такое содержание роботса - то это открытие для всех,

я ведь не про

User-agent: *

Disallow:

User-agent: Yandex

Disallow:

Host: www.ИМЯ САЙТА.ru

Ну кто не хочет прописывать хост - пусть не прописывает , пусть даже только яндекс понимает его - хуже не будет

paef
На сайте с 03.02.2007
Offline
37
#8

Я в шоке, ник зарегин полтора года назад, а таких вещей не знаешь 😕

Продвижение сайтов (http://wetop.ru)
PIN_KOD
На сайте с 19.11.2006
Offline
85
#9

paef, не сталкивался с этим ни разу. Сейчас появилась потребность начинаю изучать

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий