Файл robots. Закрыть ресурс для индексации

P
На сайте с 11.12.2005
Offline
11
563

Привет всем:) подскажите ,пожалуйста, или киньте ссылку как правильно составить файл robots , чтобы закрыть ресурс для индекации. это возможно при помощи тега meta content?

Заранее спасибо

FishB1
На сайте с 15.10.2006
Offline
75
#1

Вы определитесь сначала что Вы использовать хотите - роботс или метатеги. Можно и так и так. Если роботс, то

User-Agent: *

Disallow: /

Если метатеги, то <meta name="robots" content="noindex,nofollow">

С уважением, Евгений Г.
Anaxa
На сайте с 20.12.2006
Offline
123
#2
princes:
Привет всем:) подскажите ,пожалуйста, или киньте ссылку как правильно составить файл robots , чтобы закрыть ресурс для индекации. это возможно при помощи тега meta content?
Заранее спасибо

Почитайте вот это: softdevelop.ru/articles3.html

P
На сайте с 11.12.2005
Offline
11
#3
FishB1:
Вы определитесь сначала что Вы использовать хотите - роботс или метатеги. Можно и так и так. Если роботс, то
User-Agent: *
Disallow: /

Если метатеги, то <meta name="robots" content="noindex,nofollow">

Спасибо:) А в чем собственно , разница , файл сделать или тэги прописать? Объясните если Вам не трудно

K
На сайте с 31.01.2001
Offline
737
#4

Через robots.txt проще, т.к. файлов то много. А главное, роботу не надо скачивать все файлы, чтобы проверить, надо ли их индексировать , скачал robots.txt и сразу понял, что к чему.

Выделенные полосы в Москве (http://www.probkovorot.info) привели к снижению скорости до 23%.
S
На сайте с 28.10.2005
Offline
319
#5
FishB1:

Если метатеги, то <meta name="robots" content="noindex,nofollow">

или

<meta name="robots" content="none">

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий