robots.txt

andreysmorya
На сайте с 31.01.2006
Offline
85
687

нужно написать файл robots.txt

и закрыть для индексации допустим папки images и forum - такие строки и вид правильно?:

User-Agent: *
Disallow: /images/
Disallow: /forum/
K. Ermakov
На сайте с 10.12.2004
Offline
328
#1
andreysmorya:
такие строки и вид правильно?

да, всё правильно

С уважением, Константин Ермаков, absite.ru: онлайн кроссворды (http://absite.ru/); searchsuggest.ru: поисковые подсказки доставляют (http://searchsuggest.ru/).
andreysmorya
На сайте с 31.01.2006
Offline
85
#2

Спасибо,

тогда еще "хитрый" вопрос (яндексу форумы "по боку", а вот рамблер к форумам неравнодушен - что то можно добавить к строкам

User-Agent: *
Disallow: /images/
Disallow: /forum/

что бы яндекс форум неиндексировал, а робот рамлера наоборот посещал?

alexspb
На сайте с 14.11.2005
Offline
187
#3

User-Agent: *

Disallow: /images/

User-Agent: Yandex

Disallow: /forum/

Т.е. первой директивой вы всем поисковикам запрещаете индексировать папку с картинками, а второй только яндексу - форум.

K. Ermakov
На сайте с 10.12.2004
Offline
328
#4
alexspb:
первой директивой вы всем поисковикам запрещаете индексировать папку с картинками, а второй только яндексу - форум

А как Яндекс к папке с картинками отнесётся? :)

alexspb
На сайте с 14.11.2005
Offline
187
#5
K. Ermakov:
А как Яндекс к папке с картинками отнесётся?

Вы хотите сказать, что вторая директива переопределит для Яндекса первую (которая для всех роботов) ПОЛНОСТЬЮ?

andreysmorya
На сайте с 31.01.2006
Offline
85
#6

скорей всего "выпытывает" как Яндекс относится к "графике" -это не важно:

Запрет на индексацию ряда страниц может появиться, например, из соображений секретности или из желания не индексировать одинаковые документы в разных кодировках. Чем меньше ваш сервер, тем быстрее робот его обойдет. Поэтому запретите в файле robots.txt все документы, которые не имеет смысла индексировать (например, файлы статистики или списки файлов в директориях). Обратите особое внимание на CGI или ISAPI скрипты - наш робот индексирует их наравне с другими документами.

(Яндекс)

alexspb
На сайте с 14.11.2005
Offline
187
#7

andreysmorya, это важно. Собственно графика здесь ни причем

Перечитал http://www.citforum.ru/internet/search/rbtspec.shtml

В любом случае, так будет вернее:

User-Agent: *

Disallow: /images/

User-Agent: Yandex

Disallow: /images/

Disallow: /forum/

K. Ermakov
На сайте с 10.12.2004
Offline
328
#8
alexspb:
Вы хотите сказать, что вторая директива переопределит для Яндекса первую (которая для всех роботов) ПОЛНОСТЬЮ?

Подозреваю, что да :)

andreysmorya:
скорей всего "выпытывает" как Яндекс относится к "графике"

В данном случае Вы не правы.

СКОРПИОН
На сайте с 05.01.2006
Offline
120
#9

K. Ermakov, прав.

В вашей ситуации директивы нужно повторить.

Сначала со звёздочкой для всех. Потом для Яндекса персонально.

• Контекстные ссылки с внутренних страниц навсегда (/ru/forum/370882) • Качественные сайты для заработка на контекстной рекламе и ссылках
andreysmorya
На сайте с 31.01.2006
Offline
85
#10

Всем спасибо, остановился на последнем варианте, чистоту эксперемента не гарантирую, - посмотрю как на "это" яндекс посмотрит.

теперь проверяю взаимные свои ссылки...

какие файлы закрывает такие строки

User-agent: *
Disallow: 10**tur.php
Disallow: /index.php/index.php
Disallow: /index.php/rss/
Host: www.10**tur.ru

моя ссылка у них на странице

http://www.10**tur.ru/index.php?showlink=1&fid=241&p=links&area=1&categ=6

Значит ли, что она закрыта в robots.txt? То есть подобных "партнеров по обмену" - удалять?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий