Все вопросы по robots.txt

V
На сайте с 01.03.2008
Offline
62
#281

Сейчас обнаружил в Yahoo, что он проиндексировал robots.txt и это есть в поисковой выдаче.

А как закрыть сам robots от индексации?

sas7110
На сайте с 22.05.2009
Offline
111
#282
Vimaz:
Сейчас обнаружил в Yahoo, что он проиндексировал robots.txt и это есть в поисковой выдаче.
А как закрыть сам robots от индексации?

Такого еще не встречал ) Рассмешили. Ребят, поддерживаю, такой вопрос поставил меня в тупик...

B4
На сайте с 27.04.2012
Offline
94
#283
Vimaz:
Сейчас обнаружил в Yahoo, что он проиндексировал robots.txt и это есть в поисковой выдаче.
А как закрыть сам robots от индексации?

User-Agent: Yahoo! Slurp

Disallow: /robots.txt

---------- Добавлено 23.12.2014 в 14:34 ----------

sas7110:
Такого еще не встречал ) Рассмешили. Ребят, поддерживаю, такой вопрос поставил меня в тупик...

запись

Disallow: /

так же закроет файл robots.txt, он обрабатывается и сайт как правило вылетает из индекса.

D
На сайте с 01.05.2014
Offline
56
#284

Здравствуйте, у меня в одной директории находится основной домен и папки с поддоменами. Скажите пожалуйста, как можно запретить индексацию всех находящихся поддоменов в этой папке, не прописывая в каждом поддомене запрет в файле robots.txt и не перечисляя в robots.txt основного домена запреты на все существующие поддомены? Тоесть может быть существует какое-то регулярное выражение для файла robots.txt или для .htaccess? Но при этом чтобы папки основного домена и все его файлы были разрешены для индексации. На Яндексе в разделе про настройку файла robots.txt ничего про это не написано. Спасибо.

T
На сайте с 03.11.2014
Offline
36
#285

у меня в роботсе есть строчка Disallow: /wp-content/cache/

я использую плагин кеширования и не знаю как быть, оставить ее или удалить?

B4
На сайте с 27.04.2012
Offline
94
#286
dadiman:
Здравствуйте, у меня в одной директории находится основной домен и папки с поддоменами. Скажите пожалуйста, как можно запретить индексацию всех находящихся поддоменов в этой папке, не прописывая в каждом поддомене запрет в файле robots.txt и не перечисляя в robots.txt основного домена запреты на все существующие поддомены? Тоесть может быть существует какое-то регулярное выражение для файла robots.txt или для .htaccess? Но при этом чтобы папки основного домена и все его файлы были разрешены для индексации. На Яндексе в разделе про настройку файла robots.txt ничего про это не написано. Спасибо.

Если речь о robots.txt, то в поддомены нужно положить файл полностью закрывающий индексацию:

User-agent: *

Disallow: /

---------- Добавлено 29.12.2014 в 12:23 ----------

Tison:
у меня в роботсе есть строчка Disallow: /wp-content/cache/
я использую плагин кеширования и не знаю как быть, оставить ее или удалить?

Я бы оставил строчку.

[Удален]
#287

Здравствуйте, помогите пожалуйста разобраться. Есть три сайта, первый на домне mysite.ru, второй и третий на поддоменах site2.mysite.ru и site3.mysite.ru. На все сайты сделал robots.txt, для каждого сайта свой собственный файл с отдельными настройками. При просмотре на Яндекс-вебмастере и в адресной строке браузеров, сайт на домене mysite.ru клеит robots.txt от сайта на поддомене site2.mysite.ru. Сайты на поддоменах site2.mysite.ru и site3.mysite.ru открывают свои robots.txt как надо. Помогите пожалуйста разобраться, в чем причина и как решить эту проблему???

lockki
На сайте с 03.08.2010
Offline
124
#288
Павел Таскаев:
Здравствуйте, помогите пожалуйста разобраться. Есть три сайта, первый на домне mysite.ru, второй и третий на поддоменах site2.mysite.ru и site3.mysite.ru. На все сайты сделал robots.txt, для каждого сайта свой собственный файл с отдельными настройками. При просмотре на Яндекс-вебмастере и в адресной строке браузеров, сайт на домене mysite.ru клеит robots.txt от сайта на поддомене site2.mysite.ru. Сайты на поддоменах site2.mysite.ru и site3.mysite.ru открывают свои robots.txt как надо. Помогите пожалуйста разобраться, в чем причина и как решить эту проблему???

с чего вы решили, что он их клеит?

хосты разные стоят в каждом из роботсов?

lockki
На сайте с 03.08.2010
Offline
124
#289
JavierriZ:
Здравствуйте. Гугл в панели вэбмастера сообщает мне о том, что у него нет доступ к моему файлу robots.txt. Яндекс его видит. Искал ответ на различных форумах, все говорят, что это на хостинге стоят какие то блокировки. Написал в тех поддержку, они это опровергнули.

С чем это может быть связанно?

у вас robots.txt доступен по прямому адресу?

типа: сайт.ру/robots.txt

N
На сайте с 25.07.2013
Offline
36
#290

Страница: /support/partner/ - должна быть открыта

Подстраницы: /support/partner/все-что-угодно - должны быть закрыты

как это прописать в роботсе, друзья?

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий