Нужны подробности при создании robots.txt

rishat95
На сайте с 01.01.2013
Offline
45
672

Возникли такие вопросы, если мы запрещаем роботам индексировать, например, раздел category и пропишем такую строчку Disallow: /category то что получится, мы получается закрыли вообще все категории на сайте и ВНУТРИ содержащихся в них СТАТЕЙ??? ИЛИ просто мы закрыли страницу с категориями вида сайт.ру/category/

Станислав Романенко
На сайте с 05.09.2007
Offline
325
#1

Да, закрыли все категории. Чтобы закрыть только страницу /category, нужно прописать в robots.txt:

Disallow: /category$

Если /category и /category/ - разные страницы, то закрывать надо обе:

Disallow: /category$

Disallow: /category/$

Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
rishat95
На сайте с 01.01.2013
Offline
45
#2
Ingref:
Да, закрыли все категории. Чтобы закрыть только страницу /category, нужно прописать в robots.txt:

Disallow: /category$

Если /category и /category/ - разные страницы, то закрывать надо обе:

Disallow: /category$
Disallow: /category/$

А ЕСЛИ У МЕНЯ НА WORDPRESS ВОТ ТАК СТОЯТ ССЫЛКИ НА КАТЕГОРИИ http://сайт/category/название категории/, ТО КАК ЗАКРЫТЬ СТРАНИЦУ С КАТЕГОРИЯМИ, НО ОСТАВИТЬ ССЫЛКИ В НИХ ОТКРЫТЫМИ ДЛЯ РОБОТОВ, ЧТОБЫ НЕ БЫЛО ДУБЛИРОВАНИЯ? ЗНАЧИТ НАДО ТАК ПРОПИСАТЬ? ПРОСТО ЕСТЬ БОЯЗНЬ ЧТО Я ЗАКРОЮ ВООБЩЕ ВСЕ СТАТЬИ КОТОРЫЕ ВНУТРИ КАТЕГОРИЙ, А ЭТО НИКОМУ НЕ НУЖНО.

Disallow: /category/*/

Allow: /category/*/*/

СПАСИБО ЗА ОТВЕТ, А ЧТО ОЗНАЧАЕТ ЗНАК $ , И КАКАЯ РАЗНИЦА ЕСЛИ ЗАКРЫВАТЬ /category/ и НЕ ЗАКРЫВАТЬ СЛЭШОМ ВОТ ТАК /category

Станислав Романенко
На сайте с 05.09.2007
Offline
325
#3

Надо тогда не в роботсе запрет прописывать, а в коде самой страницы прописать мета-тег:

<meta name="robots" content="noindex,follow" />

Знак $ разрешает индексацию любых урлов, содержащих /category (кроме него самого).

rishat95
На сайте с 01.01.2013
Offline
45
#4

А чем кстати отличается запись Dissalow в ФАЙЛЕ robots.txt от записи <meta robots> в коде страницы ??

E
На сайте с 21.09.2009
Offline
283
#5

rishat95, для гугла закрыть в роботс. это запретить сканирование а не индексирование. Метатег ноиндекс(не путать с тегом яндекса) запрет индексации.

У яндекса наоборот, если закрыть в роботс он удаляет из индекса. Метатег ноиндекс тоже удаляет из индекса.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий