Вопрос по robots.txt

Adkin
На сайте с 29.08.2008
Offline
138
133

Всем доброго времени суток. Есть вопрос по поводу robots.txt.

Есть интернет-магазин со 100500 категориями и товарами. Задача - запретить к индексации все страницы категорий, кроме 30 нужных категорий. Подскажите, пож-та, как это можно реализовать?

Урлы категорий и подкатегорий вида

site.ru/subcategory/odezhda

site.ru/subcategory/obuv

и т.д.

Вручную запрещать все подкатегории жизни не хватит. А как запретить все категории, кроме некоторых, я не нашел.

Виктор Петров
На сайте с 05.01.2020
Offline
240
#1
В robots запрещается сканирование, а не индексация - так что плохая идея. От индекса надо закрываться метатегом.
Ну. а если уж брать robots - то сначала можно запретить к сканированию /subcategory/ - а потом отдельно разрешить заданные категории. В такой последовательности, перепроверив доступность нужного в инструментах проверки robots в панелях вебмастера.
По типу:
Disallow: /subcategory/
Allow: /subcategory/obuv/

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий