Все вопросы по robots.txt

V
На сайте с 03.04.2015
Offline
15
#951

Привет всем. Подскажите Как запретить индексацию Всех товаров в robots.txt. Закрываем по причине: на всех товарах одинаковое описание, меняются только название, картинки и цены.

И оставить только каталог, разделы, подраздел вот файл.

Заранее благодарю!

Что добавить, что убрать?

User-agent: Yandex
Allow: /uploads/
Disallow: /install*
Disallow: /mg-admin*
Disallow: /mg-core*
Disallow: /mg-pages*
Disallow: /mg-plugins*
Disallow: /mg-templates*
Disallow: /personal*
Disallow: /enter*
Disallow: /forgotpass*
Disallow: /payment*
Disallow: /registration*
Disallow: /compare*
Disallow: /cart*
Disallow: *applyFilter=*
Disallow: *?inCartProductId=*
Disallow: *?inCompareProductId=*
Disallow: /affiliate
Disallow: /dostavka
Disallow: /contacts
Disallow: /feedback

User-agent: *
Allow: /uploads/
Disallow: /install*
Disallow: /mg-admin*
Disallow: /mg-core*
Disallow: /mg-pages*
Disallow: /mg-plugins*
Disallow: /mg-templates*
Disallow: /personal*
Disallow: /enter*
Disallow: /forgotpass*
Disallow: /payment*
Disallow: /registration*
Disallow: /compare*
Disallow: /cart*
Disallow: *applyFilter=*
Disallow: *?inCartProductId=*
Disallow: *?inCompareProductId=*
Disallow: /affiliate
Disallow: /dostavka
Disallow: /contacts
Disallow: /feedback

Host: sait.ru

Sitemap: http://sait.ru/sitemap.xml
[Удален]
#952
vavito:
Подскажите Как запретить индексацию Всех товаров в robots.txt

Надо ЗАПРЕТИТЬ ИНДЕКСАЦИЮ ВСЕХ ТОВАРОВ В ROBOTS.TXT!!!

зы угадать конечно можно, но лень.

SmileP
На сайте с 18.02.2010
Offline
386
#953
vavito:
Что добавить, что убрать?

добавить:

Disallow: /типовая часть урл товара, которые не пересекается с страницами не товара

А вот как урл у вас на сайте формируется мало кто знает. Да и разбираться в этом лучше всего должны вы...

Zegeberg
На сайте с 30.09.2010
Offline
282
#954

Не выплесните с водой дитя.

Ссылки с форумов, блогов и соц сетей ( https://forumok.com/p/c1710b6b/ ) Антибот ( https://antibot.cloud/?ref=15262 )
R_Tem
На сайте с 21.08.2008
Offline
137
#955

А не лучше сделать генерируемое описание на каждый товар в зависимости от характеристик, названия и цены?

А блок с дубль текстом закрыть в NOINDEX

V
На сайте с 03.04.2015
Offline
15
#956
SmileP:
добавить:
Disallow: /типовая часть урл товара, которые не пересекается с страницами не товара
А вот как урл у вас на сайте формируется мало кто знает. Да и разбираться в этом лучше всего должны вы...

А как их добавлять ? вот у меня товаров 700+ наименований.

В robots 700 строк добавлять или в строчку или как?

вот названия: /835-velikaja-bashnja /836-krasota-nochnogo-goroda /847-za-gorodom-rassvet

или так в строку?

disallow: /835-velikaja-bashnja, /836-krasota-nochnogo-goroda, /847-za-gorodom-rassvet

---------- Добавлено 05.04.2017 в 15:05 ----------

R_Tem:
А не лучше сделать генерируемое описание на каждый товар в зависимости от характеристик, названия и цены?
А блок с дубль текстом закрыть в NOINDEX

Товаров у меня 700+ на каждый писать разное описание, что то не хочется🍿

---------- Добавлено 05.04.2017 в 15:39 ----------

Начитался многое и пришел к решению. не знаю правильно или нет:)

Может так правильно или нет?

После /name_category/после идут товары их и надо скрыть

Disallow: /name_category/*/*

Правильно?!

SmileP
На сайте с 18.02.2010
Offline
386
#957
vavito:
После /name_category/после идут товары их и надо скрыть
Disallow: /name_category/*/*
Правильно?!

да, если все вложенные урлы имеют закрывающий слеш. Т.е. страницы вида /name_category/* будут доступны.

Можно проверить тут:

https://webmaster.yandex.ru/tools/robotstxt/

Л
На сайте с 13.08.2014
Offline
27
#958

Всем доброго дня!

Форумчане, напомните пожалуйста как в роботсе правильно прописать чтобы не индексировалось начиная от /itemlist/ и после

site.ru/o-kompanii/itemlist/category/kwo.html

Заранее благодарен!

N
На сайте с 06.05.2016
Offline
64
#959

Левик я сам только познакомился с роботс.тхт, задача тобой описанная решается так:

Disallow: /itemlist/

Если не прав, поправьте.

T
На сайте с 25.03.2013
Offline
66
#960

Подскажите начали появляться страницы в индексе вот такого типа

домен/категория/подкатегория/?_=1451586006828

Фильтр вроде формирует ссылки по другому. Может кто-то знает от куда такие ссылки могут взяться?

Ну и самый главный вопрос как прописать в robots запрет на индексацию ссылок с "?"

За ранее спасибо!

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий