Все вопросы по robots.txt - 2

NW
На сайте с 25.04.2017
Offline
14
#241


# разрешает все файлы по пути "/catalog/...":
Allow: /catalog/*

# запрещает все подпути содержащие "/kotly/,/radiatory/" и т.д., но Allow выше отменяет часть запрета:
Dissllow: /*/kotly/
Dissllow: /*/radiatory/
Disallow: /*/teplovye_nasosy/
Dissllow: /*/gorelki_dlya_kotlov/
Dissllow: /*/vodonagrevateli_rosa/

Это мне добавить в файл или вставить заместо моих изысканий?

V9
На сайте с 25.08.2010
Offline
118
#242
NinaWhite:
Cпасибо за ответ. Сейчас буду пробовать :)

Я написал, что примерно, Вы буквально поняли не проверил, сотрите правки, которые я рекомендовал. Проверил у себя, не работает из-за слеша / в категориях, было бы окончание .html было бы проще. Пока почитайте https://yandex.ru/support/webmaster/robot-workings/allow-disallow.html

После правок обязательно проверять доступны ли нужные категории и страницы к индексации.

vold57
На сайте с 01.10.2007
Offline
261
#243

NinaWhite, не нужно в УРЛе два раза повторять одни и те же ключевые слова - http://prntscr.com/mcw4mg. Или в ТОП очень хочется?

Аудит сайтов - главная часть это тщательная ручная работа, а не отчеты сервисов и программ (https://vold57.com/audit). Продвижение сайтов (https://vold57.com/seo)
NW
На сайте с 25.04.2017
Offline
14
#244

Теперь при аудите вылезают ошибки типа:


https://rosa-montazh.com/catalog/kotly/tverdotoplivnye/?PAGEN_2=1&PAGEN_3=1&kol=180
https://rosa-montazh.com/catalog/kotly/tverdotoplivnye/filter/clear/apply/
https://rosa-montazh.com/catalog/kotly/tverdotoplivnye/?method=asc&sort=property_PRICE

хотя в роботс закрыта пагинация - Disallow: /*?PAGEN* и дирректория /filter/ - Disallow: /filter/

похоже, что инструкции в этом файле robots.txt конфликтуют друг с другом, но проверка яндекс.вебмастера ошибок не показывает.

Что то я не так сделала?

Подскажите как закрыть это?

Станислав Романенко
На сайте с 05.09.2007
Offline
325
#245

Просто программа или сервис, которым вы делаете аудит, не учитывает ваш robots.txt.

Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
NW
На сайте с 25.04.2017
Offline
14
#246

Использую для аудита Serpstat. Галочка напротив пункта "учитывать robots.txt при аудите" cтоит.

Вот текущий robots.txt


User-Agent: *
Allow: /search/map.php
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Allow: /catalog/*
Disallow: /bitrix/
Disallow: /upload/
Disallow: /search/
Disallow: /club/search/
Disallow: /club/group/search/
Disallow: /club/forum/search/
Disallow: /communication/forum/search/
Disallow: /communication/blog/search.php
Disallow: /club/gallery/tags/
Disallow: /examples/my-components/
Disallow: /examples/download/download_private/
Disallow: /auth/
Disallow: /auth.php
Disallow: /personal/
Disallow: /communication/forum/user/
Disallow: /e-store/paid/detail.php
Disallow: /e-store/affiliates/
Disallow: /club/$
Disallow: /club/messages/
Disallow: /club/log/
Disallow: /content/board/my/
Disallow: /content/links/my/
Disallow: /*/search/
Disallow: /*?PAGEN
Disallow: /*PAGEN_1=
Disallow: /*PAGEN_2=
Disallow: /*PAGEN_3=
Disallow: /*PAGEN_4=
Disallow: /*PAGEN_5=
Disallow: /*PAGEN_6=
Disallow: /*PAGEN_7=
Disallow: /*PAGE_NAME=user_post
Disallow: /*PAGE_NAME=detail_slide_show
Disallow: /*PAGE_NAME=search
Disallow: /*PAGE_NAME=user_post
Disallow: /*PAGE_NAME=detail_slide_show
Disallow: /*/slide_show/
Disallow: /*/gallery/*order=*
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*register=yes
Disallow: /*forgot_password=yes
Disallow: /*change_password=yes
Disallow: /*login=yes
Disallow: /*logout=yes
Disallow: /*auth=yes
Disallow: /*action=ADD_TO_COMPARE_LIST
Disallow: /*action=DELETE_FROM_COMPARE_LIST
Disallow: /*action=ADD2BASKET
Disallow: /*action=BUY
Disallow: /*print_course=Y
Disallow: /*bitrix_*=
Disallow: /*backurl=*
Disallow: /*BACKURL=*
Disallow: /*back_url=*
Disallow: /*BACK_URL=*
Disallow: /*back_url_admin=*
Disallow: /*index.php$
Disallow: /e-store/
Disallow: /kompaniya/partnery/
Disallow: /cart/
Disallow: /*?method*
Disallow: /filter/
Disallow: /*/kotly/
Disallow: /*/radiatory/
Disallow: /*/teplovye_nasosy/
Disallow: /*/gorelki_dlya_kotlov/
Disallow: /*/vodonagrevateli_rosa/
Host: https://rosa-montazh.com
Sitemap: https://rosa-montazh.com/sitemap.xml

Только что провела аудит. вылезли все теже ошибки:

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_1=2&method=desc&sort=show_counter

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_1=1&PAGEN_2=1&PAGEN_3=1&kol=120&type_show=list

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_1=2&method=asc&sort=NAME

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_1=1&PAGEN_2=1&PAGEN_3=1&kol=60&type_show=pl

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_2=1&PAGEN_3=1&kol=180&method=asc&sort=property_PRICE

https://rosa-montazh.com/catalog/kotly/gazovye/?PAGEN_1=2&type_show=pl

https://rosa-montazh.com/catalog/kotly/gazovye/filter/clear/apply/?method=asc&sort=property_PRICE

Что не так то? Знает кто нибудь в чем проблема здесь или что?

Станислав Романенко
На сайте с 05.09.2007
Offline
325
#247

Ваши Disallow перекрываются вот этой строкой:

Allow: /catalog/*

Уберите её.

Mars88
На сайте с 06.11.2018
Offline
33
#248

Приветствую всех. Подскажите пожалуйста кто знает как закрыть от индексации ссылки вида:

site.ru/portfolio2679?page=1

site.ru/portfolio4658?page=2

site.ru/portfolio9ba9?page=3 и тд., нужно что бы индексировалась только основная site.ru/portfolio.

Заранее благодарен за ответ.

Главный портал Ульяновска. Региональные новости ( https://blog73.ru/ )
apollion
На сайте с 08.01.2014
Offline
69
#249

Можно так попоробовать:

Allow: /portfolio
Disallow: /portfolio*

или

Disallow: /*?page=*
Надежный и недорогой хостинг (http://goo.gl/ESrxwC) Еще один Надежный и недорогой хостинг (http://goo.gl/kkJDYF) Продам старый блог в ЖЖ (2004 года создания)
[Удален]
#250

Mars88, у вас вопрос несколько странный. В том плане, что по виду тут проблема с пейдж, и/или с генерацией чего-то после портфолио. Конкретней данные нужны.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий