Запрет на индексацию в robots.txt

M
На сайте с 24.06.2021
Offline
9
638

Добрый день!
Столкнулся с проблемой индексаций сайта в гугл. В консоле гугл выдаёт ошибку "Получение страницы error Не удалось выполнить. Заблокировано в файле robots.txt".
Вобщем есть rotots.txt или его вообще нет гугл выдаёт одну и туже ошибку, запрет на индекс в robots.txt
Сайт на битриксе. Подскажите пожалуйста, что это может быть?
Содержимое robots.txt:

User-Agent: *
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
Disallow: /*?view_result=
Disallow: /*&view_result=
Disallow: /.git
Disallow: /auth
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Allow: /

User-Agent: Googlebot
Allow: /

User-Agent: Googlebot-Mobile
Allow: /

Но собственно даже, если там что-то поменять гугл никак не реагирует на всё отвечает одним и тем же, запрет.

Может быть дело в настройках сервера nginx? Тогда подскажите что там можно посмотреть?
Спасибо!

Виктор Петров
На сайте с 05.01.2020
Offline
240
#1
Вот инструмент.  Вставляете свой проблемный URL и видите, что его там именно блокирует. Если что-то меняете в robots.txt - там же и можно посмотреть, какую версию гуглобот видит, и видит ли обновления. Там же можно запросить обновление robots.txt
И вообще говоря - robots.txt - это не про индексацию, это про сканирование. Индексацией надо управлять другими средствами (метатегами, каноническими адресами и т.п.).
Google Search Console
  • accounts.google.com
Search Console позволяет следить за позицией вашего сайта в Google Поиске.
M
На сайте с 24.06.2021
Offline
9
#2
Виктор Петров #:
Вот инструмент.  Вставляете свой проблемный URL и видите, что его там именно блокирует. Если что-то меняете в robots.txt - там же и можно посмотреть, какую версию гуглобот видит, и видит ли обновления. Там же можно запросить обновление robots.txt
И вообще говоря - robots.txt - это не про индексацию, это про сканирование. Индексацией надо управлять другими средствами (метатегами, каноническими адресами и т.п.).

Инструмент, помог.
Супер, спасибо!👍

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий