Откуда загружается robots.txt если все плагины отключены и его нет в корне сайта?

12
Zevss
На сайте с 23.03.2008
Offline
410
801

http://documkino.ru/robots.txt

Служба поддержки30.09, 16:24
У Вас нет физического robots.txt. Поиск данного файла так же не дал результатов. Необходимо проверять плагины Вашего сайта.

[s189513@ruvip69 documkino.ru]$ find ~/www/documkino.ru/ -type f -iname 'robots.txt' -print
С уважением, Инженер технической поддержки

Откуда загружается robots.txt если все плагины отключены и его нет в корне сайта?

Как его удалить, или удалить строку Disallow: /

Создавал новый robots.txt загружал его в корень.

Делал пустым.

прописывал 

User-agent: *
Disallow: /wp-admin/
Disallow: /cgi-bin/
Allow: /

Он все равно выдает

User-agent: *
Disallow: /

Подскажите пожалуйста, как решить данную проблему? !!!

Продаются сайты с доходом, недорого https://www.maultalk.com/topic356667.html
LEOnidUKG
На сайте с 25.11.2006
Offline
1789
#1
Wordpress. В разделе настройки - Чтение включено не индексировать сайт?
✅ Мой Телеграм канал по SEO, оптимизации сайтов и серверов: https://t.me/leonidukgLIVE ✅ Качественное и рабочее размещение SEO статей СНГ и Бурж: https://getmanylinks.ru/ ✅ Настройка и оптимизация серверов https://getmanyspeed.ru/
Rustam .0.
На сайте с 09.07.2025
Offline
22
#2

Зайдите в панель WordPress по пути Настройки > Чтение и снимите галочку с пункта "Попросить поисковые системы не индексировать сайт"

Затем положите ваш физический файл robots.txt в корень сайта с правами 644

После этого обязательно сбросьте кэш на хостинге (если включен модуль кэширования вроде Nginx Cache или Memcached) и проверьте урл в режиме инкогнито. Физический файл всегда имеет приоритет над виртуальным, если веб-сервер настроен корректно


Сергей Гофман
На сайте с 13.06.2026
Offline
5
#3
сайт за cloudflare? если это генерирует не WordPress как написали выше, то cf.
Анти БОТ
На сайте с 14.03.2020
Offline
146
#4
Сайт там не за клаудом. Скорее всего проблема именно в галке "не индексировать", как это лечить расписали выше.
Защита сайта от поведенческих ботов, фильтрация ботов для Яндекс Директ - https://antibot24.ru
softerra
На сайте с 02.10.2023
Offline
135
#5

С сертификатами непорядок, выдает разное и восклицательный знак. Роботс похоже генерируется плагином  ..

https://documkino.ru/robots.txt

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

Sitemap: https://documkino.ru/wp-sitemap.xml

http://documkino.ru/robots.txt

User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php

Sitemap: http://documkino.ru/wp-sitemap.xml

Модератор 2ого уровня
Zevss
На сайте с 23.03.2008
Offline
410
#6
Служба поддержки30.09, 20:42
Обнаружили проблему со стороны хостинга. Ваш сайт был настроен у нас только на работу по HTTP через порт 80. При этом на самом сайте был включен редирект на HTTPS, поэтому запросы на порт 443 обслуживались хостом по умолчанию, из-за чего и отображался некорректный robots.txt.

Мы включили для Вашего сайта работу как по 80, так и по 443 порту. Сертификат Lets Encrypt не выпускали, установлен только самоподписанный сертификат.

Проверьте, пожалуйста.

С уважением, Инженер технической поддержки
LEOnidUKG
На сайте с 25.11.2006
Offline
1789
#7
т.е. ВСЯ проблема в том, что вы не запустили сайт на HTTPS, и не выпустили сертификат, но уже пытались вызывать сайт по https? Мде....
Vladimir SEO
На сайте с 19.10.2011
Offline
2186
#8
LEOnidUKG #:
т.е. ВСЯ проблема в том, что вы не запустили сайт на HTTPS, и не выпустили сертификат, но уже пытались вызывать сайт по https? Мде....
сайт в сапе - о чем можно говорить вообще ? )) 
⭐ Эксперт по продуктам Google https://support.google.com/profile/58734375 ⭐ Продвижение сайтов https://kulinenko.com ⭐
Roman Zolotov
На сайте с 23.08.2025
Offline
12
#9

Попросите хостера закончить настройку HTTPS: выпустить Let’s Encrypt вместо самоподписанного сертификата и включить автопродление. Потом проверьте robots.txt и sitemap именно по HTTPS. Судя по ответу поддержки, с выбором сайта на 443-м порту разобрались, а сертификат не установили

Хостинг провайдер HSTQ - https://hstq.net/ | Аренда VPS | Аренда серверов | Аренда IP | Услуги LIR
L
На сайте с 25.12.2013
Offline
471
#10
У меня Касперский пишет, что у сайта нет сертификата и сайт не защищен.
Пробуй эту видео-партнерку вместо РСЯ - https://vk.cc/cXeL62 Отличные рейты по выкупу траффа, платят криптой по запросу.
12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий