Не могу найти robots.txt

12 3
МШ
На сайте с 15.06.2016
Offline
7
8036

Здравствуйте!

Помогите новичку, пожалуйста. Не могу найти файл robots.txt на ftp. Там, где он должен лежать, его нет. Но когда пишу в строке поиска www.site.ru/robots.txt он есть, причём я его в таком виде не писала!

Что значит вот эта строчка - Allow: /wp-admin/admin-ajax.php ?

Движок Wordpress. Мог ли какой-то плагин сам сгенерировать robots? Я уже ничего не понимаю.

Плагин стоит Rustolat и Yoast Seo.

Буду очень благодарна за ответы!

Hammer8
На сайте с 04.08.2011
Offline
178
#1

МарШа, Должен быть в корневой папке вашего домена, иногда в отдельных папках. Проведите поиск по всем папкам.

МарШа:
Allow: /wp-admin/admin-ajax.php

Разрешить к индексированию файл admin-ajax.php

Полный спектр услуг по продвижению сайтов ()
МШ
На сайте с 15.06.2016
Offline
7
#2

Я понимаю, что то разрешить. Что разрешаем-то?

Hammer8
На сайте с 04.08.2011
Offline
178
#3

Скрипт admin-ajax.php выполняет продление пользовательской сессии WordPress — для удобства использования административной панели. Если администратор или редактор часто работает с сайтом, то это избавляет от необходимости каждый раз вводить логин/пароль. Но для 99% посетителей сайта этот функционал, скорее всего, не нужен: они ведь только читает контент, не редактируют его.

Это по аналогии, что некоторые закрывают /wp-content/, но открывают themes, для лучшей видимости сайта роботом.

Значение всего этого в поисковой оптимизации, совсем копеечное. Потому что при любом выборе мы не получаем дубли страниц.

Blaze1992
На сайте с 28.07.2014
Offline
52
#4
МарШа:
Здравствуйте!

Помогите новичку, пожалуйста. Не могу найти файл robots.txt на ftp. Там, где он должен лежать, его нет. Но когда пишу в строке поиска www.site.ru/robots.txt он есть, причём я его в таком виде не писала!
Что значит вот эта строчка - Allow: /wp-admin/admin-ajax.php ?
Движок Wordpress. Мог ли какой-то плагин сам сгенерировать robots? Я уже ничего не понимаю.
Плагин стоит Rustolat и Yoast Seo.

Буду очень благодарна за ответы!

Сделайте свой, скиньте в корень и проверьте, что получится.

МШ
На сайте с 15.06.2016
Offline
7
#5

Спасибо огромное!

---------- Добавлено 13.03.2017 в 22:35 ----------

Сделала свой, закинула в корневую директорию. Теперь показывает в строке поиска мой robots, а не тот. Куда теперь делся первый, не понимаю. Самоустранился. Я его так нигде и не нашла. Чудеса какие-то.

[Удален]
#6
Hammer8:
Скрипт admin-ajax.php выполняет продление пользовательской сессии WordPress — для удобства использования административной панели. Если администратор или редактор часто работает с сайтом, то это избавляет от необходимости каждый раз вводить логин/пароль. Но для 99% посетителей сайта этот функционал, скорее всего, не нужен: они ведь только читает контент, не редактируют его.
Это по аналогии, что некоторые закрывают /wp-content/, но открывают themes, для лучшей видимости сайта роботом.

Давненько я такого бреда не читал... Ничего из этого ботам индексировать давать не надо. "Для лучшей видимости сайта" - для чего-чего? Для лучшей видимости ему нужно админку открыть или тему?

МШ
На сайте с 15.06.2016
Offline
7
#7
Miha Kuzmin (KMY):
Давненько я такого бреда не читал... Ничего из этого ботам индексировать давать не надо. "Для лучшей видимости сайта" - для чего-чего? Для лучшей видимости ему нужно админку открыть или тему?

Но может быть, Вы мне сможете ответить на мой вопрос? Почему я не вижу robots в корневой папке? В строке поиска он есть, а там, где должен лежать, его нет! Но когда я делаю другой robots, в строке поиска отображается тот, который сделала я. Тогда куда тот "улетает"? А когда свой удаляю, тот снова появляется в строке поиска, но в папке фтп по-прежнему его нет!

[Удален]
#8
МарШа:
Но может быть, Вы мне сможете ответить на мой вопрос? Почему я не вижу robots в корневой папке? В строке поиска он есть, а там, где должен лежать, его нет! Но когда я делаю другой robots, в строке поиска отображается тот, который сделала я. Тогда куда тот "улетает"? А когда свой удаляю, тот снова появляется в строке поиска, но в папке фтп по-прежнему его нет!

Если у вас вордпресс, то или вы тупо смотрите не в ту папку, либо кто-то хорошо поковырялся в .htaccess (смысла, правда, не вижу). Скорее всего у вас ничего такого нет, и решается это даванием фтп какому-нибудь другу с лоховскими знаниями, он покажет.

Svetoch1980
На сайте с 06.06.2008
Offline
107
#9
МарШа:
Почему я не вижу robots в корневой папке? В строке поиска он есть, а там, где должен лежать, его нет!

Потому что у вас стоит вордпрессный SEO-plugin (видимо Yoast).

Если файла не сущсетвует, он вместо него отдает свой дефолтный (в котором как раз закрыта админка, и почему-то открыт admin-ajax).

А как только вы заливаете реальный файл в корень, ВП это чекает и начинает отдавать уже его.

Но лучше править в Yoast, раздел "Инструменты" => "Правка файлов" (как-то так)

Внедрение CRM и RPA. Автоматизация бизнес-процессов. Интеграции.
Hammer8
На сайте с 04.08.2011
Offline
178
#10
Miha Kuzmin (KMY):
Для лучшей видимости ему нужно админку открыть или тему?

Для гугла сейчас очень актуален вопрос заблокированных ресурсов. Который решается открытием папки themes в WP. В других движках можно просто открыть виды файлов js и css.

В панели Гугл Вебмастера рассылают сообщения "Googlebot не может получить доступ к файлам CSS и JS на сайте" вряд ли стали это отправлять, если это не имело никакого значения.

12 3

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий