Все вопросы по robots.txt

FN
На сайте с 10.06.2015
Offline
80
#1021

Здравствуйте. На сайте есть возможность скачивать материалы в ограниченном виде. При этом имеется и ссылка на сторонний ресурс где эти материалы можно приобрести в полном виде, оформленная в виде 301 редиректа, если кликнуть по нужной ссылке - так устроено поле, в котором размещается эта самая сторонняя ссылка.

Мне посоветовали закрыть эту ссылку через robots.txt при помощи конструкции Disallow: /load/0-0-*

Но если так прописать, то закроется и возможность для робота индексировать ссылку, которая позволяет пользователям загружать файлы с сервера сайта. Это может как-то негативно отразиться на позициях сайта или же видимость ссылки для загрузки файлов не имеет значения?

Новая электронная библиотека ( https://knigosvod.ru/ ) Лучший хостинг в РФ - низкие цены, надежные сервера и отзывчивая техподдержка, готовая решить любой вопрос в считанные минуты ( https://my.friendhosting.net/pl.php?12825 ) Рекламная сеть с высокой стоимостью за клик - https://clck.ru/eYqLt
[Удален]
#1022
FaNaT_96:
Но если так прописать, то закроется и возможность для робота индексировать ссылку, которая позволяет пользователям загружать файлы с сервера сайта.

Слово "чужого" перед "сайта" забыто. Нафиг оно для бота?

FN
На сайте с 10.06.2015
Offline
80
#1023
Miha Kuzmin (KMY):
Слово "чужого" перед "сайта" забыто. Нафиг оно для бота?

Неа) Загружать он будет как раз с моего)

На сайте 2 ссылки:

1)ведет на страницу покупки книги. Ничего не скачивается, просто переход по моей рефке.

2)ссылка на скачивание отрывка книга уже с сервера моего сайта, а не чужого

Просто боюсь, чтобы ПС за это никак не наказали - страница в первую очередь позиционирует себя как "скачать что-то", а ссылок для скачивания то они не видят)

[Удален]
#1024

Да все ок будет, ничего страшного. И да, по всему запрещенному в роботс поисковики бодро ходят)

R
На сайте с 04.12.2016
Offline
60
#1025

Добрый день.

Хочу поинтересоваться у форумчан получал ли кто нибудь ответ от Яндекса о том, что смена домена при помощи директивы HOST в robots.txt временно не работает?

Проблема в том что при переходе на https Яндекс неверно определил главное зеркало (http версию вместо https).

При этом стандартный инструмент "переезд сайта" в Я.Вебмастере выдает ошибку "Невозможно перенести сайт на https. Проверьте соответствие сайта всем необходимым требованиям."

При этом никаких расхождений с требованиями Яндекса найти не удалось. В ответ о проблеме ПЛАТОН прислал ответ:

К сожалению, в настоящий момент из-за технических работ на нашей стороне при использовании директивы Host для указания на желаемое главное зеркало, оно может временно смениться на сайт по протоколу http. В данном случае Вы можете подождать немного, мы постараемся разрешить ситуацию на своей стороне, либо использовать редирект с http-версии на https, что позволит сменить протокол уже сейчас. Но замечу, поскольку страницы старого сайта станут недоступны для робота, они могут кратковременно пропасть из поиска в соответствии с редиректом. Пожалуйста, примите мои искренние извинения за доставленные неудобства.

Сталкивался ли кто либо с подобной проблемой?

Каковы могут быть потери при смене основного зеркала при помощи 301 редиректа?

Сайт: http://monro24.by

Станислав Романенко
На сайте с 05.09.2007
Offline
325

А зачем спешить? Если подождёте, само сменится.

Сайт не лезет в топ? Сделаю аудит без воды всего за 8000 рублей! Отзывы клиентов тут (https://searchengines.guru/ru/forum/939454), почта для связи: ingref@ya.ru Посмотрю, в чём проблема с вашим сайтом, за 100 рублей (https://searchengines.guru/ru/forum/comment/15662080).
R
На сайте с 04.12.2016
Offline
60
#1027

301 редирект не настраиваем чтобы не потерять позиции в Яндекс, но возможно это одна из причин снижения трафика в Google, с момента перехода на Https около 10%

Ну и переход до конца не выполнен и это немного треплет нервы.

HI
На сайте с 26.10.2016
Offline
14
#1028
Redgektor:


Сталкивался ли кто либо с подобной проблемой?
Каковы могут быть потери при смене основного зеркала при помощи 301 редиректа?

Лучше в таких случаях прислушиваться к Платону.

Каковы потери? 100% выпадание из поиска на 2-8 недель.

Разыгрываем 50 USD за правдивые отзывы (https://goo.gl/yvzNgd) о хостинг-провайдерах
horizont
На сайте с 28.01.2015
Offline
63
#1029

На сайте полно страниц с такими окончаниями, в результате колличество загруженных страниц в ПС намного выше чем проиндексированных. Подскажите, как скрыть от яндекса подобные страницы, чтобы они не учитывались? Попробовал сделать так, но всё равно, открыты для индексации - allowed. Что делаю ни так?

png 1.png
Станислав Романенко
На сайте с 05.09.2007
Offline
325

Надо так:

Disallow: /?p=

Disallow: /?ps=

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий