Настройка robots.txt для Яндекса и остальных - различия

b1b1g0n
На сайте с 09.08.2010
Offline
114
689

Вот такой вопрос. Если для всех поисковых систем я хочу чтобы сайт индексировался с www и страницы я хочу закрыть одни и те же, стоит ли отдельно прописывать User-agent: Yandex?

Карта сайта тоже соответственно одна и та же. Яндекс одинаково воспринимает общий юзер-агент и тот, который чисто для него предназначен?

Цахес
На сайте с 15.03.2007
Offline
205
#1

В самом robots.txt проверяется наличие записей, начинающихся с 'User-agent:', в них ищутся подстроки 'Yandex', либо '*' (регистр значения не имеет), причем, если не обнаружено 'User-agent: Yandex', учитываются директивы для 'User-agent: *'.

- Хорошие и плохие тексты для ваших сайтов (http://www.textsale.ru/team57397.html). - Удаленная работа. Вакансия копирайтера/рерайтера. (http://advego.ru/6myq8sgvKk) - Быстрое составление семантического ядра (https://topvisor.ru/?inv=39380).
b1b1g0n
На сайте с 09.08.2010
Offline
114
#2

то есть если не обнаружено 'User-agent: Yandex', директивы для 'User-agent: *' учитываются ПС Яндекс точно так же, как если бы это были директивы исключительно для нее?

Цахес
На сайте с 15.03.2007
Offline
205
#3

Да .

b1b1g0n
На сайте с 09.08.2010
Offline
114
#4

спасибо за ответ. разобрался

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий