- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Что делать, если ваша email-рассылка попала в спам
10 распространенных причин и решений
Екатерина Ткаченко
В 2023 году Одноклассники пресекли более 9 млн подозрительных входов в учетные записи
И выявили более 7 млн подозрительных пользователей
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Ненадо отдельно для яндекса указывать. Яндекс со звездочкой прекрасно все понимает. просто напишите:
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
и т. д. все папки, индексацию которых следует запретить
Host: домен - указываете для яндекса основной домен, с www или без, как укажете - так будет отображаться в выдаче
Crawl-delay: 3 - указываете поисковику минимальный интервал сканирования страниц в секундах, если ненадо - уберите. у меня например не стоит ни где, не юзаю
Sitemap: ссылка на sitemap.xml
И все. отдельно для яндекса ничего делать ненадо. Он прекрасно понимает звездочку
Но Crawl-delay работает вроде только для Яндекса, значит все равно надо отдельно для него прописывать:
User-agent: Yandex
Crawl-delay: 3
или как?
Указала в роботс сайт без www, а в вебмастере с самого начала стоит с www, как сделать выдачу без www?
olja1 добавил 08.03.2010 в 01:24
Звёздочку то все понимают, только вот команду Host только 2 паука яндекс и рамблер, а остальные определяют как ошибку.
Я думаю яндекс не просто так рекомендует использовать User-agent: Yandex
Это верно, но какая разница, если прописывать эти параметры в начале файла или в конце?
Указала в роботс сайт без www, а в вебмастере с самого начала стоит с www, как сделать выдачу без www?
Вначале не плохо бы попасть в эту выдачу :), а потом при хорошем стечении обстоятельств, в течении нескольких месяцев, процентов на 85%, яндекс изменит на домен указанный в директиве - HOST
Это верно, но какая разница, если прописывать эти параметры в начале файла или в конце?
По логике:
Если первый стоит User-agent: Yandex
Паук яндекса - выполнил правила относящиеся к User-agent: Yandex дальше не пошёл.
Остальные пауки - пропустили всё что в User-agent: Yandex выполнили всё что относится к ним.
Если первый стоит User-agent: *
Паук яндекса - выполнил правила относящиеся к User-agent: *, дальше либо выполнили всё что в User-agent: Yandex либо дальше не пошел.
Остальные пауки - выполнили всё что в User-agent: *
Вначале не плохо бы попасть в эту выдачу :), а потом при хорошем стечении обстоятельств, в течении нескольких месяцев, процентов на 85%, яндекс изменит на домен указанный в директиве - HOST*
Сайт два раза уже был в Яндексе, но потом выпадал
olja1 добавил 09.03.2010 в 01:45
Может дело в том, что я поставила в noindex категории, теги, архивы? Хотела, чтобы находили с поисковиков отдельные посты...
Что не так с моим robots.txt ?
синтаксис исправьте и читайте rtfm (хотя бы здесь)
Наверное именно из-за этого... Вордпресс .. Но как сделать, чтобы не было тегов, просто категории, входишь в категорию - там список названий постов и некоторые параметры (таблицей).
А то ведь поисковик помнит страницу тега одной, а когда люди переходят, а нужный им пост уже на следующих страницах, ведь сайт обновляется...
olja1 добавил 09.03.2010 в 01:50
синтаксис исправьте и читайте rtfm (хотя бы здесь)
Так у меня все так и написано, перечитала кучу информации
olja1 добавил 09.03.2010 в 13:25
Не работает. Неужели никто не знает правильный вариант?
Сайт два раза уже был в Яндексе, но потом выпадал
olja1 добавил 09.03.2010 в 01:45
Может дело в том, что я поставила в noindex категории, теги, архивы? Хотела, чтобы находили с поисковиков отдельные посты...
это к лучшему, что поставили их ноуиндекс, тогда меньше дублированного контента яндекс будет видеть - вам же хорошо. Просто хоть какой-то контент нужно оставить открытым, а то вообще ничего не проиндексирует
Наверное именно из-за этого... Вордпресс .. Но как сделать, чтобы не было тегов, просто категории, входишь в категорию - там список названий постов и некоторые параметры (таблицей).
Если не получается/не умеете/не знаете/ и т.д. наймите человека который это сделает за вас. Благо сейчас таких очень много.
Не работает. Неужели никто не знает правильный вариант?
Что именно не работает, и ответ на какой вопрос вы хотите услышать?
это к лучшему, что поставили их ноуиндекс, тогда меньше дублированного контента яндекс будет видеть - вам же хорошо. Просто хоть какой-то контент нужно оставить открытым, а то вообще ничего не проиндексирует
А сами посты не проиндесирует, только их в тегах, категориях или архивах?
подскажите пожалуйста, неправильно оформил robotx.txt - и у меня вылетела из индекса часть страниц, (в ЯВМ - Исключено роботом 59) поправил файлик - как долго ждать, пока файлы вылезут из фильтра? На ЯВМ они все еще в "Исключено роботом". Прошла уже неделя... Спасибо