Яндекс Маркет ( и многие другие) использую в этом месте знак тире, но я его не очень люблю визуально. Я вот и думаю - раз тире норм заходит, то почему бы этот знак не оставить.
меня больше всего интересуют вот эти пункты:
User-Agent: * - Открыт для всех ботов
Disallow: / - Сейчас закрывает весь сайт, потом просто удалю эту строчку и сайт начнет индексироваться? или нужно поменять на Follow?
Host: https://сайт.ru - Главное зеркало
Crawl-delay: 2 - Нормальная цифра или по больше поставить?
Благодарю:)
День добрый! Настроил файл роботс и хотел удостоверится, что все правильно)
User-Agent: *
Disallow: /
Sitemap: http://сайт.ru/sitemap.xml
Host: https://сайт.ru
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Crawl-delay: 2
Disallow: / поставил, так как сайт еще допилиивается)
А Лендосы на поддоменах или внутри сайта? Видел конкурента на поддоменах, урвал топ 1 по многим регионам :/
Е-комерс, Автотематика.
Значит суть кейса - поднять щитшторм?)
я думал именно о втором варианте. Вопрос: Как собрать все урлы?)
Активно пользуются, проверял по тепловым картам из Метрики.
да, ошибся - 301.
Старая CMS - ее нет, переходим на Битрикс.
А можно примеры?) Гуглинг не дал результатов.---------- Добавлено 10.11.2015 в 18:00 ----------
Мало что понял, но засейвил на будущее. Благодарю)
Это какие например?
