- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Тренды маркетинга в 2024 году: мобильные продажи, углубленная аналитика и ИИ
Экспертная оценка Адмитад
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте! У меня клиент посмотрел у своего главного конкурента как составлен robots.txt . И у него возник вопрос "У них Host: идет сразу же после последнего Disallow без отступа. Я где-то читал, что отступы в роботсе важно расставлять правильно." Это правда? Отступы в robots.txt важны?
Сейчас он выгладит так:
User-agent: *
Disallow: /search
Disallow: /admin
Disallow: /*cart*
Disallow: /*images*
Disallow: /*?sort
Disallow: /*?filter
Disallow: /*search?q=*
Sitemap: http://www.site.ru/sitemap.xml
User-agent: Yandex
Disallow: /search
Disallow: /admin
Disallow: /*cart*
Disallow: /*images*
Disallow: /*?sort
Disallow: /*?filter
Disallow: /*search?q=*
Host: www.site.ru
Sitemap: http://www.site.ru/sitemap.xml
---------- Добавлено 26.01.2012 в 10:29 ----------
Ответ нашел сам. "Директива Host является межсекционной, поэтому будет использоваться роботом вне зависимости от места в файле robots.txt, где она указана."