- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Что делать, если ваша email-рассылка попала в спам
10 распространенных причин и решений
Екатерина Ткаченко
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Здравствуйте! У меня клиент посмотрел у своего главного конкурента как составлен robots.txt . И у него возник вопрос "У них Host: идет сразу же после последнего Disallow без отступа. Я где-то читал, что отступы в роботсе важно расставлять правильно." Это правда? Отступы в robots.txt важны?
Сейчас он выгладит так:
User-agent: *
Disallow: /search
Disallow: /admin
Disallow: /*cart*
Disallow: /*images*
Disallow: /*?sort
Disallow: /*?filter
Disallow: /*search?q=*
Sitemap: http://www.site.ru/sitemap.xml
User-agent: Yandex
Disallow: /search
Disallow: /admin
Disallow: /*cart*
Disallow: /*images*
Disallow: /*?sort
Disallow: /*?filter
Disallow: /*search?q=*
Host: www.site.ru
Sitemap: http://www.site.ru/sitemap.xml
---------- Добавлено 26.01.2012 в 10:29 ----------
Ответ нашел сам. "Директива Host является межсекционной, поэтому будет использоваться роботом вне зависимости от места в файле robots.txt, где она указана."