- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Что делать, если ваша email-рассылка попала в спам
10 распространенных причин и решений
Екатерина Ткаченко
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
robots.txt:
# /robots.txt for www.site_url.ru frontend machines - ??? что это означает? Лучше ли будет индексится сайт?
User-agent: *
Host: www.site_url.ru
User-agent: *
Host: w ww.site_url.ru
Да, зеркало с ввв будет индексироваться значительно лучше, чем без ввв. :)
ePRom, # /robots.txt for www.site_url.ru frontend machines - комментарий.
Host: www.site_url.ru - директива, которая показывает Яндексу главное зеркало.
Лучше так:
User-agent: Yandex
Disallow:
Host: www.site_url.ru
User-agent: *
Disallow:
6666, можно я оспорю твоё утверждение? ;)
FlyAway, Т.е. правильно выглядеть robots.txt должен быть так
User-agent: Yandex
User-agent: Aport
User-agent: Googlebot
User-agent: StackRambler
Disallow:
Host: www.site_url.ru
User-agent: *
Disallow:
ePRom, нет, это неправильно.
Правильно так:
User-agent: Yandex
Disallow:
Host: www.site_url.ru
User-agent: *
Disallow:
И чего? Человек сейчас поставит такой роботс и что? Смешно очень?
6666, и все у человека будет нормально.
host: www.site.ru
ето укажет всем поисковикам или только яндексу?
joost, только Яндексу, другим не нужна эта директива.
ну так в конечном итоге как правильно оформить робот.txt?
Включая все Disallow: и host for yandex
joost, я уже 2 раза написал пример выше. Ещё раз повторяю.
# /для Яндекса, в Disallow можно указывать на запрет папки, страницы для печати и т.п.
User-agent: Yandex
Disallow:
Host: www.site_url.ru
# /для всех других поисковых машин, т.к. они не понимают Host и игнорируют его.
User-agent: *
Disallow: