- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу

Маркетинг для шоколадной фабрики. На 34% выше средний чек
Через устранение узких мест
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Нам тут составили роботс тхт недавно, чтобы запретить к индексации все страницы сайта с www и чтобы основным зеркалом считался сайт без www
Выглядит он так:
User-Agent: Yandex
Host: womantalks.ru
А пару дней назад один из участников форума сказал: "Вам надо дописать Disallow в роботсе".
Зачем и как именно его туда вставить- не объяснил. Может быть кто-нибудь поможет?
Екатерина01, см. мою подпись, много раз обсуждали ...
Вот так нужно:
User-Agent: *
Host: site.ru
Екатерина01, см. мою подпись, много раз обсуждали ...
Вот так нужно:
User-Agent: *
Host: site.ru
Ну разницы между тем что вы написали нашим вариантом почти нет. И тем более нет "Disallow". Т. е. по вашему он и не нужен?
User-Agent: *
Host: site.ru
это как раз хуже, директиву хост понимает только яшка, идеологически лучше, если только для него она и прописана. хотя практически я думаю другие поисковики просто проигнорят.
Екатерина01, если вы хотите, чтобы yandex выводил в выдаче ваш сайт без www, то что я написал вам подойдёт :)
Екатерина01, если вы хотите, чтобы yandex выводил в выдаче ваш сайт без www, то что я написал вам подойдёт :)
Отлично. А то что у нас сейчас - нет?
Megavolt, так yandex и нужен ;)
User-Agent: Yandex
Disallow:
Host: womantalks.ru
Не то чтобы "надо", но так ближе к стандарту.
Или запретить ненужную или несуществующую папку:
User-Agent: Yandex
Disallow: /eprst
Host: womantalks.ru
Disallow в роботсе
Отсутствие директивы disallow является нарушением формата файла robots. Читайте здесь: http://www.citforum.ru/internet/search/rbtspec.shtml
Вообще-то эта ссылка - из помощи "Яндекса", ею тоже никогда не пренебрегайте!
Директива disallow обязана быть, в Вашем случае - скорее всего, пустой, если Вы не планируете закрывать какие-либо директории на сайте.
Затем ждите зеркальщика, а если был уже - ждите перезеркаливания после апдейтов... Но это может быть и долго, иногда 1,5 месяца бывало (не визит зеркальщика, а процесс переклейки в базе "Я").
Агента можно указывать хоть *, хоть явно. Директиву host все равно только "Я" понимает, другие игнорируют.
С уважением - Алексей
Отсутствие директивы disallow является нарушением формата файла robots. Читайте здесь: http://www.citforum.ru/internet/search/rbtspec.shtml
Вообще-то эта ссылка - из помощи "Яндекса", ею тоже никогда не пренебрегайте!
Директива disallow обязана быть, в Вашем случае - скорее всего, пустой, если Вы не планируете закрывать какие-либо директории на сайте.
Затем ждите зеркальщика, а если был уже - ждите перезеркаливания после апдейтов... Но это может быть и долго, иногда 1,5 месяца бывало (не визит зеркальщика, а процесс переклейки в базе "Я").
Агента можно указывать хоть *, хоть явно. Директиву host все равно только "Я" понимает, другие игнорируют.
С уважением - Алексей
Да мы ждем уже 2 месяца! Надоедает уже ждать.
За ссылочку спасибо.
Екатерина01, вот Вам из той самой ссылки цитата:
"Если файл /robots.txt пуст, или не отвечает заданному формату и семантике, или его не существует, любой поисковый робот будет работать по своему алгоритму."
Два месяца, думаю, тоже не предел. Но лучше измените формат файла :).
Спасибо за внимание.
С ув. - АК.