- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Все доброго времени суток. Есть сайт http://wow-engaged.ru/.
Есть роботс http://wow-engaged.ru/robots.txt
Яндекс кушает все запрещенные страницы, а во время проверки в явебмастер на файл роботс пишет "Найдено несколько директив Host".
Скажите пожалуйста, как поправить ситуацию и где ошибка в роботс? Если у когото есть лучший вариант файла роботс под дле, прошу поделиться.
Для Googlebot хост прописывать не надо.
Убрал хост для гугла, теперь пишет:
Используемые секции Строка
1-26 User-agent: Yandex
Disallow: /autobackup.php
...
Host: wow-engaged.ru
52-52 Sitemap: http://wow-engaged.ru/sitemap.xml
Убрал хост для гугла, теперь пишет:
Используемые секции Строка
1-26 User-agent: Yandex
Disallow: /autobackup.php
...
Host: wow-engaged.ru
52-52 Sitemap: http://wow-engaged.ru/sitemap.xml
Sitemap тоже только для яндекса указывается. Я бы на Вашем месте заменил User-agent: Googlebot на User-agent: *, кроме яши и гугла есть и другие пс.
Последовал вашему совету, теперь выдает:
1-26 User-agent: Yandex
Disallow: /autobackup.php
...
Host: wow-engaged.ru
Ну значит все нормально, это не ошибка.
Спасибо за помощь.
kimberlit, Вы бы лучше поправили меня, если я что-то не так, по Вашему мнению указал, и я бы что-то узнал и ТСу помогли. Тем более я все писал так как мне здесь советовали. Но вижу, Ваше величество обсуждает только очень важные темы в курилке, а по остальным разделам форума Вы ходите только чтобы репы минусовать.