- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году 36,9% всех DDoS-атак пришлось на сферу финансов
А 24,9% – на сегмент электронной коммерции
Оксана Мамчуева
Что делать, если ваша email-рассылка попала в спам
10 распространенных причин и решений
Екатерина Ткаченко
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Вопрос в следующем: Нужно указать главное зеркало www.site.ru для Яндекса поиск по форуму дал следующие результаты:
Текст robots.txt
User-agent: Yandex
Disallow:
Host: www.site.ru
Внимание вопрос: Нафига тут вообще нужен Disallow, анализатор robots.txt от Яши говорит про ошибку(не указано значение) во второй строке(Disallow)
Надеюсь вы знаете что директива Host поддерживается только яндексом. Подробнее о ее использовании вы можете почитать тут: http://help.yandex.ru/webmaster/?id=996567
Я читал данное описание по использованию robots.txt, но вы мне так и не ответили зачем все пытаются прикрутить Disallow ?
кто все ?
Disallow необязательно указывать, т.е. никто не мешает Вам написать
User-agent: Yandex
Host: www.site.ru
🚬 Я так и написал просто хотелось уточнить. Спасибо!!!
Pall Mall добавил 03.08.2008 в 16:03
Вот например: /ru/forum/58990
Человек утверждает "Отсутствие директивы disallow является нарушением формата файла robots. Читайте здесь: http://www.citforum.ru/internet/search/rbtspec.shtml"
Pall Mall добавил 03.08.2008 в 16:04
Так кому ВЕРИТЬ ?
Pall Mall добавил 03.08.2008 в 16:15
/ru/forum/43916 здесь тоже тема так и не раскрыта
line анализатором. См. описание «Анализатор robots.txt»
http://webmaster.yandex.ru/wmconsole/public_robots_txt.xml
Вбив туда
User-agent: Yandex
Host: www.site.ru
Вы увидите, что такой вариант вполне допускается Яндексом
+ к этому даже в самом факе яндекса есть примеры с отсутствием дисэллоу (см. пункт 6 с Crawl-delay)
selestik, согласно стандарту robots.txt, как минимум одна директива Disallow должна присутствовать для каждого поля User-agent, чтобы robots.txt был корректно воспринят поисковыми системами.
selestik, согласно стандарту robots.txt, как минимум одна директива Disallow должна присутствовать для каждого поля User-agent, чтобы robots.txt был корректно воспринят поисковыми системами.
насколько помню - либо Disallow, либо Allow... так что Яша съесть, например:
User-agent: Yandex
Аllow: /
Host: www.site.ru
должен по любому 🙄
Тут абсолютно вся инфа по роботс.тхт - robotstxt.org.ru
Allow
- такой директивы в robots.txt не существует.
- такой директивы в robots.txt не существует.
Гугел поддерживает давно, Яша недавно http://help.yandex.ru/webmaster/?id=996567
насчёт общего стандарта - Вы правы в 1994 её не было, но надо смотреть, он дополняется нередко. Sitemap тоже недавно ввели (относительно) ;)