- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Люди, мне нужно сделать робот так, чтобы он запретил доступ всем поисковым паукам, кроме ндексового. Ну то есть, не по определённым разделам а именно запрет доступа пауков всех роботов кроме яндексового. Я склоняюсь к такому варианту:
User-Agent: *
Disallow: /
User-Agent: Yandex
Disallow:
Но меня очень беспокоит то, что первым вариантом я запрещаю индексацию всем роботам, а во втором я якобы разрешаю только яндексу, но не расценит ли яндекс после первого примера якобы сайт запрещён к индексацию, сможет ли паук яндекса понять что я ему разрешаю индексацию. Хотеось бы выслушать знающего человека. Заранее спасибо.
Вроде все верно
Попробуйте провериться сервисом яндекса http://www.yandex.ru/cgi-bin/test-robots
Должен, тк бот ищет инструкции для себя,
а уже потом считывает общие
Ну а если есть сомнения, выведи инструкции Я. первыми.
вот...народ уже думает как закрывать сателлиты от индексации и конкурентов )))
[@;2527010']вот...народ уже думает как закрывать сателлиты от индексации и конкурентов )))
И чтобы конкуренты и не догадывались, что у него в беках.:)
robotstxt.org.ru вам в помощь
Немного не в тему, но все о роботсе...
как сделать так чтобы всеми ботами не индексировался сайт с www!?
Вообще-то, лучше блок для конкретного бота ставить над общим.
Хортица, 301-м редиректом на тот, который нужно индексировать. Только аккуратно надо делать, напакостить крепко можно
301-м редиректом на тот, который нужно индексировать. Только аккуратно надо делать, напакостить крепко можно
Чуть по подробней можно?!
robotstxt.org.ru вам в помощь
Искал ответ на свой вопрос, но так и не нашел :(
Чуть по подробней можно?!
Ставите 301 редикет с сайта www.sayt.ru на сайт sayt.ru и усе🚬
как сделать так чтобы всеми ботами не индексировался сайт с www
А можно не редирект, а robots.txt выдавать разный в зависимости от HTTP_HOST. Делается обработкой .txt файлов SSI или PHP.