- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу

Тренды маркетинга в 2024 году: мобильные продажи, углубленная аналитика и ИИ
Экспертная оценка Адмитад
Оксана Мамчуева

VK приобрела 70% в структуре компании-разработчика red_mad_robot
Которая участвовала в создании RuStore
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Как можно ограничить доступ поисковых роботов Yahoo целыми днями роботы сидит на сайте забивает все логи, а люди с Yahoo не идут практически нулевые показатели, так вот вопрос можно как-то сделать что бы Яхо например раз в месяц заходил на сайт?
http://notes.webartsolutions.com/archives/000011.html
http://help.yahoo.com/help/us/ysearch/slurp/slurp-03.html
вот тут можно почитать про нагрузку на сервер
касательно переиндексации поищите http://www.robotstxt.org/wc/faq.html#robotstxt
User-agent: Slurp
Crawl-delay: какое число тут можно написать что бы он раз в месяц заходил?
И не совсем понял (с англиЦким плохо у меня) там сказано:
Что имеется в виду ?
Ну типа 2592000 - раз в 30 дней будет.
Однако лучше так радикально не поступать. Если например 300 поставить - он не больше 300 хитов в сутки сделает, а трафик со временем глядишь и появится.
Да чего-то он уже год по ресурсу лазиет а трафика практически нет (а может счётчики его не признают?), даже по нужному запросу на первом листе сайт выходит, а толку н0ль.
Хмы... и если 300 поставить он сделает не более 300 хитов в сутки? А если 2592000 он месяц заходить не будет, чего-то не понимаю.
300 или 2592000 - это задержка между хитами
SiriuS, цифра означает означает время в секундах между успешными запросами робота, как я и писал.
Т.е. если поставить 30, то после запроса одной страницы, следующую робот запросит не раньше, чем через полчаса.
Через 30 секунд, кажется.
Да, именно так.
Я ошибся, извиняюсь. :(
Создал файл robots.txt (раньше не было его)
И вот так написал:
User-agent: Slurp
Crawl-delay: 1000
Больше ничего там нету, что теперь будет Яхо делать и не отразится ли это на других поисковиках.