- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Маркетинг для шоколадной фабрики. На 34% выше средний чек
Через устранение узких мест
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Господа, помогите.
Боты съедают весь трафик (2Gb в день).
Необходимо запретить индексацию лишними пауками, а для "нормальных" установить срок для переиндексации.
Как я понял есть два варианта отключения:
1. mod_rewrite
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} email [NC,OR]
RewriteCond %{HTTP_USER_AGENT} extractor [NC,OR]
RewriteCond %{HTTP_USER_AGENT} booch_ [NC,OR]
RewriteCond %{HTTP_USER_AGENT} naverbot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ibm\.com [NC,OR]
RewriteCond %{HTTP_USER_AGENT} appie [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ^obot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} zipppbot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} ia_archiver [NC,OR]
RewriteCond %{HTTP_USER_AGENT} grub-client [NC,OR]
RewriteCond %{HTTP_USER_AGENT} jetbot [NC,OR]
RewriteCond %{HTTP_USER_AGENT} wget [NC]
RewriteRule ^.*$ - [F]
2. robots.txt
User-agent: BecomeBot
Disallow: /
User-agent: Nutch
Disallow: /
User-agent: Jetbot/1.0
Disallow: /
User-agent: Jetbot
Disallow: /
User-agent: AskJeeves
Disallow: /
User-agent: Teoma
Disallow: /
User-agent: Jeeves
Disallow: /
Какой способ отключения лучше?
Для меня важно, как установить время переиндексации для "нормальных" пауков (MSNBot, AskJeeves, Inktomi Slurp),
т.к. по логам они съедают основной трафик (может тегом <meta name="revisit-after" content="10 days">).
Заранее благодарю за помощь.