- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Сайт стал тормозить, глянул access логи - страницы долбит этот бот "CamontSpider/1.0 +http://epweb2.ph.bham.ac.uk/user/slater/camont/info.html"
Можно смело его банить?
Друзья, можете посоветывать, что лучше еще забанить, для уменьшения нагрузки на вдс.
yahoo? msbot?
Сайт русский и для русскоязычной аудитории.
Бот вам даже ссылку дал на собственное описание.
Друзья, можете посоветывать, что лучше еще забанить, для уменьшения нагрузки на вдс.
yahoo? msbot?
Лучше всего поставить анализатор логов вебсервера, который будет автоматически банить тех кто превысит определенное количество кликов за заданный период времени.
Заодно защититесь от хулиганов, которые запустив несколько граберов сайта с максимальной скоростью, смогут этим заддосить ваш VDS.
IP ботов поисковиков лучше занести в белый список. И использовать для них менее жесткие лимиты.
Хотя, например, бот сапы (sape.ru) работает слишком быстро.
В среднем 3-4 кликов в секунду.
А один раз бот сапы поставил у меня рекорд – 2000 кликов за минуту. (то есть 33 обращения в секунду)
Общался с супортом сапы.
Объяснял им что так быстро бот работать не должен.
Но так и не смог их убедить уменьшить скорость.
Сказали, что не могут и что не кому такая скорость проблем не доставляет.
Но я им не верю, просто не хотят переделывать свой софт.
zexis, странно, за сапой такого не наблюдал.
Зато подобная "активность" была замечена за роботами Aport (та ещё сволочь)) и Mail.ru (что этот индексирует, вообще загадка, т.к. при поиске майл.ру выдаёт результаты Яндекса)
;6856760']zexis, странно, за сапой такого не наблюдал.
Зато подобная "активность" была замечена за роботами Aport (та ещё сволочь)) и Mail.ru (что этот индексирует, вообще загадка, т.к. при поиске майл.ру выдаёт результаты Яндекса)
Наиндесировался уже мейлушный бот на свой поиск, с января 2010 уже свою базу юзает и результаты свои, а не яндексовские показывает.