- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Маркетинг для шоколадной фабрики. На 34% выше средний чек
Через устранение узких мест
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Добрый вечер!
Вопрос имеется такого плана:
На сайт приходят неизвестные пауки и усиленно смотрят страницы, началось это примерно недели 3 назад.
Скажем, на сайте 200 страниц, а бот просмотрел 10000 страниц за 1 неделю и накачал более 2 гигабайт, хотя сайт текстовый.
Эта информация о чем-нибудь кому-нибудь говорит?
Вариант 1). Какой-нибудь парсер-паук (напрмер, мой...) по определённым ключевикам обходит сайты из выдачи поисковиков и собирают нужную инфу, слегка обрабатывает текст синонимайзером, и... Ну, далее понятно.
Вармант 2). Паук и поисковиков под произвольным юзерагентом обходит сайты, тем самым проверяя, одинаково ли выглядит страница для поисковиков и для обычных посетителей.
Вариант3) ???
спасибо — мало помогло.
О помощи речь не шла. А что беспокоит-то?
На сайт приходят неизвестные пауки и усиленно смотрят страницы
а логи сервера посмотреть?
и забанить известных редисок
у редиски, имя меняется регулярно, ip плавающий, забанить нет возможности.
Видимо парсер кто-то приклеил, да еще и с кроном на обновляемый контент.
По ip забанить не вариант - прокси видимо.
Попробуйте создать контент с ошибкой заведомой, даже если синонимайзят - все равно через пару апов найдете, кто брал, а там уже решите как поступить.
Найти закономерность и прикрыть редиску кодом