- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Маркетинг для шоколадной фабрики. На 34% выше средний чек
Через устранение узких мест
Оксана Мамчуева
Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий
Собственно просьба поделиться рулями для блокировки особо тупых текстовых парсеров (которы ходят с юзер-агентом аля php5), да так, чтобы не цеплял ничего полезного.
Заранее признателен.
Под nginx как вариант https://github.com/mariusv/nginx-badbot-blocker
Но php5 юзерагента ни разу не встречал.
Больше всего повеселило:
Эх... злые спамеры :)
Вообще мне бы для htaccess. И максимально легкое что-нибудь. Чтобы хотя бы чуть меньше контент растягивали на говносайты.
по HEAD заголовкам через переменную $_server легко все вычисляются
Вообще хотелось бы избавиться от конкретного парсера - в стиле:
deejaay.ru
kr-moto.ru
Досаждает сильно. Буду признателен за помощь в его блокировке.
так вам надо логи сервера смотреть, кто вас парсит, с какого ип и как он представляется и потом блокировать уже
Да оно не так, чтобы постоянно. Наскоками. Из серпа парсят страницы, которые в выдаче по запросам, по которым хотят поднять ГС.
Возможно кто-то знает, что за парсер, и как конкретно его заблочить.
Без шансов, по крайней мере если парсят намеренно. Т.е. по IP заблокировать разве что. А по рефу только ну очень тупых ботов, которые фактически в природе не встречаются.