- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
Зачем быть уникальным в мире, где все можно скопировать
Почему так важна уникальность текста и как она влияет на SEO
Ingate Organic
VK приобрела 70% в структуре компании-разработчика red_mad_robot
Которая участвовала в создании RuStore
Оксана Мамчуева
Поставьте защиту от ddos
это не ддос боты, антиддос не поможет, если конечно он всем подряд не выдаст капчу.
Поставьте защиту от ddos
Достаточно 403 ошибку отдать и все. Ботоводы такие сайты избегают. Лучше будет, если изначально сайт будет выкидывать 403 страницу их парсерам.
)), нет, все гораздо проще
Список Known Bots - то что пропускает Cloudflare
ahrefs
Ahrefs SEO bot
apple
Applebot is the web crawler for Apple, for products like Siri and Spotlight Suggestions
archive.org
Archive.org bots
baidu
Baidu search engine bots
better uptime
Bot for monitoring website uptime
bing
Bing search engine bots
feedbin
Feedbin.com bots
google
Google search engine bots
grapeshot
Grapeshot (Oracle) SEO bots
linkedin
LinkedIn bots
mail.ru
Mail.ru bots
naver
Naver (South Korean) search engine bots
pingdom
Pingdom.com monitoring bots
pinterest
Pinterest bots
seznam
Seznam search engine bots
sogou
Sogou search engine bots
uptimerobot
Uptime Robot monitoring bots
yahoo
Yahoo! search engine bots
yandex
Yandex search engine bots
***
Если правило Allow - то Known Bots - зеленая галочка
Если Block - серая
У меня правила в Firewall rules расположены в таком порядке
1. Что жестко блокировать (Block - конкретные Usera Agents которые никак нельзя пропускать)
2. Что Обязательно пропускать (первым Known Bots а дальше feedburner, pinterest, facebook и т.д.)
3. Что пропускать через JS проверку ( все подозрительно и идущее через http/1.0 и 1.1, запросы к админке и т.п.)
ТО ЧТО ИДЕТ ВВЕРХУ ПО ПРАВИЛАМ CLOUDFLARE ПРИОРИТЕТНЕЕ К ВЫПОЛНЕНИЮ - то есть если вверху разрешить known bots а внизу логически запретить - то по общему правилу он разрешит.
У меня после подключения cloudflare, пришел отчет от директа, что сайт не доступен.
В WAF первым стоит правило Known Bots и добавлено исключение для mail.ru, для них - Allow.
Может после 24 февраля в cloudflare решили убрать яндексовских ботов из Known Bots?
Или бот директа блокируется с включенным режимом Bot Fight Mode?
Подскажите кто знает.
У меня после подключения cloudflare, пришел отчет от директа, что сайт не доступен.
В WAF первым стоит правило Known Bots и добавлено исключение для mail.ru, для них - Allow.
Может после 24 февраля в cloudflare решили убрать яндексовских ботов из Known Bots?
Или бот директа блокируется с включенным режимом Bot Fight Mode?
Подскажите кто знает.
Вы закрыли доступ для ботов Яндекса и др. Просто добавьте в WAF следующее правило и ошибки не будет.
Вы закрыли доступ для ботов Яндекса и др. Просто добавьте в WAF следующее правило и ошибки не будет.
Да, там было циклическое перенаправленные из-за того, что редирект на https стоял на хостинге и на cloudflare.
Cloudflare реально вычистил почти всю эту дрянь, можно в этом топике в первом сообщении закрепить инструкцию по настройке WAF от прямых заходов.
да, тоже столкнулся с тем что Allow для Known bots не работает для некоторых ботов Яндекса, пришлось вручную прописать AS Num. Через Юзер агенты не стал делать как советовали выше, ибо многие подделывают его.
На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит.
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .
На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит.
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .
Да уж
На примере своего сайта все же делаю вывод, что рост числа прямых заходов приводит к снижению позиций и трафика из поисковых систем. В моем случае сильнее всего пострадали позиции и трафик из Яндекс. Хотя на мои обращения поддержка Яндекса отвечала, что переживать не стоит.
Как видно из графика на скриншоте кол-во переходов из пс Яндекс начало снижаться практически одновременно с ростом числа прямых заходов.
Жаль что способов борьбы с данным недугом так и не нашли .
Это 70000 прямых в день? Или я не правильно
смотрю. А роботность сколько процентов показывает? По моим наблюдениям больше 45% это плохо. Постройте ещё такой же график пожалуйста по времени и глубине просмотра.