Иван Комаров

Рейтинг
176
Регистрация
10.12.2006
Должность
IT-специалист, IT-менеджер
Интересы
Интернет, Бизнес, Музыка, MMORPG
Родился, учился в школе, учился в ВУЗе, бизнес в Интернет, встретил настоящую любовь Солнышко светлое - Женечку..

читал про настройки фильтрации ботов для CF

все упорно рекомендуют фильтровать по протоколу например  HTTP/1.1

бред!

по этому протоколу например на мои сайты поисковые роботы Яндекса и Гугла ходят.

думать надо, когда советуете!

GreenLis #:
Вы скрин мною прикреплённый на прошлой странице смотрели?

конечно, смотрел.

но вы вручную настраиваете Skip для Я и Г.

откуда вы уверены, что вы ВСЕХ роботов Я и Г пропускаете? ну, откуда?????

знаете сколько роботов у я и г?

поисковый, я.вебмастер, я.метрика, РСЯ, Директ, для изображений, для мобильных и черт еще сколько

и вы серьезно считаете что у вас нет проблем с блокировкой всех-всех ботов Я и Г?????

GreenLis #:
Как угодно. У меня всё индексируется и яндексом и гуглом. Непосредсвенно месяц назад был произведён переезд на этот проект одного суб.проекта - все страницы постепенно переиндексируются, а кроме них в стандартном режиме происходит внесение правок в выдачу для старых страниц. Но у меня  Under Attack Mode  отключен.

я что вы скажете вот на этот комментарий участника форума..

В CF есть отдельный пункт, который пропускает всех поисковых ботов, в том числе Я и G.

есть такое  в CF ???
GRAFLEKX #:
Вам ссылку на тему дали, где эти правила несколько раз разжеваны.

там не разжевывают, я сопли жуют...

GreenLis #:
3. Skip -  (cf.client.bot) or (ip.geoip.asnum eq 15169) or (ip.geoip.asnum eq 13238) or (ip.geoip.asnum eq 44534) or (ip.geoip.asnum eq 208722)

Полезные боты, известные CF, а также отдельное указание на сети G и Я

и вы правда уверены, что CF, который даже не переведен на русский язык, знает всех роботов поисковых Яндекса? смешно...

да и Гугла он вряд ли всех роботов знает...

печаль...

я проверил здесь...

https://webmaster.yandex.ru/site/https:********.ru:443/indexing/check-url/

яндекс не может пробиться корректно через защиту CF в режиме  Under Attack Mode и тем более, если правилами файрвола CF выставлена защита  JS Challenge

сайт яндексом в таком случае не индексируется..

вот так вот...

GreenLis #:
у меня нет рекламы с рся

а я именно для того, чтобы из РСЯ не вышвырнули (как уже забанили 3 сайта),

и хочу уменьшить число ботов, которые накручивают показы и клики РСЯ. за что потом и банят площадки.

спецы,  подскажите, пожалуйста...

в режиме защиты CF - >  Under Attack Mode

индексирующие роботы яндекса, гугла, нормально добираются до сайта? они проходят эту проверку и получают контент сайта?

дело в том, что я смотрю лог Event в разделе CF Security, и судя по нему.. поисковые роботы не проходят через JS Challenge ((((((

veselkin #:
В чистом виде он ботов которые делают прямые заходы не ловит. Его нужно настраивать. Есть в сети настройки. 

я нашел в сети статьи. 

странные они советы дают как блокировать запросы к сайту с пустым referer 

ну. я поставил для таких запросов правило файрвола JS Challenge

и что?

это тоже, что и  Under Attack Mode на весь сайт.

а если я поставлю капчу гугла, как роботы поисковых систем пройдут на сайт???

а они точно с пустыми  referer заходят, например, по ссылкам из sitemaps

SeVlad #:
ответ тут:

А ВП не причём, до него не доходит.

поспешил с вопросом. тупанул

нужно

Deny from 216.244.66.0/24

на одном сайте очень высокий процент прямых заходов

очень много с IP 23.22.35.162

знает кто что это за IP ?

Всего: 414