Антоний Казанский

Антоний Казанский
Рейтинг
787
Регистрация
12.04.2007
Должность
Частный интернет-маркетолог и SEO специалист
Интересы
Интернет-маркетинг, SEO, интернет реклама
Подробности на сайте https://akazansky.ru
Romanov Roman #:

Bing Bot 2.0 отдаёт 403 Forbidden.

Получается, что бот ПС Бинга будет заблокирован...

Конечно, он же указан 

всё что указано, будет баниться по фактическому текстовому совпадению.

Отсюда следует, что если написание будет различаться, совпадения не будет; следовательно, попадать под правило не будет.

bestbestbest #:
Будет ли иметь это разницу в позициях?

Будет, тем более, что в части примеров вы явно указываете название  Angry Birds, в другой части - нет.

Если вариант Title -> Название сайта "Игры скачать бесплатно" подходит больше для Главной странице, то

вариант ->  Игра Angry Birds скачать, очевидно, уже отдельная внутренняя страница.

Формально - это разные страницы, поэтому сам по себе вышеуказанный пример некорректен. 

Расчёт весов зависит и от использовании запроса в Title по классике BM25/F и от слово позиции к началу.

Romanov Roman #:

Только что проверил корректность работы директивы, эмулировав действия одного из ботов, перечисленного в перечне.
https://www.wannabrowser.net/

Значит работает. Теперь принудительно подставьте имена ботов ПС для доп. проверки.

Romanov Roman #:
Искренняя Вам благодарность, Антоний!

Всегда пожалуйста 😉


Romanov Roman #:
Если я правильно Вас понял, директиву для блокировки ботов можно использовать...

ПС явно себя указывают. С примерами имён ботов, например, Яндекса можно ознакомиться здесь.

Romanov Roman #:
Если я блокирую ботов в файле .htaccess директорией, представленной ниже, существует дли вероятность того, что я ограничу доступ роботам Гугла и Яндекса?

Фактические вышеуказанным кодом вы блокируете любые заходы, которые в юзер агенте содержат следующие записи:

следовательно, если мы возьмём программу Screaming Frog и выставим там что-то из указанного, то сервер должен нас заблокировать (так как раз можно проверить, насколько это рабочая конструкция работает).

Теперь переходим к ответу на поставленный вопрос - нет, боты Яндекса и Гугла не используют ничего из представленного в перечне, поэтому блокировать не должно.

olegon #:
Всякие Semrush, даже Мылру и Bing, которые сканят все мои страницы, но приводят меньше 10 пользователей в месяц, зато могут быть источником каких-то совсем ненужных мне исследований сайта или выбора его для парсинга...

Они могут менять User-Agent и наверняка это делают, чтобы как раз не нарываться на явный запрет.

Robots.txt не решает данные задачи, роботс актуален для управления областями индексирования основными ПС.

olegon #:
Вопрос, наверное, больше к тем, кто пробовал или видит очевидную причину так не делать.

Вопрос в том, какую конкретно задачу вы решаете.

Избавить сайт от всех ботов вы всё равно не сможете, часть из них будет игнорировать правило User-agent: *, Disallow: /

Вы конечно можете взять известный перечень имён поисковых ботов, например, здесь и запретить их через User-agent, но никакой особой погоды это для вас не сделает.

bestbestbest :

Влияет ли название сайта в заголовке статьи на позиции?

Пример заголовка:

title статьи - Название сайта

или без заголовка:

title статьи

На позиции запросов, связанных с названием сайта - да, влияет. 

Это актуально для сайтов/проектов, где большой объём брендовых запросов, например крупные СМИ.

Если же мы говорим о каком-то неизвестном статейнике, который собирает трафик благодаря тестовой составляющей, то лучше использовать зону Title-а для более приоритетных запросов в контексте выбранной страницы.

Snake800 #:
Все эти, условно, big data, ML, GO или ява-программист - можно назвать навыками, которые специалист готов применить здесь и сейчас. Так-то по большому счету, со времён Паскаля и фон Неймана мало что поменялось. Гвоздь в том, что переключение (воспоминание) или обучение требует некоторого времени.

Думаю, затык только в том, что кому-то сложно принять существование отдельных специализаций.

Примерно тоже самое можно сказать, что нет никаких сеошников, контекстологов, smm-щиков - есть только вебмастера с готовностью применить те или иные навыки. 

Я же довольно демократично к этому отношусь, принимая даже более узкие специализации, такие как авитологи, зенноводы, специалист по e-mail рассылкам.

Знаю людей, которые уже несколько лет занимаются и зарабатывают только этим, выпуская при этом курсы и обучающие материалы.

Устраивать горячие споры и непримиримые дебаты, на мой взгляд, пустое занятие :)

Osmxnxn :
Подскажите, существует ли сервис, который показывал бы по каждой странице сайта динамику изменений. В метрике это делать неудобно. Хотелось бы следить на какой странице начал падать трафик за определенный период, а на какой расти. 

Используйте данные Вебмастера.


Всего: 12570