Инструмент для мониторинга Яндекс бота

12
Антоний Казанский
На сайте с 12.04.2007
Offline
780
2634

Здравствуйте, господа.

Интересует программный инструментарий для четкого определения и ведения статистики - когда, с какой периодичностью и сколько раз на сайте появляется Яндекс робот. Я понимаю, что, как вариант, можно поизучать лог сервера и оттуда выловить эту информацию, но мне нужен более удобный и автоматизированный инструмент. Можно платный.

p.s. Информационная строка в Yandex.Webmaster - Дата последнего посещения сайта роботом xx.xx.xx считаю необъективной, ибо выдает усредненные значения.

√ SEO продвижение ► https://akazansky.ru - экспертный аудит сайтов ( https://akazansky.ru/audit-sajtov ), внедрение эффективных решений цифрового маркетинга. Разговоры о SEO и не только: культурно, вежливо, доброжелательно ► https://t.me/seotusovochka
Белый Ум
На сайте с 27.04.2009
Offline
251
#1

+1 и эта программа должна различать всех поисковых ботов, показывать путь бота по сайтам, считать статистику.....

Skype: shum_beliy
Fruit
На сайте с 15.07.2008
Offline
166
#2

Закажите парсер лога сервера на фрилансе. Готовых решений, на сколько я знаю, нет.

грац.
На сайте с 13.08.2010
Offline
176
#3

есть же куча скриптов учета ботов, на серче даже продавался помню

грац. добавил 23.11.2011 в 18:09

/ru/forum/375658

бесплатный точнее

S3
На сайте с 18.04.2011
Offline
109
#4

http://www.weblogexpert.com/ - в лайт версии по ботам есть вроде как

N
На сайте с 08.08.2006
Offline
133
#5
anthony_:
Здравствуйте, господа.

Интересует программный инструментарий для четкого определения и ведения статистики - когда, с какой периодичностью и сколько раз на сайте появляется Яндекс робот. Я понимаю, что, как вариант, можно поизучать лог сервера и оттуда выловить эту информацию, но мне нужен более удобный и автоматизированный инструмент. Можно платный.

p.s. Информационная строка в Yandex.Webmaster - Дата последнего посещения сайта роботом xx.xx.xx считаю необъективной, ибо выдает усредненные значения.

Вы никогда на 100% не определите бота Яндекса. Рефа это мелочи. Юникс, лог, греп и все, вот вам все заходы. Но я могу и у себя в мозиле поставить рефу Яндекс бота. Это все балавство, не зная всех айпи. Гадалка

Аналитик
Антоний Казанский
На сайте с 12.04.2007
Offline
780
#6
грац.:
есть же куча скриптов учета ботов, на серче даже продавался помню

грац. добавил 23.11.2011 в 18:09
/ru/forum/375658

бесплатный точнее

Спасибо! То, что нужно! ☝

anthony_ добавил 24.11.2011 в 01:22

Nicola:
Вы никогда на 100% не определите бота Яндекса. Рефа это мелочи. Юникс, лог, греп и все, вот вам все заходы. Но я могу и у себя в мозиле поставить рефу Яндекс бота. Это все балавство, не зная всех айпи. Гадалка

Да уж прям превеликая тайна :) Все боты оф. регламентированы самим Яндексом :)

D
На сайте с 15.04.2011
Offline
12
#7
Nicola:
Вы никогда на 100% не определите бота Яндекса. Рефа это мелочи. Юникс, лог, греп и все, вот вам все заходы. Но я могу и у себя в мозиле поставить рефу Яндекс бота. Это все балавство, не зная всех айпи. Гадалка

Яшка, как бы и сам сказал, что у него их есть, причем много, причем не скажет, но юзер-агент тогда на кой?🍿

ТС, для своих проектов, использую допиленый awstats, выполняет все перечисленое, сколько за последние сутки был тот или иной бот, сколько съел страничек за день, куда заходил во время своег оприбытия на сайте

помимо всего прочего, в принципе отличный анализатор логов веб сервера

Антоний Казанский
На сайте с 12.04.2007
Offline
780
#8
Daveee:
Яшка, как бы и сам сказал, что у него их есть, причем много, причем не скажет, но юзер-агент тогда на кой?🍿

http://help.yandex.ru/webmaster/?id=995329

Первый.

Joker-jar
На сайте с 26.08.2010
Offline
167
#9
Nicola:
Вы никогда на 100% не определите бота Яндекса. Рефа это мелочи. Юникс, лог, греп и все, вот вам все заходы. Но я могу и у себя в мозиле поставить рефу Яндекс бота. Это все балавство, не зная всех айпи. Гадалка

Делаем обратный резолв IP и получаем *.yandex.* у истинного бота Яши

S
На сайте с 10.08.2006
Offline
115
#10
anthony_:

Да уж прям превеликая тайна :) Все боты оф. регламентированы самим Яндексом :)

как вы думаете как поисковые машины вычисляют клоакинг если боты всегда представляются своим именем?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий