Определить посещение бота

12
Antonsad
На сайте с 07.05.2008
Offline
147
2683

Доброго всем дня, подскажите как посмотреть , скорее всего через SSh, посещение ботами сайтов на сервере и какие именно сайты посещает. через top c видно на какие сайты нагрузка идет (боты шарятся) а вот какого поисковика не могу понять.

Спасибо.

Нужна декоративная отделка?- Декоративные материалы (loft-krym.ru) , работаем по Крыму!
Rimlyanin
На сайте с 22.02.2006
Offline
200
#1

логи.

10ть, однако.

Antonsad
На сайте с 07.05.2008
Offline
147
#2

ну в логах то понятно, а в каких именно?

Himiko
На сайте с 28.08.2008
Offline
560
#3

В логах сайтов похоже :)

Профессиональное администрирование серверов (https://systemintegra.ru). Круглосуточно. Отзывы (/ru/forum/834230) Лицензии (http://clck.ru/Qhf5) ISPManager,VDSManager,Billmanager e.t.c. по низким ценам.
Antonsad
На сайте с 07.05.2008
Offline
147
#4

ну почему же в логах сайтов, бот то ломиться на сайт а сервер это фиксирует в логах своих, вот только в каких логах смотреть с какого IP заходили на сайты?

Rimlyanin
На сайте с 22.02.2006
Offline
200
#5
Antonsad:
ну почему же в логах сайтов, бот то ломиться на сайт а сервер это фиксирует в логах своих, вот только в каких логах смотреть с какого IP заходили на сайты?

ну смотреть однозначно в тех логах, куда это записывается....

Antonsad
На сайте с 07.05.2008
Offline
147
#6

/log/nginx/access.log вот тут можно найти всех ботов которые посетили сервер, там же какие конретно стр они просматривали....

Himiko
На сайте с 28.08.2008
Offline
560
#7
Antonsad:
ну почему же в логах сайтов, бот то ломиться на сайт а сервер это фиксирует в логах своих, вот только в каких логах смотреть с какого IP заходили на сайты?

В логах сайтов и прописано, с какого ip заходили на сайты.

Himiko добавил 22.02.2011 в 17:49

Antonsad:
/log/nginx/access.log вот тут можно найти всех ботов которые посетили сервер, там же какие конретно стр они просматривали....

И там есть. Здесь тот же лог посещений сайтов, только общий.

В зависимости от настроек на сервере этого файла может и не быть или там может быть далеко не всё. (если запросы к apache к примеру не логируются nginx'ом)

Antonsad
На сайте с 07.05.2008
Offline
147
#8

Himiko верно, но мне нужен был именно общий стат посещений ботов, так как для снятия нагрузки с сервера была установлена задержка одновременного посещения сервера с одного IP. я и хотел глянуть на сколько меньше стали ходить боты с таким ограничением.

Himiko
На сайте с 28.08.2008
Offline
560
#9

Правильный путь - это корректные задержки через robots.txt, имхо.

А настройки на стороне сервера могут легко "помочь" сайту вылететь из индекса.

Antonsad
На сайте с 07.05.2008
Offline
147
#10

Himiko а не подскажите максимально допустимые настройки в robots.txt в этом деле?

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий