пики 100% нагрузки, подскажите

Если поймать момент такой повышенной нагрузки, то можно попробовать посмотреть, нет ли большого количества соединений с одного IP, командами наподобие этих (будет отсортировано по убыванию):

netstat -tan | grep SYN_R | awk '{print $4}' | sort -n | uniq -c | sort

netstat -tan | grep EST | awk '{print $4}' | sort -n | uniq -c | sort

Это из самого простого, без установки модулей статистики и прочего.

Надо смотреть на сервер в процессе нагрузки

Проблема может быть комплексной и советы не помогут

Согласен.

Одно может влиять на другое.

Судя по скриншоту в системе есть nginx, но он не нагружен. Весь проц съедает apache2. Также есть другие процессы apache2, но они тоже не нагружены. Если бы был DDOS вы бы видели несколько процессов apache2, которые подъедают процессор. Скорее всего просто машинка не тянет нагрузку.