Т.е. вы хотите сказать, что устанавливаете на один и тот же дистрибутив пакет mysql через apt с репозитория, он потребляет 40Мб памяти, а если вы ЭТОТ ЖЕ пакет скачаете с оф сайта (той же версии, всё совпадает) и установите его через dpkg -i, то тогда mysql жрёт 500Мб памяти?
Что-то это маловероятно.
Если хоть что-то различно, то есть ещё такая штука, как сборка пакета (компиляция), так вот, на стадии компиляции можно отключать ненужные движки, это снизит потребление памяти. Там вообще много весёлых опций.
А как вы считаете память? Может проблема в этом?
Для начала. В /usr/share/mysql обычно есть 4 файла: my-small.cnf, my-medium.cnf, my-large.cnf, my-huge.cnf. Заменяете свой my.cnf одним из этих (открываем, читаем, в каждом расписано на какой объём памяти рассчитан каждый из них).
По умолчанию в моей ОС использовался my-medium.cnf
З.Ы. В сторону MariaDB или Percona не смотрели?