Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Расскажи поподробнее. Я исключительно на своем маке все запускаю, с игрушками типа распберри дел не имел.

а что рассказывать подробнее, поставь на маке и покрути, сам все увидишь, пока сам не пощупаешь не поймешь)
https://github.com/Picovoice/cheetah
единственный минус, что языков мало, русского нет, нативный английский
но это самая эффективная и легкая модель, которая работает, речь же про слабые устройства шла изначально

Легкая, потому что ничего не умеет. Я использую whisper, medium  модель русский распознает очень хорошо. 

его запустишь на простых устройствах, нужен полноценный GPU)
vosk можно затестить, тоже легкий

Он работает без, GPU, сразу предупреждает об этом, там даже в настройках есть:

self.model = whisper.load_model("medium", device="cpu")

Просто медленнее, как говорил, но зато качественно распознает

Про vosk слышал, но не пользовал

ну скорость тоже важна, если это не задачи уровня бекграунда)
https://www.1qubit.de/en/ai/openai-whisper-performance-benchmarks

ну да, там еще можно свою модель обучить на своем голосе, тогда уровень распознавания еще выше становится

я рисовал открытую аппликуху, для использования не только мной. Можно, но это уже нужно заморочиться немного