Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

S3
На сайте с 29.03.2012
Offline
394
#2341
наконец дошли руки пощупать хваленый qwen3-8 локально. Прошка вполне позволяет запускать докально квантованную модель на 8/16 Гиг. Решил  ударить сразу с двух стволов - через ollama для подключения в VSCode через Continue  и собственно чат через LMStudio. выкачал модель настроил - работает без тормозов. Метал отдает 25-30 токенов в секунду, с тестовыми задачами справился норм. думаю вполне можно попробовать его как альтернативу для разработки. 
Про LMStudio напишу как потестирую

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий