Mac Studio M5 Ultra 512gb ram, ждем?

12
Mik Foxi
На сайте с 02.03.2011
Offline
1257
1169
Кто ждет выхода Mac Studio M5 Ultra 512gb ?  будем брать? Чтоб не юзать облачные ИИ, а все запускать локально. Но если 512 не выйдет, а будет 256, то я расстроюсь, это мало и на перспективу не перспективно.
Антибот, антиспам, веб фаервол, защита от накрутки поведенческих: https://antibot.cloud/ (8 лет на защите сайтов).
Vladimir SEO
На сайте с 19.10.2011
Offline
2134
#1

так отложен же до конца года

и что ты будешь на нем варганить ? стоимость у него классная))

Эксперт по продуктам Google https://support.google.com/profile/58734375 ᐈ Продвижение коммерческих сайтов https://kulinenko.com/ Лучший Индексатор https://2index.ninja/?from=3266
Mik Foxi
На сайте с 02.03.2011
Offline
1257
#2
Vladimir SEO #:

так отложен же до конца года

и что ты будешь на нем варганить ? стоимость у него классная))

да скорее всего на осень откладывают, есть время подкопить )) 

все тоже самое что в клавдии и чатегпт, в 256+ гигов влазят уже все современные модели. вангую что в этом году локальные будут все делать не хуже текущих версии облачных сервисов. у них по сути идет отставание месяца на 3-4 по качеству.

но если больше 10к, то я еще подумаю, надо ли он мне и не проще ли купить от амд AI Halo, у них там тоже намечаются интересные модели.

Vladimir SEO
На сайте с 19.10.2011
Offline
2134
#3
Mik Foxi #:
будут все делать не хуже текущих
так а что ты такое там делаешь важное за 10к евро ?
Mik Foxi
На сайте с 02.03.2011
Offline
1257
#4
Vladimir SEO #:
так а что ты такое там делаешь важное за 10к евро ?

😀 токены трачу. но это 200-300$ в месяц легко тратится даже толком ничего не делая. 

а локальный это безлимитный апи, без цензуры (некоторые вопросы локальные без цензуры решают лучше клавдии).

облачные будут все равно очень скоро все сильнее дорожать и лимитироваться.

если придумать чем занять круглосуточно, то на отрезке в года 2-3 "инвестиции" в локальный окупятся.

Vladimir SEO
На сайте с 19.10.2011
Offline
2134
#5
Mik Foxi #:
но это 200-300$ в месяц легко тратится даже толком ничего не делая. 

у меня ноль) 

Mik Foxi #:
если придумать чем занять круглосуточно, то на отрезке в года 2-3 "инвестиции" в локальный окупятся.
согласен
htexture
На сайте с 29.05.2017
Offline
231
#6
Mik Foxi #:

да скорее всего на осень откладывают, есть время подкопить )) 

все тоже самое что в клавдии и чатегпт, в 256+ гигов влазят уже все современные модели. вангую что в этом году локальные будут все делать не хуже текущих версии облачных сервисов. у них по сути идет отставание месяца на 3-4 по качеству.

но если больше 10к, то я еще подумаю, надо ли он мне и не проще ли купить от амд AI Halo, у них там тоже намечаются интересные модели.

А что за требования к пк у локальных аишек?
Mik Foxi
На сайте с 02.03.2011
Offline
1257
#7
htexture #:
А что за требования к пк у локальных аишек?
самое главное, чтоб вообще заработало, база модели должна целиком + небольшой запас, влазить в видео память. 
B
На сайте с 18.05.2023
Offline
65
#8
когда что-то уровня gpt 5.5 thinking появится локально, под это стоит купить любое железо. Давно искал повод такую штуку приобрести )
Mik Foxi
На сайте с 02.03.2011
Offline
1257
#9
Barrboss #:
когда что-то уровня gpt 5.5 thinking появится локально, под это стоит купить любое железо. Давно искал повод такую штуку приобрести )

для кодинга в конце прошлого года вышло прорывное gpt обновление, сейчас аналоги локальные вообще в 32 гб памяти умещаются. чтоб сравниться с опус 4.6 - надо пока 128 памяти. т.е. отставание идет в считанные месяцы.  и именно под программирование есть спрос, будут обучать спец прогерские модели полюбому.

если просто для анализа кода на уязвимости и недоработки, так локальные с убранной цензурой рвут опус 4.7, находят больше проблемных мест в коде, на которые стоит обратить внимание.

Mik Foxi
На сайте с 02.03.2011
Offline
1257
#10
в 32 гб видео памяти влазит и норм работает по качеству из того что попробовал:
bartowski/cerebras_Qwen3-Coder-REAP-25B-A3B-GGUF - в целом в программировании соображает.
unsloth/Devstral-Small-2-24B-Instruct-2512-GGUF - для агентского программирования норм.
bartowski/DeepSeek-R1-Distill-Qwen-32B-abliterated-GGUF - для программирования и особенно для секьюрити-аудитов.

12

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий