Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Да, я писал об этом выше. Не надо отвлекать высший разум мелочами.

Какие ограничения, какая скорость работы?

Какие цены при большом количестве запросов?

я всегда удивлялся малообразованным людям, считающим устройства типа Умные Колонки Яндекс с Алисой , одушевленными...

ну нету в нейронных сетей разума, души... это сущей воды недетерминированный алгоритм... который по большому счету так и не научили.. что такое хорошо и что такое плохо... 

вот и сходят с ума.... алгоритмы самообучения... будучи неспособными ориентироваться на идеалы человечности... 

Людям с архаичным религиозным сознанием необходимо наличие сверхествененных сил, которые будут упрощать их бренное бытие.

Чат жопити выполняет роль аналога оракула и духовного гуру.

Так проще. И дальше будут молиться на процесс «поумнения» полупроводника.

Именно потому что встроенная, ей невозможно управлять. С помощью ГР можно дообучать простые модели и менять веса ответов, но это всего лишь приближение к возможностям того же ГПТ.  Типа "умный SLM для бедных ". Ну и для этого нормальная видюха нужно от 8 гиг ВРАМ

до обучения руки не дошли, пока только лоры с фейссвапами тренил,
все настолько быстро устаревает, что не имеет смысла использовать локальные модели, когда по апишкам и дешевле и свежее
так то я запускаю локально 30в 16fp и 70в квантованную до 4-8 abliterated модели там без цензуры)

Это точно. Я написал себе АИ сервис на локальной модели gemma3, под нее машина нужна с минимум 6ГВ оперативы. Дешевле 1М токенов за 40 центов купить и радоваться жизни. 

А на какой машине?

у меня их парк в придачу риг из 4090, хотелось бы парочку н100 по 80 гиг, или ртх6000 48, но чтот дорого)
для меня сейчас evo-x2 самый топ для llm по эффективности с энергопотреблением