Я бы ещё уточнил, что ИИ это по сути просто напросто улучшенный поисковик, база данных, книга с закладками, быстро открыл нужную инфу и всё. Всем известный тутошний персонаж нахваливавший агентов, наделавший с помощью них говно поделок, когда ты ему описал массу недочётов в них, так наверное и не понимает, что нет в мире такой волшебной палочки, которая бы всё за него сделала и при этом идеально. Во всё нужно в первую очередь самому вникать как что делается и делать тоже самому. Может конечно прогресс и дойдёт до того, когда компьютеры смогут решать задачи создания проекта с ноля, но пока до этого ещё очень далеко ИМХО.
Как ты вообще дожил-то до своих лет.. даже сам переварить моё сообщение не смог, использовал ИИ 😁
Во-первых, я ответил на ранее заданный мне вопрос чём существующие движки ИИ меня не устраивают. Во-вторых, обучение модели выполняется один раз, ну уменьшили они скорость и потребление ресурсов, в итоге работа генерации осталась прежняя с высокими требованиями в вычислительным мощностям.
ЗЫ. В третьих, научись лучше думать своей головой, а то деградируешь не по дням, в по часам уже..
Это не поможет ИМХО, есть пределы вычислительных мощностей и за них никак не перескочить.
Ты спрашивал в чём существующие модели меня не устраивают. Я уже ответил, тем что они требовательны к вычислительным мощностям. Если ты не в курсе, то существующим LLM нужно просчитывать все эмбендинги всего словаря, а это несколько сот тысяч для каждого следующего слова в ответе, то есть миллиарды операций вычислений. Да есть алгоритмы уменьшающие, но всё равно головному движку приходится перепроверять и если отклоняет вероятность, то запускать дочернюю нейросеть для поиска новой вероятности и тд.
ЗЫ. Короче проблема ИИ сейчас это очень много вычислений, то есть требовательные к вычислительным мощностям и распределить это на несколько машин тоже проблемно. Упс. Ждём квантовые компьютеры.
Мне твой челендж не интересен просто. Логирование да ещё и с ИИ, лично мне без надобности, ты по ходу часть своей работы хочешь переложить на других. Короче занимайся, занимайся..
ЗЫ. Лично я делаю мини-LLM для персональных ПК, которую можно заточить под ускую специфику. Онлайн сервисы это хорошо, но многие задачи можно решать и локально без надобности использования сторонних API. Таких сейчас движков для ИИ нет, Ollama не в счёт(поюзал.. и опять убедился, что надо делать своё), не подходит для тех задачи какие я хочу делать.
Вот проблема-то.. оказывается истина остаётся верной и при использовании ИИ. Хочешь сделать хорошо, делай сам!
ЗЫ. Только глупцы могут надеятся, что генерация по теории вероятности будет делать всё идеально 🤭
🫣
ЗЫ. Такое в чате ИИ генерируется за несколько секунд, ты так по ходу и сделал, подчерк ИИ сразу видно. Я тоже таких кучу уже наделал, вот только это не ИИ движок, а примитивный пример для понимания основ.
Во-первых он написан на C++ да это скорость, но она сопряжена с риском сбоев, утечек памяти и тд. и тп. хотя у него есть возможность использовать графический процессор, если его использовать по скорости он примерно будет почти как Rust, но требователен к памяти. Во-вторых, пайтон это накладные расходы для скорости, преобразование типов переменных и прочее, замедление не хилое, для полезной работы остаются 10-20% времени. В-третьих, даже если его использовать через обёртку tch-rs в самом Rust, то первый пункт останется(риски утечек памяти, хотя в современных версиях это поубавилось, а мы помним как раньше чаты висли, но всё равно C++ остаётся не безопасным). Ну и тяжелый он, 2-3 гига вроде если с CUDA.
ЗЫ. Но для тебя это всё равно пустой звук, тебе главное пару строк на пайтон написал и всё в ажуре..
Естественно 😀 ты в своём репертуаре, гуглить тебя хлебом не корми 😁
ЗЫ. Мне не интересно использовать уже готовые инструменты, я в них всегда вижу кучу недостатков. Знаю про разные фреймворки для ИИ, когда ищу примеры реализации или у того же ИИ спрашиваю как что работает, а можно ли сделать по другому и тд. попадаются примеры с использованием готовых фреймворков. Но они мне не подходят. Опять же если я буду делать так же как у других, то какой смысл вообще это делать, получится тоже самое и я потрачу на это уйму времени. У меня задача иная, придумать лучшие подходы и сделать лучше чем у других. До тебя это никак почему-то не доходит, хотя я об этом уже говорю тебе несколько лет.
