- Поисковые системы
- Практика оптимизации
- Трафик для сайтов
- Монетизация сайтов
- Сайтостроение
- Социальный Маркетинг
- Общение профессионалов
- Биржа и продажа
- Финансовые объявления
- Работа на постоянной основе
- Сайты - покупка, продажа
- Соцсети: страницы, группы, приложения
- Сайты без доменов
- Трафик, тизерная и баннерная реклама
- Продажа, оценка, регистрация доменов
- Ссылки - обмен, покупка, продажа
- Программы и скрипты
- Размещение статей
- Инфопродукты
- Прочие цифровые товары
- Работа и услуги для вебмастера
- Оптимизация, продвижение и аудит
- Ведение рекламных кампаний
- Услуги в области SMM
- Программирование
- Администрирование серверов и сайтов
- Прокси, ВПН, анонимайзеры, IP
- Платное обучение, вебинары
- Регистрация в каталогах
- Копирайтинг, переводы
- Дизайн
- Usability: консультации и аудит
- Изготовление сайтов
- Наполнение сайтов
- Прочие услуги
- Не про работу
В 2023 году Одноклассники пресекли более 9 млн подозрительных входов в учетные записи
И выявили более 7 млн подозрительных пользователей
Оксана Мамчуева
Как снизить ДРР до 4,38% и повысить продажи с помощью VK Рекламы
Для интернет-магазина инженерных систем
Мария Лосева
Вот я знаю как создать и натренировать модель простую в Pytorch. Что не так, раз тебя не устраивает этот фреймворк? Вот прям на пальцах - где есть место, которое ты можешь улучшить?
Я имею очень поверхостное представление об обсуждаемой вами тематики. правильно ли я понимаю, если проводить аналогии с веб разработкой: это [создание своего фреймворка в этой области] как при задаче создать новостной сайт начать с создания своего вебсервера?
Во-первых он написан на C++ да это скорость, но она сопряжена с риском сбоев, утечек памяти и тд. и тп. хотя у него есть возможность использовать графический процессор, если его использовать по скорости он примерно будет почти как Rust, но требователен к памяти. Во-вторых, пайтон это накладные расходы для скорости, преобразование типов переменных и прочее, замедление не хилое, для полезной работы остаются 10-20% времени. В-третьих, даже если его использовать через обёртку tch-rs в самом Rust, то первый пункт останется(риски утечек памяти, хотя в современных версиях это поубавилось, а мы помним как раньше чаты висли, но всё равно C++ остаётся не безопасным). Ну и тяжелый он, 2-3 гига вроде если с CUDA.
скорость, но она сопряжена с риском сбоев, утечек памяти и тд.
риск ≠ утечка. Все проблемы плюсов известы, и в конкретно Pytorch нет никаких утечек, а наоборот, максимальная оптимизация по памяти
Во-вторых, пайтон это накладные расходы для скорости, преобразование типов переменных и прочее, замедление не хилое, для полезной работы остаются 10-20% времени.
Полная чушь. Там пайтон - только удобная оболочка, все считается в С++, на пайтон может 5% процентов
В-третьих, даже если его использовать через обёртку tch-rs в самом Rust, то первый пункт останется(риски утечек памяти
Почитай, что решает tch-rs и для чего он.
Ну и тяжелый он, 2-3 гига вроде если с CUDA.
Вот именно - с CUDA. И Rust здесь никак не помогает - все равно нужно использовать CUDA.
По итогу - никакого прироста не даст переход на Rust. Из полезных кейсов, что мне известны - это токенизация на Rust. Hugging Face ее давно используют у себя.
Все остальное - пустые слова. Pytorch - известный продукт, над которым работают большие команды. В этом его сила. Тот же JAX - хорош, но нет такого же коммьюнити.
Главное что я понял - ты вообще не понимаешь математики построения моделей. И поэтому не понимаешь что Раст никакого волшебства не даст. Более того, все это опробовано давно.
Ты опять паяешь транзисторы там, где надо просто сложить 2+2.
У меня задача иная, придумать лучшие подходы и сделать лучше чем у других.
Нет у тебя такой задачи, для этого знания нужны. И впервые слышу чтоб кладовщика просили улучшить ЛЛМ))
ArbNet , появилась идея. Фрейворк свой ты все равно не допилишь, давай изменим задачу.
AI logs analyzer - умный анализатор логов.
Суть идеи - создается простая модель класса nanoGPT. То есть по сути - трансформер. Обучается на реальных логах.
умеет:
Это не такой долгоиграющий проект , примерно на месяц, если с запасом. В итоге отдаем свои модели в общий доступ, народ тестирует, сравнивает.
Как тебе идея - готов? А то от тебя слов много. давай к делу? Я готов поучаствовать, все желающие тоже приглашаются.
Так вообще то давно модульный подход известен.
Я же не пишу, что не известен. Даже аббревиатуру добавил HMVC. Я пишу про фреймворк, который автор разрабатывает. Что бы в нем интегрировать данный подход. Я бы использовал в новом проекте.
Я же не пишу, что не известен. Даже аббревиатуру добавил HMVC. Я пишу про фреймворк, который автор разрабатывает. Что бы в нем интегрировать данный подход. Я бы использовал в новом проекте.
Мне кажется это везде такой подход используется. Возможно с вариациями, но в целом. Мне кажется это только если кто то на конкретном проекте или прототипе иначе подходит к вопросу.
Согласен, де факто стандарт. Но не для ллм) чтобы агент следовал этому, приходится обучать, иначе пихает все в кучу
Согласен, де факто стандарт. Но не для ллм) чтобы агент следовал этому, приходится обучать, иначе пихает все в кучу
ну тут и вопрос мне и изначально тема не про LLM. Соответственно и речь про веб фреймворк. :)
Не забрасывая основного направления челенджа. Я решил написать свой ML движок. Получилось как нефиг делать. Не имеет ни каких проблем с памятью и быстродействием (потенциально будет работать с огромной скоростью даже на 386 архитектуре). Доделать осталось самую малость. Ну и естественно на Rust