А вообще если по теме - неужели от одного ChatGPT ваш сервер может упасть)) У вас что нагрузка там впритык прям.
с которыми планируется делиться рекламной выручкой
А зря, хороший сериал, особенно бодрые первые сезоны про корпоративную грызню лузеров. Да, потом они слегка сбавляют темп и начинается тягомотина, но в целом мне отлично зашло
Отдельный кайф - Гэри Олдман, он в роль небритого шефа вписался как родной, прям напомнил вечно недовольного копа-алкоголика из игры Detroit, один в один типаж) Из-за одной фоновой музыки дропать такой проект точно не стоило
Тут в 15-ром на 1 акке сидят, а вы API предлагаете. Через апи работать - раззоришься. Апи можно если косты за usage дальше по цепочке на клиента перекладываешь.
В той же LibreChat вроде есть встроенная админка с балансировкой. Ставите всем по умолчанию быструю и дешевую модель, которая стоит копейки за миллион токенов, и задаете жесткие квоты. А доступ к дорогой и тяжелой модели даете только двум спецам, которым реально нужен глубокий анализ. Никто не разорится, процесс будет полностью контролируемым
Но хз какие там конечно запросы у команды, просто предложил возможную альтернативу)
