MrPi

Рейтинг
26
Регистрация
05.05.2025

Еще немного и сделаете https://github.com/sigoden/aichat

Но, если есть реальное желание сделать, что-то хорошее, удобное, то лучше всего направить ресурсы в сторону оптимизации расхода. К примеру те же запросы на русском языке в среднем на 25% едят больше токенов чем на английском. Сделать интеграцию с веб чатом для структурирвоания промптов,  т.к. модели лучше понимают цифры, а люди выражают мысли. там много над чем можно поработать и сделать реально хорошую токеномику. Недавно новость была, юзер с реддита сделал типа аналог фотошопа потратив 2000$. Но продукт мягко скажем не очень. Вот было бы неплохо добавить систему предсказания сколько тот или иной проект потребует токенов выбрав тот или иной ЯП(от него тоже зависит потребление токенов), используя промпты на тот-то языке. Включение или отключение рассуждений, использование кэша. Статистика уже собрана достаточно большая по проектам. Вот для вайб кодеров и не только, было бы незаменимо. решил сделать очередной фотошоп, расчет выдал 2000$ на клоде, 3500 на GLM 5.2. Прикинул и не стал делать))

Александр Воробьев #:
Какой ужас.

В чем? Для пет проекта или апишки нормально. Ну, либо 2000р в месяц +- такая же конфигурация. 

Российские хостеры в массе своей, скажем так, обнаглели. Даже в европе дешевле уже взять. 

WIKIMEO #:
Что за муть и для кого?
В смысле муть? Для телеграм, небольших Api, для пет проектов. Postmarket OS накатили, среду установили, экран погасили, обходную зарядку настроили и пусть висит в фоне. 
Просто берете хороший vpn за 2000р+ в год, берете телефон с soc snap 870, например poco x3 pro за 5000р, и поднимает лёгкий сервер. Примерно как n100 чипсет +12гб быстрой памяти(конечно уступает nvme но всё же + 256гб жёсткого диска. Стабильный wifi. Убиваете фоновое, ставите по, радуетесь запуску пет проектов. 
Для нагрузки конечно лучше минипк n100, n150, но можно и так.
Sly32 #:
AI-агент Мона управляет настоящим кафе в Стокгольме. Не советами по меню — арендой, электричеством, наймом персонала, разрешениями властей.
Агент  подписала контракт на электричество, оформила пожарную документацию, наняла бариста через LinkedIn — отказав кандидатам с PhD за нехватку опыта в кофе. Всю остальную бюрократию тоже процессит сама.
Не идеально: сотрудники завели "Зал позора" для её странных заказов — 6000 салфеток, 22 кг томатов. Но кафе работает. Стартап Sana.
Граница между "AI помогает бизнесу" и "AI управляет им" уже пройдена. 
Теперь увидеть математику не плохо было бы. сколько потрачено с учетом таких косякв. Обычно кафе могут управлять 3 человека - менеджер, шеф, бухгалтер. с ростом точки - товароведы, администраторы и прочие. вот эти новости чистый кликбейт. 
Vladimir SEO #:
жду, ибо у меня в белых тематиках такого нету вообще 

Хотел посмотреть 3икса фильм, повторно с Вин Дизелем. Прям топ 1 часть. И вот вбил в Гугл xxx. Выдало явно не этот фильм

nikdiv #:

market.yandex.ru/card/google-ai-pro-18-mesyatsev--5tb---aktivatsiya-na-lichnyy-google-akkaunt/6172713864

138 р.

vpn всё равно нужен. Хотя там дают какую-то мутную схему с dns, я не стал.


С остальными ИИ ещё сложней, нужно искать кто оплатит, за это берут приличные комиссии.

Это схема для индийских студентов. Там бесплатно можно оформить. 

UnderDDoS #:
а почему вы читаете, что опенсорс модели лучше? У меня личной видеокарты нет - значит я уже не могу полностью локально поднять, к тому же любая модель реально умная типа Кими К3 или Дипсик v4 поднимается только на мега дорогущем железе.

Cli опенсоурс, не модель. Т е. оболочка агентская. Лучше клода имхо zcode для меня. У него полноценный браузер. В опенкод отличная удаленка, почти лучшая

UnderDDoS #:
ну, системный промпт - это вполне нормально, модели клода меня устраивают в целом
у меня в моем аи сервисе системник где-то 20-30к знаков, от этого никуда не уйти. 
Так никто ничего не пишет. этот тип sly32 вечно пытается со всеми конфронтировать. Я написал ,что лучше юзать опенсорс. Нет выгоды в клауд коде как cli. есть с лучшим кэшированием, открытые. не отсылающие технические логи. Либо VSCode с плагинами
Sly32 #:
Или у тебя совсем плохо с английским или с контекстом или и с тем и с другим вместе. Вот ткни меня прям в то место, где  твой аарон пишет про клод код? Или все таки речь идет про  работу с конкретными моделями Клода? И именно про системный промпт, о котором я говорил ранее? Я напомню контекст беседы тебе, так сказать сделаю /компакт - был вопрос про агенты для работы, мы начали их обсуждать и тут ты ворвался в чат с рассказами о цензуре моделей. Не находишь, что это немножечко не по теме? Цензура будет работать независимо от агента. Да, народ сидит и думает, как обойти, кому-то удается в некоторых вопросах. Но зачем ты это притянул в контексте агентов - мне совесм непонятно.
Ты же пожаловался, что мой пост снесли. Я не вдавался в подробности, первый пост кинул. обновил, смотри
Всего: 550