pavlkonst#: Железо устареет быстрее, чем успеет окупиться на разнице в стоимости токенов. Через год облачные провайдеры выкатят новое поколение с огромным контекстом за копейки, а на руках останется горячий системник за четверть миллиона с урезанной сеткой на 15 токенов в секунду
да это условности, например 2-3 года назад прикупил 4090 за 200к, окупилась ~х8, к сожалению масштабировать не получается, нужен сильный маркетинг, а его нет)
понятие относительное) можно запустить на 5080 квантизированную(урезанную) модель и получить 5-15 токенов в секунуду мимнимальная сборка от 200-250к руб и это не окупается в сравнении с тем, если покупать токены у провайдеров) локально запускать имеет смысл, если у тебя уже есть железо, и урезанная модель уже закрывает какую-то задачу
А смысл? Astra должна была добавить пыльцу единорогов или что в ней "сильней"? Если бы результат был лучше или на тот же результат заметно меньше токенов, то тогда да. А так - получите то же самое, что вчера, только втридорога, потому что мы этикетку перееклели и теперь оно сильно импортное стало.
по агентам вижу что тратится в 4 раза меньше токенов в сравнении с фабл и солой на вначале я скормил и попросил агентов обновить свои инструкции по гайду https://developers.openai.com/api/docs/guides/latest-model лично я в сутки я жру 50-100М токенов при размеренной работе без нагрузки, под нагрузкой это ~500М токенов сутки, и вполне хватает под стандартные задачи
LikeAVirgin#: Попробовала Astra сегодня на своем довольно сложном, но обкатанном Workflow. Принципиально ничего в результате не изменилось, а вот токены сожрал как не в себя, и это для того же результата, который Sol или Sonnet делают. Вернулась в Sol, мне токены не дарят, я их в "поте лица" с подписки выжимаю. 😀
значит где-то что-то не так) астра заметно сильнее солы
затестил новую модель, имба! пустил её в агентов, завтра заценю что сделает)
За морями, за лесами, В царстве с чудо-проводами, Спор о разуме идёт, Будоражит весь народ.
Тут Слай32 дивится: «Скайнет в двери к нам стучится! У машины — новый взлёт; Скоро царство заберёт!» Но медаль за достиженье — Не приказ на истребленье.
Тут АрбНет вступает в пренья: «Всё — одни лишь повторенья! Никакого чуда нет — Лишь чужих речей букет!» Но усвоить общий строй — Не списать ответ чужой.
Тут и юни слово вставил: «Марков цепи нам оставил; Хоть названья поменять — Всё одна и та же стать!» Только сходство описанья — Не мерило дарованья.
Артизан, не зная скуки, Тащит спрута для науки: «Спруту мозг дадим большой — Превзойдёт он род людской!» Вес — не всё: нужна проверка; Ум — не бочка, пуд — не мерка.
Царь сказал: «Довольно спора! Факты — лучшая опора. Кто докажет — тот и прав!» И закрыл окно, устав.
Я уже перестал удивляться твоей детской наивности 😁
Весь так называемый интеллект нейросетей сводится к запоминанию шаблонов текста, действий и тд. человека и др. И по сути просто вычисление вероятностей, повторение этих текстов, действий и тп. Да оно эмитирует и повторяет человека поэтому вызывает у таких как ты доверие, восхищение и прочее...
ЗЫ. Изучи уже наконец как работают нейросети чтобы не выглядеть в глазах тех кто знают хотя бы не таким наивным ребёнком.
Железо устареет быстрее, чем успеет окупиться на разнице в стоимости токенов. Через год облачные провайдеры выкатят новое поколение с огромным контекстом за копейки, а на руках останется горячий системник за четверть миллиона с урезанной сеткой на 15 токенов в секунду
Не стоит . Напишет - тщательно займутся сайтом и в бан полетит
Трафик ровный, всплесков нет.
Можно ли посмотреть, чем вызван такой доход?
ну или это ёдабонус РСЯ)
👉🏼 Будем рады услышать ваши комментарии, предложения и пожелания по работе инструмента.
Интересует комфортная работа
можно запустить на 5080 квантизированную(урезанную) модель и получить 5-15 токенов в секунуду
мимнимальная сборка от 200-250к руб
и это не окупается в сравнении с тем, если покупать токены у провайдеров)
локально запускать имеет смысл, если у тебя уже есть железо, и урезанная модель уже закрывает какую-то задачу
А смысл? Astra должна была добавить пыльцу единорогов или что в ней "сильней"? Если бы результат был лучше или на тот же результат заметно меньше токенов, то тогда да. А так - получите то же самое, что вчера, только втридорога, потому что мы этикетку перееклели и теперь оно сильно импортное стало.
по агентам вижу что тратится в 4 раза меньше токенов в сравнении с фабл и солой
на вначале я скормил и попросил агентов обновить свои инструкции по гайду https://developers.openai.com/api/docs/guides/latest-model
лично я в сутки я жру 50-100М токенов при размеренной работе без нагрузки, под нагрузкой это ~500М токенов сутки, и вполне хватает под стандартные задачи
Попробовала Astra сегодня на своем довольно сложном, но обкатанном Workflow. Принципиально ничего в результате не изменилось, а вот токены сожрал как не в себя, и это для того же результата, который Sol или Sonnet делают. Вернулась в Sol, мне токены не дарят, я их в "поте лица" с подписки выжимаю. 😀
астра заметно сильнее солы
пустил её в агентов, завтра заценю что сделает)
Конечно нет. У человека абстрактное мышление если это вам о чём-то говорит.
Я уже перестал удивляться твоей детской наивности 😁
Весь так называемый интеллект нейросетей сводится к запоминанию шаблонов текста, действий и тд. человека и др. И по сути просто вычисление вероятностей, повторение этих текстов, действий и тп. Да оно эмитирует и повторяет человека поэтому вызывает у таких как ты доверие, восхищение и прочее...
ЗЫ. Изучи уже наконец как работают нейросети чтобы не выглядеть в глазах тех кто знают хотя бы не таким наивным ребёнком.