Юлия#: Вот смотрите: мне на днях один из супермаркетов прислал СМС с приглашением купить пачку сливочного масла за 1,09 евро. А Вы видели, сколько в России стоит сливочное масло?
Sly32#: Да, есть такой greedy decoding (temp=0, top_k=1, top_n=1) тогда ответ будет детерменированным.
с кучей оговорок, конечно, но контекст когда детерминация используется в качестве индикатора надежности, лично у меня много мелких моделей 1b-2b-4b-8b и там воспроизводимость результата очень важна и она возможна, llm это не рандомайзер, как некоторые считают
chaturanga#: задача предсказать следующий токен и это предсказание не будет однозначным
только если ты указываешь параметр рандомайзера, а если рандомайзер зафиксировать, то результат абсолютно всегда будет одинаковым, более того этот результат можно просчитать вручную на бумаге)
chaturanga#: Это не хорошо и не плохо, недетерменированность - это её "нормальность"
наверное многие тут не понимают, но llm это детерминированная система)
Vladimir#: Так а толку, он же мне не даст админить в бурже.
толк в том, что он в белых списках, будет доступно все что доступно из кз, в том числе и "админить в бурже" ребята заворачивают свой персональный ркн в этот гос-ркн, как говорится "береженого Бог бережет", сказала монашка, натягивая презерватив на свечку)
jsmith820 : Привет. Если в РФ заблочат весь шифрованный трафик (даже китаю не удалось, но вдруг). Аренда удалённого рабочего стола в РБ или Казахстане - решение проблемы? Или это работает по тем же протоколам и палится, что и сервис на 3 буквы? Спрашивал ГПТ разные - мямлют, однозначного ответа не дают.
местные специализды говорят что это чушь, могут только весь интернет отрубить, тогда никаких простых решений не будет)
Вот смотрите: мне на днях один из супермаркетов прислал СМС с приглашением купить пачку сливочного масла за 1,09 евро. А Вы видели, сколько в России стоит сливочное масло?
Ну что, как там в Европе, рост цен на всё уже чувствуется ?
Да, есть такой greedy decoding (temp=0, top_k=1, top_n=1) тогда ответ будет детерменированным.
лично у меня много мелких моделей 1b-2b-4b-8b и там воспроизводимость результата очень важна и она возможна, llm это не рандомайзер, как некоторые считают
Математически - да, но ты забыл про sampling, который по факту делает ответы недетерменироваными
Даже если температуру =0 ставить
задача предсказать следующий токен и это предсказание не будет однозначным
Это не хорошо и не плохо, недетерменированность - это её "нормальность"
AI "математически" не допускает этого.
как это понять?
у всех нынешних AI точный математически предсказуемый результат
Так а толку, он же мне не даст админить в бурже.
ребята заворачивают свой персональный ркн в этот гос-ркн, как говорится "береженого Бог бережет", сказала монашка, натягивая презерватив на свечку)
ЗЫ Для госконтор будет внутренний разрешенный випи, скорее всего такой же глючный как и гос сайты
ну и цена будет 300-500р, но потом)
Местные специалисты даже простейшее, что такое DPI не знают
Привет.
Если в РФ заблочат весь шифрованный трафик (даже китаю не удалось, но вдруг). Аренда удалённого рабочего стола в РБ или Казахстане - решение проблемы?
Или это работает по тем же протоколам и палится, что и сервис на 3 буквы?
Спрашивал ГПТ разные - мямлют, однозначного ответа не дают.