Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

Какого конкретно ИИ вы разработчик? Что за модель/проект?

В моём повествовании рубеж - это переходный момент, в котором AI теряет рабочую стабильность и начинает забывает контекст. 

Возможно, это правильно назвать это контекстным окном.

Все так или иначе ограничены финансовым бюджетом, на то он и бюджет, чтобы определять рамки рабочих возможностей.

Платный тариф не является является обоснование того, что мне нужны качественные ответы и на (условно) 50-тый ответ, а не только в интервале первых двух десятков ответов?

Далее, хорошо, допустим, у ИИ есть контекстное окно и оно расширяется на каких-то отдельных финансовых условиях, встречный вопрос - почему это не отрегулировано в явном виде? Почему ИИ не предупреждает, что дальше я стабильно работать не будут, почему он просто указывает, что сам ошибся и дальше продолжает генерировать ответы с теми же ошибками?

на huggingface поищи distill модели и как они разрабатываются
вот такие модели/проекты
потеря контекста типичная проблема, это не рубеж, потому что некоторые успешно решают задачу контекста проекта через RAG системы, тогда следует говорить о размере проекта в строках или токенах
а бюджет можно тратить с умом, или тупо сливать
ответ всегда будет соответствовать качеству модели хоть на 50 запрос, хоть на 50000000000 запрос,
сейчас ИИ это статическая программа, в ней можно повторить свои действия очень точно и каждый раз ответ будет идентичен предыдущей итерации

Я в целом не против идей расширения и декомпозиции. 

У меня по сути сейчас только две большие проблемы (одна из которых нерешаемая в принципе),

1) Совершенно неизвестно в какой момент AI может накосячить

2) AI невозможно призвать к ответственности за результат

Это не проблемы, а вторая — не "нерешаемая", так как нет у LLM субъектности, т.е. это не проблема, а статическое состояние

1. Работать с LLM надо в пресуппозиции "может накосячить всегда и везде", как самый конченый джун
2. Нет деликтоспособности, как и дееспособности и правоспособности — нет и возможности

Это проблемы, потому что в большинстве случаев на AI полагаются не просто как на абстрактный массив данных, а как на интеллектуальный результат, следовательно на него полагаются как на субъект, хоть и безличностный, хоть и безвольный.

Док-во очень простое, предполагается, что AI обладает условным совокупным опытом в рамках целевой задачи.

Никто не смотрит на результат работы AI как на случай бессмысленного рандомайза, где с какой-то долей вероятности можно найти случайно образовавшуюся полезность.

Это уже философия и как говорится, в такую задницу можно вдувать смыслы с любой стороны.

LLM не рассматривается как детский калейдоскоп, который при вращении развлекает причудливыми сочетанием случайно упавших разноцветных камушкофф и их отражением.

На LLM надежда как на практически применимый инструмент и когда в этих результатах AI открыто признается - да, результат не годится, - вот тебе ещё один вариант с такими же отсутствующими гарантиями на достоверность, то, извините, это не может не быть проблемой.  

Проше пана, ну нельзя так! Наличие результата никоим образом не дает генератору этого результата субъектности, потому что для субъектности необходимо 3 перечисленных мной выше условия (насчет "достаточности" я пока не уверен)

1. деликтоспособность
2. дееспособность
3. правоспособность

а этак вы любой рукотворной программе выдадите субъектность, потому что она по факту выполнения дает результат, да еще и предсказуемый

Вот эти обывательские миражи по поводу LLM и надо разгонять из мозгов: "не опыт, а комбинаторика и только на корпусе известного" (ну с точностью тезиса процентов в 95%, не 100)

Я не случайно уточнить, что на него полагаются, как на результат субъектности и не потому что он в привычном смысле им является, а потом что так проще определять AI как явление. В целом, я думаю, это вопрос времени. В предстоящем будущем скорее всего обяжут юридически разделять продукт произведённый с помощью AI (хотя бы для урегулирования вопросов по авторскому праву) и всё остальное. 

Нет, я - не дам :) Это слишком вольный вывод из моих слов :)

Про комбинаторику тоже понятно, но одно дело комбинировать в рамка опыта одного человека, другое дело - общность всех доступных знаний. А обучают LLM не для того, чтобы они быстрее "комбинаторили", а чтобы полнота данных повышала качество ответов. Доступные данные и есть совокупный опыт. Понятно, что по сути, это не человеческий опыт, а просто массив данных из разных источников с разной степенью подверженности. Я на намеренное использую привычные для человеческого сознания понятия, которые помогут "приземлить" применительную практику.

Если бы такой задачи не было, все по прежнему говорили бы про разные степени нейробреда. 

А так добрая часть it-шников уже в лёгкой панике, что их заменят :)