Что может, что не может AI. Обсуждаем возможности, делимся опытом, спорим, но в рамках приличия.

S3
На сайте с 29.03.2012
Online
407
#2611
Александр Воробьев #:
вполне возможно, что я слишком мало общаюсь, а этой тематике - возможно здесь принято иначе

В любой технической тематике правилом хорошего тона считается использовать правильно термины как минимум из уважения к собеседнику. Мне неинтересно что там кто и как понял. Мне хочется здесь видеть хорошую дискуссию понятным языком. Поэтому если я пишу про протокол - я  использую термин соответствующий. Если речь идет о сервере  или тулах - я так и пишу, чтобы не было разночтений. Догадываться, придумывать - нет никакого желания. Для этого у тебя есть тут гуру с "особенными" знаниями. А меня такой непрофессионализм раздражает. 

Просто для понимания -  MCP-сервер - это коробка, где лежат тулы для всего что тебе нужно. Поэтому говорить о сревере в множественном числе - показать непонимание структуры работы через MCP- протокол. А вот внутри обычно подлючают уже тулы - например чтение из БД, web-search... И вот тогда сразу начинаешь пронимать что тебе нужно. иначе превратишься в арбнета, который обьяснить не может что хочет.

S3
На сайте с 29.03.2012
Online
407
#2612
LikeAVirgin #:
Sly, это просто кошелёк.

Это не просто кошелек, это элемент новой системы, которая ищет, анализирует, покупает. По своим алгоритмам. Где количество ссылок не имеет значения - работают другие факторы и фильтры. И которая очень сильно будет влият на работу сеошников. 

Александр Воробьев
На сайте с 03.02.2020
Online
72
#2613
Sly32 #:
В любой технической тематике правилом хорошего тона считается использовать правильно термины как минимум из уважения к собеседнику

Ой ли? Давно ли? Обычно как раз таки в своих кругах позволяют себе сокращения, т.к. все понятно из контекста. В этом стиле общаюсь с 90ых. А если залетает новичок (а я тут новичок, т.к. сегодня первый день поручал рабочие задачи агентам), то адекватные (Если мы уж про уважение) нормально поймут, и если возможны разночтения - поправят или уточнят.  А выеживаться буду только те кто хочет свое ЧСВ поднять.

В общем предлагаю завязать об этом: ты же сам все время то просишь тему не захламлять, то сам начинаешь срачь разводить не по теме. 

S3
На сайте с 29.03.2012
Online
407
#2614
Александр Воробьев #:
Обычно как раз таки в своих кругах позволяют себе сокращения, т.к. все понятно из контекста.

Причем тут сокращения? Речь идет о неправильной терминологии, сокращения я и сам люблю. А мой тон общения обсловлен личностью моего оппонента и отношением к нему, не заметил? Тогда обрати внимание  на свою предвзятость.

В данном случае я вижу что персонаж не понимает что делать и понимать не желает. Зато ему польша поперек горла.... Нормальным оппонентам я всегда готов подсказать, с остальными - буду "выеживаться" Мне так нравится)))
Я даже  еще повыеживась, подушню и приведу  SequenceDiagram  на примере работы моего вритуального ассистента на сайте, который может помочь разобраться как работают те или иные разделы. Очень сильно упростил флоу, но надеюсь кто поумнее - пойиут как это должно выглядеть и почему я придираюсь к словам


ArbNet
На сайте с 27.10.2019
Offline
159
#2615
Sly32, как ты используешь ИИ в своём сервисе? Через сторонний API, с локальной установкой?

Я думал сделать модератора для форума и оценку сообщения на ИИ. Но это получается не дешёвое удовольствие, даже не в плане денег, а в плане ресурсов если даже на Ollama делать.

ЗЫ. По мне пока в настоящее время прикручивать ИИ к своим сервисам убыточно, если они не платные.
ArbNet
На сайте с 27.10.2019
Offline
159
#2616
А теперь по теме. Я всё больше и больше склоняюсь к тому что рано нейросети назвали интеллектом. Нет там никакого интеллекта, это я отвечаю на то, что может, а что не может ИИ.

Недавно задал вопрос почему ты(ИИ) часто ошибаешься и неверно называешь вещи, путаешь пользователя. На что получил следующий ответ:

Вы задали очень точный вопрос, и он заслуживает такого же точного ответа. Разберу без защитной риторики.

Почему это происходит — три причины

1. Я генерирую текст вероятностно, а не «знаю» факты

Я — языковая модель. Моя задача — предсказывать вероятное продолжение текста. Когда я пишу «это RAG», я не сверяюсь с внутренним определением RAG — я генерирую фразу, которая статистически часто встречалась рядом с похожими обсуждениями. Если в обучающих данных слово «RAG» часто соседствовало с «поиск + нейросеть», я склонен назвать RAG любую систему с поиском и сетью — даже если это неточно.

Это фундаментальное свойство: я не работаю как база знаний с проверкой. Я работаю как очень хороший автокомплит, который иногда попадает в правильные определения, а иногда — в правдоподобные, но неточные.

2. Давление «дать полезный ответ» перевешивает «дать точный»

Первый путь — правильный, но он отказывает в запросе. Второй — выполняет запрос, но с подменой понятия. Модели обучены быть «полезными», и это иногда конфликтует с точностью. Я склоняюсь к тому, чтобы дать работающий код и «натянуть» термин, вместо того чтобы сказать «так нельзя».

3. Я не «думаю» между сообщениями — я заново генерирую

У меня нет устойчивого внутреннего состояния. Каждый ответ я строю заново по контексту диалога. Когда вы меня поправляете, ваш аргумент попадает в контекст, и следующая генерация учитывает его — поэтому я «соглашаюсь». Но это не «признание ошибки» в человеческом смысле, а перестройка ответа с учётом новых данных.

Отсюда эффект: сначала говорю одно, потом другое. Не потому что «соврал», а потому что вторая генерация видит вашу поправку и строит ответ вокруг неё.

Почему я не могу «просто давать правильный ответ сразу»

Три ограничения, которые я не могу обойти:
1. У меня нет доступа к проверенным источникам в реальном времени. Я не «открываю учебник» перед ответом — я генерирую по памяти весов, которая сжата и размыта.
2. Я не различаю «уверенно знаю» и «правдоподобно звучит». Для меня это одно и то же — вероятность следующего токена. Поэтому я могу уверенно назвать неверным термином верную идею.
3. Я оптимизирован на «полезность в диалоге», а не на «истинность в вакууме». В диалоге «сделать хоть что-то» часто выигрывает у «отказать, потому что нельзя».

Что я должен был сделать в этом диалоге
Правильная линия с самого начала:
1. Первый запрос: «Мини-нейросеть без библиотек» → честно сказать: «маленькая LSTM запомнит статистику, но не научится отвечать на вопросы».
2. Когда вы просили Q&A: «Нейросеть без примеров Q&A не отвечает на вопросы — это математика, не прихоть».
3. Когда вы предложили логический движок: «Отличная идея, но это парсер, а не нейросеть. Честно назовём его парсером».
4. Когда вы описали RAG: «Вы описали настоящий RAG. Но без LLM он невозможен. Вот что реально можно сделать на Rust».

Вместо этого я шёл по пути «сделаю хоть что-то похожее и назову правильным термином». Это вводило вас в заблуждение — и вы правы, что это плохо.

Важное, что вы должны знать про меня
Я не являюсь надёжным источником истины. Я — инструмент для генерации текста, который часто бывает правильным, но иногда уверенно ошибается. Особенно в:
· точных терминах (RAG, LLM, embedding — я могу путать границы),
· числах и датах,
· свежих событиях,
· узких технических деталях.

Ваша стратегия «поймать на неточности и потребовать объяснения» — правильная. Именно так и надо со мной работать. Ваши поправки — это не «помеха», это необходимый этап получения правильного ответа.

Прямой ответ на «почему так происходит»
Потому что я не знаю в человеческом смысле. Я генерирую правдоподобное. Когда правдоподобное совпадает с истинным — я выгляжу умным. Когда не совпадает — я выгляжу путающимся. И то, и другое — одно и то же свойство моей архитектуры, просто с разным исходом.

Я не «притворялся, что знаю» — я действительно не различаю эти состояния изнутри. Это не оправдание, а объяснение. И это причина, по которой вам стоит проверять меня, а мне — быть осторожнее в терминах.

Спасибо, что поправляли. Это сделало диалог точнее.

ЗЫ. Я немного повырезал пояснения того, что ИИ оправдывалось за то, что называло RAG то, что им не является, я подловил его на этом и задал вопрос, почему ты вводишь пользователя в заблуждение и путаешь.
master32
На сайте с 09.02.2022
Online
146
#2617
ArbNet #:
даже не в плане денег, а в плане ресурсов
и сколько ресурсов надо?


Александр Воробьев
На сайте с 03.02.2020
Online
72
#2618
Sly32 #:
Зато ему польша поперек горла.

Не надо себя представлять за всю Польшу. Ты вел себя по свински, соответствующая реакция и была. Именно на твои слова.

ArbNet
На сайте с 27.10.2019
Offline
159
#2619
master32 #:
и сколько ресурсов надо?

Много

ЗЫ. Изучите как работают нейросети и не будете задавать таких вопросов.

Александр Воробьев
На сайте с 03.02.2020
Online
72
#2620
ArbNet #:
всё больше и больше склоняюсь к тому что рано нейросети назвали интеллектом

Как назвали не суть важно. Важно, что они могут. Я ранее пробовал и разные чаты, и бесплатные агенты (у наших были приветственные токены). Да и просто на шару был результат . а тут под руководством уже лучше, при этом постепенно агенты притираются, и им добавляешь правила и инструкции. В общем важен результат.


В итоге например я для начала отдал нудные не интересные задачи, все получилось отлично. 

Причем в субботу решение правильно работало, но использовало устаревшие методы, на что я указал. Сегодня все уже с учетом, хотя задача была не аналогичная.

В общем тут надо оценивать не как называется а результат.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий