ChatGPT и его последствия для Интернета и распространения информации в целом

Комбинаторики в нейронных сетях нет. Не надо путать с классическим математическим моделированием.

Они «рисуют» только абстракции: жёлтые баклажаны, розовых котов. 

Если нужно хоть чуть-чуть проявить креатива, то нетронки начинает глючить.

Осознавать, распознавать, знать и т.д. возможно при наличии в мозгу большого количества нейронов, образовавших между собой связи.

У ИИ этого просто нет, поэтому они никогда не будут понимать разницы между котом Васькой, который просит жрать, котом в сапогах, мудрым котом, который ходит по цепи на дубе кругом, котом, который гоняется за мышкой Джерри, котом Леопольдом и котом Бегемотом.

Но от своего незнания ИИ все равно будет генерировать чушь. Если нейросеть чего-то не знает, то она стремится обмануть. 

В дополнение.

Спрашиваем,

Получаем ответ,

У нейронки есть один баг, который никогда не излечат.

Она никогда не сможет объяснить: почему был дан тот или иной ответ. Т.е. «обратно» думать она не умеет, чтобы аргументировать свои «решения».

Т.е. она тупее самой блондинистой блондинки, с который ты можешь посмотреть фильм, а потом обсудить детали, возможно, изменить мнение, обменяться впечатлениями, эмоциями, провести аналогии с ситуациями из жизни, других фильмов, книг, узнать в актёрах знакомых и т.п..

Дим, если воспринимать процесс поиска решений не как процесс обдумывания, а процесс поиска по базе наиболее вероятных статистических совпадений, то данный баг отпадает сам по себе :)

Так это просто тупая тварь, которая состоит из генеративных сетей, использующих градиентный спуск. Обратно логику принятия решения отследить невозможно.

Т.е. это вообще не про интеллект, где нужно именно думать, опираясь на полученные знания, которые ты осознаешь.

А главными признаками интеллекта являются возможность самообучения и креативного мышления.

У chatgpt этого нет и не будет, но есть у ребёнка и даже животных, особенно домашних.

А ещё есть эмпатия. Вангую, что первыми жертвами ИИ станут те, которые пойдут выписывать рецепты на лекарства у ИИ. Он их от всего вылечит. В первую очередь, от недостатка ума 😁

Так может это не она... а мы выкладываем слишком много эмоций и ожиданий в то, что по сути является лишь продвинутым поиском? :)

Проблема носит именно принципиальный характер. 

Мда. Почему ИИ, имея все знания мира, умея комбинировать их, до сих пор еще не поставил точку в теории всего из физики, не пришел к однозначной теории происхождения жизни, не спрогнозировал реальное развитие тех или иных систем, не вычислил формулы лекарств, способных лечить болезни. 

Вместо этого мы видим комбинаторику бульдога с носорогом и получается "творчество", которое к реальности и практическому смыслу, рациональности, опоре на законы реального мира отношения не имеет.