serp_1, котлы у Вас дорогие.
Для начала, личность - синтетическое понятие, включающее в себя несколько автономных характеристик. Эмоции отдельно, самосознание отдельно, абстрагирование отдельно, и т.п.
Решению проблемы "познай себя" мешает, в частности, одномерность нашего сознания. К примеру, мы не можем параллельно мыслить и обрабатывать результаты взаимодействия внутренней пары "субъект/объект". В результате сознание каждый раз сталкивается с новой личностью, а корректность (да и просто достоверность) предыдущих размышлений о себе оказывается под вопросом.
Кстати, как следствие, мы не сможем отличить ИИ, имитирующий личность, от живого человека. Не будет объективных критериев для оценки. Более того, в силу вычислительной мощи и доступа к миллиардам индивидуальных характеристик машина сможет стать гораздо убедительней обывателя, если ей придётся доказывать свою субъектность.
Как следствие второго порядка, все эти нюансы сильно изменят будущую юриспруденцию. Которой придётся вводить много новых сущностей для чёткого разделения прав человека и прав роботов.
Ну и т.д.
Поскольку человек здесь повторяет природные достижения, то можно предположить, что рано или поздно аппаратная часть будет настолько же пластична и видоизменяема, как и программная. Как мозг, в котором при конкретных упражнениях развиваются определённые нейронные связи. Т.е. под конкретное вычисление ИИ будет создавать конкретную процессорную архитектуру.
ИМХО, это неплохая иллюстрация к невозможности копии личности. Пусть даже ИИ создаст несколько своих аналогов, существенно различающихся по "железу". Ну и что? Это останется тот же набор алгоритмов, заточенных под решение специфической проблемы.
А квантовое там железо, или обычное, или фотоно-гравитационное - какая разница? Личности всё так же не существует.
Здесь не хватает точных определений. Квантовое железо, квантовые алгоритмы, квантовая логика и пр.
Сдаётся мне, что всё это так... тень на плетень. А в итоге будут очередные прикладные инструменты. Причём узкоспециализированные, навроде сквозного шифрования.
Может быть. Тут дело в другом - человек существо целевое, целеполагающее. Способен ставить задачи и добиваться из решения. Кроме того, он обладает самосознанием, абстрактным и образным мышлением, эмоциями, творческими способностями и прочими личностными качествами.
Всего этого у ИИ нет и быть не может.
При наличии нескольких миллиардов человек имитировать можно всё что угодно, с большим запасом. Но, опять же, для ИИ это будет набор формул, а не самоцель. Дали команду - выполнил. И всё.
Для этого ИИ и держат. Но, так сказать, в шарашке.
Существует гипотеза, что самосознание началось с фразы "не буду". Умение отрицать невыгодные вещи явилось толчком к его развитию. Но, опять же, откуда это умение взялось - непонятно. Проще всего объяснить его случайностью, но этот материализм мы уже проходили.
Последовательно. Параллельность мышления - иллюзия. На самом деле мы однозадачны. Но не суть.
Это не имеет значения. Даже если Суперкомпьютер построит исчерпывающую модель Вселенной, где человечество будет погрешностью на фоне метагалактик и тёмных материй, логика его работы останется прежней.
Он даже не поймёт, что эта случайная флуктуация была его создателем. Понималка-то не заложена. И не может быть заложена:
В т.ч. поэтому мы не сможем построить копию себя. Хитрую вычислялку - сколько угодно. Но и только.
Алгоритмы-то останутся прежними.
А какие там пределы? 2+2=4, вот и вся логика. Т.е. предел достигнут Аристотелем (или кто там у нас).
Есть, конечно, области иррациональные, хаотичные, недетерминируемые - но это как раз не для машины. Для машины это ошибка, а ошибка корректируется на уровне железа, в ECC-памяти.
Вот и вся философия проблемы, как по мне.
ИМХО, никто не знает и не узнает. На нашей ступени развития, по крайней мере.
Это всё Голливуд. Напридумывают чёрти чего ради кассы, а народ потом страдай, думушку думай безрадостную.
Ну их. Сами не понимают, чего снимают.
Про ИИ? Думаю, что здесь обычная путаница. Непонятное пугает, а непонимание процессов с итогами, вылезающими из нутра десятка шкафов с лампочками, пугает вдвойне. Так и хочется пристрелить гадину. "Я тебя породил, я и убью". А чего она вумная такая?
Только дело в том, что умение быстро считать по хитрым формулам не означает наличия интеллекта. Путаница. Как математика часть логики, так и калькуляция лишь часть нашего мыслительного процесса. Причём функция относительно молодая. Только при чём здесь разум? И в первую очередь самосознание, которое по голливудской прихоти отождествляют с ИИ.
В общем, бояться тут нечего. Компьютер и мобильный телефон - помощники и средство развлечения. А не терминаторы.
