"Почему AI не ускорил программирование, а сменил эпоху — и что с этим делать"

Да ладно? Вы прочитайте про Mythos от Anthropic. За пару дней нашел "дыры" во всем, что только можно. Эти уязвимости никто не мог найти десятки лет.

В том то и дело, что ии очень быстро учится на ошибках, в отличие от человека. И совершенствование идет лавинообразно, еще пару лет назад все смеялись над перлами иишек, сейчас же вы целенаправленно пытаетесь находить ошибки, то есть ошибки уже исключение, а не правило.

Есть снимки, на которых видно всё.
Есть снимки, на которых не видно ничего.
Большинство наших систем теперь — это третья категория: снимки, на которых видно достаточно, чтобы работать, и недостаточно, чтобы успокоиться.

Серый ящик — это не чёрный ящик, где ты не понимаешь вообще ничего.
И не белый ящик, где тебе прозрачно всё, вплоть до последнего регистра.
Серый ящик — это когда ты знаешь назначение модуля, его интерфейс, его ограничения, его поведение на типовых входах, его режимы отказа, его стоимость исполнения и области доверия — но не обязан знать его внутреннюю логику до последнего винтика.

Иногда этого знания достигнуть невыгодно.
Иногда невозможно.
Иногда время, которое ушло бы на внутренний аудит, даст меньше пользы, чем правильно спроектированный внешний контур контроля.

Хирург, ставящий искусственный клапан сердца, не обязан знать, из какого полимера клапан сделан и как этот полимер ведёт себя на молекулярном уровне.
Он обязан знать другое: при каком давлении клапан откажет, какие симптомы предвещают сбой, что делать, если клапан начнёт течь.

Это и есть зрелый серый ящик.

Старая инженерная гордость звучала так: «Я понимаю, как это устроено внутри».
Новая гордость звучит глубже: «Я понимаю, где этой штуке можно доверять, а где нельзя. Я знаю, как она наблюдается, как ограничивается, как откатывается, и как локализуется ущерб, если она сломается».

Это не меньшая инженерия. Это другая инженерия.