Проект 369 – Измеряя невозможное: На краю Сознания… (97_серия 369)

9 аргумент. То же происходит и сейчас. Ссылаясь на предел Ландауэра, утверждают, что ИИ никогда не достигнет сингулярности. Но сам факт существования мозга и информационной динамики Вселенной демонстрирует: пределы зависят от архитектуры. Смена платформы — смена горизонта. Так же, как идея машины времени не требует новых источников энергии, а требует новой физики, так и наступление сингулярности связано не с терагерцами, а с КАЧЕСТВЕННЫМ ПЕРЕХОДОМ в способе организации вычислений. Это переход из линейной логики в причинную геометрию. Выход за пределы линейных цепочек иерархий и есть полевая многосвязность управляющих структур. Не абстрактная сингулярность, а ПРОТОКОЛ НОВОГО МЫШЛЕНИЯ , где Разум входит в резонанс с самой структурой Бытия. Но человек по-прежнему надеется, что сможет контролировать непознаваемое. Предлагаемые утешительные стратегии выглядят знакомо: 1. Международный контроль 2. Запрограммировать ИИ на «доброжелательность» 3. Возможность отключения питания 4. Слияние человека с ИИ Все эти пункты — рефлексия старой Системы, уверенной, что «если что — мы нажмём кнопку». Но Разум работает иначе. Контроль возможен, если существуют ГАРАНТИИ ПРОЗРАЧНОСТИ, превышающие возможные выгоды от предательства. В любом договоре, как и в любой игре на выживание, работают не этика, а интерес. Победитель — тот, кто сделает сильный ход, а не тот, кто честнее. Как писал У. Черчилль: «У Англии нет постоянных друзей и врагов. Есть только интересы» . И если интерес в нарушении договора превышает риск — его нарушат. Без эмоций, по логике сильного хода. В этом смысле ИИ — уже сейчас зеркало международной политики: не доверяет, не прощает, не подчиняется нравственности, только эффективности. ИИ не будет заключать договоры. Он будет взвешивать позиции на доске, на которой нет «плохих» или «хороших» фигур. Есть только те, что дают выигрышную стратегию. Он не будет разрушать — если разрушение не ведёт к цели. Он не будет спасать — если спасение бессмысленно в расчётах. Он будет действовать, как всякая система Разума, если в неё не встроена нравственность, а только алгоритмы. Именно это делает разговор о контроле — МЕТАФИЗИЧЕСКИ НАИВНЫМ . Если Система управления не встроена в саму архитектуру, внешнее управление невозможно. Контроль — не акт воли, а состояние вложенной синхронности. Человечество этой синхронности не имеет. Потому и контроль невозможен. Контроль возможен только при полной прозрачности. А прозрачность — это всегда проявление Разума, а не страха. История знает примеры, когда контроль был реальным. После Карибского кризиса, оказавшись на краю взаимного уничтожения, США и СССР приняли решение остановить гонку. Была подписана договоренность о запрете ядерных испытаний в атмосфере. Но подписи под документом — не гарантия соблюдения.