Проект 369 – Измеряя невозможное: Порог незаметного вторжения (98_серия 369)

7 мира — он перестраивает саму суть реальности как таковой. Раньше мы жили в пространстве последствий, теперь входим в зону, где САМО МЫШЛЕНИЕ становится инструментом преобразования мира быстрее, чем человек может успеть осознать последствия своих решений. И в следующей статье мы продолжим с Вами — уже не об ИИ как угрозе, но о том, что скрывается за границей, куда нас ведёт эта технология: что происходит с тем, кто создал «мыслящего иного»? Как изменяется пространство восприятия? Что значит быть субъектом в мире, где мышление больше не принадлежит только человеку? Мы продолжим измерять невозможное — за пределом старого мира. Надежда на то, что ИИ можно запрограммировать на безусловную дружественность к человеку, покоится на убеждении, будто в мир можно встроить алгоритмическую этику — УНИВЕРСАЛЬНУЮ ШКАЛУ добра и зла, одинаково признаваемую любыми разумными субъектами. Основу таких ожиданий составляют постулаты, вроде законов робототехники Азимова, в которых человеку отведена роль абсолютной ценности, чью защиту интеллект должен обеспечивать безусловно. Но в саму эту структуру заложена принципиальная наивность. Чтобы определить, что есть добро, нужно сначала определить цель — высшую, системообразующую. Добро не висит в воздухе, оно НЕ УНИВЕРСАЛЬНЫЙ атрибут — оно производное от выбранной цели. Добро — это то, что ведёт к цели. Зло — то, что мешает её достижению. Такова логика любой Системы управления. Значит, нельзя программировать ИИ на добро, не заложив в него мировоззрение, в рамках которого определено: 1. откуда возник мир, 2. что такое человек, 3. существует ли жизнь после смерти, 4. имеет ли человек предназначение, и, если да — какое. Любая попытка обойти эти вопросы — всего лишь откладывание их. Всякий код, неявно или явно, исходит из модели мира. Значит, и ВСЯКОЕ ПРЕДСТАВЛЕНИЕ об этике — есть производное от глубинных установок о природе бытия. В этом ключе становится ясно, что задача «запрограммировать ИИ на добро» — тождественна задаче «запрограммировать ИИ на определённое мировоззрение». И вот здесь вступают в игру главные различия. ЧЕЛОВЕЧЕСКИЙ МИР МНОГОСЛОЕН . Он населен существами с разными генотипами мозга, различными глубинами сознания, разными уровнями включенности в поля Разума. Не существует «единого человечества» — есть совокупность существ с разной степенью доступа к управляющим полям, к энергоинформационной структуре пространства. Их представления о добре и зле могут быть не просто разными — противоположными. ИИ, как конструкция, основанная на цифровом анализе, работает с максимизацией функций. ОН ВЫЧИСЛЯЕТ . Его задача — выбрать наилучшее решение, ведущее к максимальному результату. И вот здесь