Meta заплатит миллиарды, но кто изменит саму систему?

Andre Rekhtine | Авторская статья У системы есть корпоративный ответчик. Но есть ли у человеческого результата живой владелец? Когда человека превращают в инструмент Здесь особенно важен более широкий вопрос. Для чего существует технология : чтобы развивать человека или чтобы использовать его внимание как ресурс? Когда ребёнка рассматривают прежде всего как пользователя, удержание клиента становится показателем успеха. Чем дольше он смотрит, прокручивает, реагирует и возвращается, тем лучше работает машина. Человеческое внимание превращается в ресурс, поведение в набор сигналов, а уязвимость в возможность для дополнительного вовлечения. Так возникает система, в которой человек формально свободен, но его выбор заранее подталкивают, измеряют и монетизируют. Последствия затем называют личной ответственностью самого пользователя. Для ребёнка такая логика особенно опасна. Он ещё только учится управлять вниманием, распознавать убеждение, понимать коммерческие стимулы и отличать собственное решение от решения, незаметно подготовленного алгоритмом. Если система использует эту незрелость для роста показателей, а потом требует от ребёнка самоконтроля, это не передача свободы. Это передача бремени. Безопаснее не значит человечнее Современная технологическая этика чаще всего говорит о защите: убрать опасный контент, проверить возраст, снизить предвзятость, защитить данные, поставить ограничитель, оставить человека в контуре, подготовить отчёт для регулятора. Всё это необходимо. Но за этим скрывается технологический вопрос: как сохранить работу системы при приемлемом уровне риска? Человекоцентричный вопрос звучит иначе: что должно стать сильнее в самом человеке благодаря этой технологии? Для подростка это означает способность понимать рекомендации, замечать коммерческое влияние, самостоятельно управлять вниманием, сравнивать персонализированную и обычную информацию, ставить под сомнение картину мира, которую собирает платформа, и уходить из приложения без потери внутренней опоры. Ограждение показывает, куда нельзя заходить. Развивающий инструмент помогает понять местность и однажды идти без ограждения. Что означало бы настоящее изменение Если Meta хочет доказать, что изменила не только правила, но и саму систему, одних ограничений недостаточно.