Когда **Силиконовая долина** и **Святой Престол** говорят в унисон, логично спросить: что они видят такого, чего до сих пор не осознали правительства.
В понедельник Папа Лев XIV опубликовал свою первую энциклику Magnifica Humanitas, призвав **разоружить ИИ** и установить регулирование, которое будет служить человеку. Рядом с ним в Ватикане стоял Кристофер Олах, сооснователь Anthropic, который признал, что ИИ-компании действуют «внутри системы стимулов и ограничений, которые иногда могут противоречить правильным решениям». Отдельно CEO Anthropic Дарио Амодей отмечал, что «следующий уровень риска — это на самом деле сами ИИ-компании», и что лидеры отрасли, включая его самого, не должны единолично определять будущее технологии.
Фактически, **создатели самых мощных ИИ-систем** публично заявляют: одних корпоративных правил недостаточно. Спор уже не в том, нужно ли глобальное управление ИИ. Вопрос в том, удастся ли спроектировать его до того, как кризис сделает это очевидным для всех.
Индустрия понимает угрозы — и прямо это признаёт
Внутри отрасли немногие серьёзные участники спорят о ключевых рисках: **сдвиги на рынке труда**, автономное оружие, безопасность детей, массовая слежка, размывание человеческого контроля и возможность систем, способных к рекурсивному самоулучшению. Anthropic разработала Constitutional AI и Responsible Scaling Policy. OpenAI использует Preparedness Framework со структурированным red-teaming. Это реальные и продуманные меры. Но у них одна общая уязвимость: они остаются внутренними. Каждая компания сама определяет пороги, правила раскрытия информации и степень прозрачности.
Внутренние механизмы не решают проблему, которая по природе внешняя. Разработка передового ИИ идёт в условиях конкуренции, где односторонняя осторожность становится **стратегическим минусом**. Если одна компания притормозит, а конкурент — нет, мир не станет безопаснее; осторожная сторона просто уступит позиции. То же относится и к государствам: ни одно правительство не сможет убедительно ограничивать своих игроков, если Китай или любая другая крупная ИИ-держава не связана сопоставимыми обязательствами. В итоге возникает классический провал коллективных действий: риски понятны всем, но у каждого по отдельности нет мотивации нести полную цену решения. Это не «сбой рынка» — это **ошибка архитектуры управления**.
Правильнее сравнивать не с ядерным контролем, а с финансовым надзором
Чаще всего ИИ сопоставляют с ядерным сдерживанием. Однако это неточная аналогия. Ядерные арсеналы создавались как государственные программы с известными объектами и проверяемыми испытаниями. Передовой ИИ, напротив, разрабатывают частные компании на коммерческой инфраструктуре, уже распределённой по всему миру.
Гораздо полезнее смотреть на финансовую систему. Банки жестко конкурируют в разных юрисдикциях, соединены в реальном времени и сталкиваются с системными угрозами — от финансирования терроризма до финансовых преступлений — которые не может удержать в одиночку ни одна организация. Ответом стала модель вокруг стандартов G20 и механизма FATF: общие нормы, операционные стандарты, обязанности для государства и частного сектора, экспертная оценка и **реальные последствия** за несоблюдение. Это решение далеко от идеала, но оно изменило поведение в массовом масштабе без многолетних ратификаций договоров, потому что распределило ответственность на достаточно широкую коалицию, сделав уклонение дорогостоящим и разделив требования безопасности между правительствами и бизнесом.
Я много лет занималась разработкой и оценкой подобных стандартов: координировала международные усилия против финансирования ИГИЛ и участвовала в формировании крипторамки, которую сегодня приняли более 120 стран. Мне приходилось напрямую проверять национальные программы соблюдения требований. Поэтому я считаю, что понимаю, какие элементы делают систему подотчетности рабочей — и где она ломается.
Как могла бы выглядеть реалистичная система управления ИИ
Действенная архитектура глобального управления ИИ начинается не с узких технических регламентов, а с **общих принципов**: согласованных обязательств по рискам, по которым уже существует подлинный консенсус. Затем эти принципы переводятся в критерии, оценивающие фактические результаты в реальном мире, а не навязывающие процессы, которые устареют за считанные месяцы. Независимые экспертные панели, включающие представителей публичного и частного сектора, проверяют, выполняют ли компании и государства эти критерии. И обязательны последствия: соблюдение открывает доверие, доступ к рынкам и сотрудничество; несоблюдение ведёт к нарастающим издержкам. Двустороннее понимание между США и Китаем было бы критически важным, но его недостаточно: только более широкая коалиция — например, G20 — способна превратить сдержанность в устойчивое глобальное давление.
Времени всё меньше
Некоторые заслуживающие доверия оценки допускают появление Artificial General Intelligence — систем, превосходящих человека в большинстве сфер — уже к 2030 году. Когда машины начинают превосходить человеческие возможности, единственный адекватный ответ для человечества — **коллективное действие**. Ни одна компания и ни одно государство не смогут управлять такими рисками в одиночку.
Амодей призывает ИИ-лидеров и правительства говорить откровенно о темпах происходящего. Папа призывает разоружить технологию, пока она не «разоружила» нас. Олах в Ватикане подтвердил проблему стимулов, в которую упирается его собственная индустрия. Это совпадение позиций, исходящее из противоположных центров человеческого авторитета — морального и коммерческого, — само по себе является сигналом, который политики не вправе игнорировать.
Международное сообщество уже объединялось вокруг общих экзистенциальных угроз — ядерного распространения, финансирования терроризма, системных финансовых обвалов. Оно создавало механизмы координации, которые работали: несовершенно, но ощутимо. ИИ требует похожего подхода — и гораздо быстрее. **Риски для человечества** здесь иного масштаба. Катастрофы не являются абстракцией. Ждать, чтобы начать регулировать после того, как они случатся, — это не исправление ошибок. Это капитуляция.
Сейчас правительствам и международным организациям нужно запустить этот процесс. Привлечь тех, кто строил эти системы и понимает их режимы отказа изнутри, а также специалистов с реальным опытом координации между сторонами, которые не доверяют друг другу — будь то государства или коммерческие конкуренты, — и умеют превращать общий риск в обязательства. Окно возможностей закрывается. Мы обязаны нашим детям создать управление заранее, **до катастрофы**, а не в ответ на неё.
Мнения, выраженные в комментариях Fortune.com, принадлежат исключительно их авторам и не обязательно отражают мнения и убеждения Fortune.
This story was originally featured on Fortune.com
