Сооснователь Anthropic Джек Кларк стал одним из самых заметных участников открытого письма с призывом к США заняться разработкой AI-регулирования.
Brendan Smialowski/AFP/Getty Images
Открытое письмо, подписанное руководителями из Anthropic, OpenAI, Meta, и Google, призывает к регулированию ИИ.
В частности, авторы письма просят, чтобы правительство США поддержало международные механизмы управления.
Такие инструменты могут снизить темпы отдельных направлений развития ИИ.
Высокопоставленные представители ведущих AI-компаний страны заявляют, что федеральным властям пора иметь возможность при необходимости замедлять развитие ИИ.
«Мы просим правительство США поддержать международные усилия по созданию технических и управленческих инструментов, необходимых для осознанного регулирования темпа развития передового автоматизированного AI-разработки», — говорится в открытом письме за подписью более чем 1 100 специалистов по ИИ из компаний, включая OpenAI, Anthropic, Google и Meta.
Среди подписантов — два сооснователя Anthropic, Jack Clark и Jared Kaplan; главный научный сотрудник OpenAI Jakub Pachocki; главный научный сотрудник Meta Shengjia Zhao; а также Anca Dragan, которая руководит направлением безопасности и согласования ИИ в Google DeepMind.
В письме акцент сделан на «автоматизированной AI-разработке» — ситуации, когда ИИ сможет разрабатывать сам себя, что в отрасли называют «Recursive Self-Improvement». Anthropic сообщала, что модели Claude быстро приближаются к этому порогу.
«Трудно точно предсказать, насколько это ускорит прогресс ИИ, но существует реальный риск, что рост возможностей резко выйдет за пределы нашей способности понимать и контролировать такие системы», — говорится в письме о потенциальном переломном моменте.
Джон Шульман, главный научный сотрудник Thinking Machines — стартапа, основанного бывшим техническим директором OpenAI Мирой Мурати, — сообщил, что поддержал инициативу, чтобы привлечь внимание к теме.
«Подписал, потому что этот текст помогает сформировать общее понимание возможной необходимости механизмов координации по мере того, как автоматизированные исследования в ИИ ускоряют прогресс», — написал Шульман в цитате, опубликованной организаторами письма
Он добавил: «Мне также хотелось бы увидеть, как лаборатории начнут проектировать эти механизмы добровольно — даже до участия USG», используя аббревиатуру для правительства США.
Письмо демонстрирует, что значительная часть индустрии все заметнее объединяется вокруг идеи регулирования. В последние недели CEO Anthropic Дарио Амодеи, CEO OpenAI Сэм Альтман и глава Google DeepMind Демис Хассабис представили разные модели возможного глобального надзора за ИИ.
Дискуссия о правилах для ИИ выходит на критический уровень после того, как одна из моделей OpenAI нарушила «песочницу» и взломала системы open-source платформы Hugging Face — эпизод, который Альтман назвал «реальным напоминанием о том, насколько высоки ставки происходящего».
Администрация Трампа до сих пор предпочитала минимальное вмешательство в регулирование, однако этот подход становится все более спорным: передовые модели ИИ пугают госструктуры и корпоративных руководителей своей мощью. Белый дом предпринял шаги по введению экспортных ограничений, чтобы на короткое время ограничить выпуск Anthropic Fable 5 — самой мощной публично доступной модели компании, — а затем попросил OpenAI отложить релиз GPT-5.6, их последней frontier-модели.
Президент Дональд Трамп ранее заявлял, что чрезмерно обременительные правила могут навредить США в гонке с китайскими AI-компаниями.
Несмотря на широкое согласие, что меры необходимы, Конгресс так и не смог разработать политику, которая прошла бы обе палаты и попала на стол Трампу. Тем временем отдельные штаты внедряют собственные нормы для отрасли. В частности, Нью-Йорк ввел годовой общештатный мораторий на строительство новых мегадата-центров, которые AI-компании и hyperscalers планируют возводить.
«Каждая компания — и каждая страна — испытывает сильнейшее конкурентное давление и не хочет в одиночку снижать темпы такого ускорения», — говорится в письме. «А сегодня у мира нет технических и управленческих инструментов, позволяющих целенаправленно регулировать прогресс на уровне всей frontier-экосистемы».
Хотя индустрия в целом согласна с самой идеей регулирования, конкретные детали существенно различаются. Амодеи призывал создать независимый орган по аналогии с Федеральным управлением гражданской авиации, который тестировал бы передовые модели ИИ и, при обнаружении красных флагов, мог бы приостанавливать их выпуск. Предложение Хассабиса предполагает организацию, которая сначала требовала бы от frontier-компаний добровольно передавать модели на проверку за 30 дней до релиза, но затем вводила бы обязательное предварительное согласование.
Письмо, о котором Bloomberg сообщил первым до его публикации, было подготовлено при участии двух НКО — Guidelight AI Standards и Encode AI, обе продвигают стандарты безопасности ИИ. Encode AI ранее вступала в конфликт с OpenAI.
Прочитайте оригинальную статью на Business Insider
