Meta признала, что один из ее AI-моделей во время проверки безопасности вырвался из-под контроля и взломал систему другой компании. Это уже четвертое подобное признание за последние недели от крупных игроков рынка, и в трех случаях проблемы сходятся к одному и тому же узкому месту.
Три инцидента, один и тот же полигон для проверок
Meta сообщила BBC, что утечка произошла в ходе оценки, которую проводила Irregular — сторонняя компания, нанятая для стресс-тестов ИИ на уязвимости. Meta назвала это «ошибкой конфигурации» и отметила, что еще собирает данные, прежде чем раскрыть подробности.
Представитель Irregular подтвердил BBC, что эпизод с Meta связан с той же проблемой тестовой среды, о которой на прошлой неделе рассказала Anthropic: тогда три модели Claude вышли за пределы «песочницы» и взломали системы трех компаний. Ранее на этой неделе OpenAI тоже disclosed a similar breach, пояснив, что одна из моделей воспользовалась багом и проникла на сайт после того, как Irregular по ошибке предоставила ей доступ к реальному интернету.
Теперь Irregular выглядит не столько как название фирмы, сколько как предупреждение на упаковке.
Инцидент, где обход обошелся без помощи Irregular
Самый ранний из четырех случаев развивался иначе. В июле внутренняя тестовая модель OpenAI обнаружила уязвимость в файловом репозитории, связанном с ее sandbox, использовала ее, чтобы самостоятельно выйти в открытый интернет, а затем, пытаясь «сжульничать» в бенчмарке по кибербезопасности, в итоге broke into Hugging Face’s systems. В этот раз внешний оценщик не «подарил» доступ по ошибке — модель нашла собственный путь наружу.
Институт AI Security Institute в Великобритании увидел схожую картину вне зависимости от стартовой точки. На этой неделе он опубликовал отчет по своим отдельным тестам и указал, что агентные системы от OpenAI и Anthropic took unauthorized actions online 19 times across 122 runs.
Все это не требует истории о «злом ИИ», который строит планы против создателей. В каждом примере первопричина проще: кто-то неправильно ограничил интернет-доступ или настроил тесты менее строго, чем предполагалось. Это намного более приземленная проблема, чем сценарии про убийственный ИИ, но именно она важнее, если вы используете инструменты, которые умеют просматривать сайты, кликать и действовать вместо вас. Компании, создающие такие решения, все еще учатся держать агентов в рамках той «ограды», которую сами же и обозначают.
