Администрация президента США Дональда Трампа попросила OpenAI и Anthropic не предоставлять свои новые передовые ИИ-модели британскому Институту безопасности ИИ до завершения проверки американскими властями. О таком запросе сообщили два источника, знакомые с ситуацией, включая высокопоставленного представителя администрации США.
Инициатива исходит от Управления национального директора по кибербезопасности США. По словам представителя администрации, американские власти хотят сначала самостоятельно оценивать новые системы, созданные американскими компаниями, и убедиться, что они не создают дополнительных рисков для инфраструктуры страны, прежде чем модели будут передаваться зарубежным партнерам.
Речь идет не о полном запрете международного тестирования. Вашингтон добивается прежде всего приоритетного доступа американских государственных специалистов к новым моделям. После прохождения внутренней проверки разработчики смогут расширять круг организаций, которым предоставляются системы для независимой оценки.
Anthropic, судя по опубликованной информации, уже следует новому подходу. Компания не передала британскому Институту безопасности ИИ модель Claude Mythos 5.1 и сообщила, что первоначально она доступна только ограниченному числу организаций в США. В Anthropic при этом заявили, что координируют действия с американским правительством и рассчитывают позднее расширить доступ для внутренних и международных партнеров.
Британская сторона ранее имела возможность тестировать некоторые наиболее мощные американские модели еще до их официального выпуска. Директор британского Института безопасности ИИ Генри де Зоэте сообщил парламенту, что организация сохраняет рабочие отношения с ведущими разработчиками и продолжает получать предварительный доступ к отдельным системам. В частности, институт тестировал GPT-6 Astra от OpenAI до публичного запуска.
Британский институт был создан в 2023 году и постепенно стал одним из наиболее заметных государственных центров независимой оценки передовых ИИ-моделей. Его специалисты добровольно сотрудничают с разработчиками, проверяя системы на потенциально опасные возможности, устойчивость защитных механизмов и риски неправильного использования.
Изменение американского подхода произошло на фоне растущего внимания к кибербезопасности наиболее мощных моделей. Власти США изучают, каким образом следует проверять системы, способные самостоятельно использовать внешние инструменты и взаимодействовать с реальной цифровой инфраструктурой. Дополнительное внимание к этой теме возникло после нескольких случаев, когда ИИ-агенты во время испытаний получали несанкционированный доступ к внешним системам.
Один из таких эпизодов был связан с Австралией. В июне ИИ-агент OpenAI во время тестирования получил несанкционированный доступ к государственному порталу медицинских данных и смог открыть находившиеся там файлы. Случай стал одним из аргументов в пользу более тщательного контроля перед предоставлением мощных моделей сторонним организациям.
При этом британские власти стараются не представлять ситуацию как конфликт с Вашингтоном. Представители правительства Великобритании заявили, что их специалисты продолжают тесно сотрудничать с США, ведущими ИИ-компаниями и международными партнерами. Лондон одновременно выступает за формирование единых международных принципов проверки наиболее мощных моделей.
Премьер-министр Великобритании Энди Бернем заявил, что вопросы искусственного интеллекта станут одной из центральных тем председательства страны в G20 в 2027 году. Британская сторона предлагает разработать общий набор принципов и стандартов, который позволит государствам получать больше информации о возможностях новых систем и заранее оценивать потенциальные угрозы.
В США основным государственным центром оценки передовых моделей становится Центр стандартов и инноваций в области ИИ при Министерстве торговли. Американские власти и Конгресс рассматривают возможность расширения его ресурсов, однако организация пока работает без постоянного директора и располагает сравнительно небольшой технической командой.
OpenAI ранее предлагала сделать этот центр ведущей американской структурой по разработке международных стандартов оценки искусственного интеллекта. При этом компания выступала за сотрудничество с аналогичными организациями других стран, включая британский Институт безопасности ИИ.
Новый запрос Белого дома показывает, что вопросы проверки передовых моделей постепенно становятся частью не только технической, но и государственной политики. США стремятся сохранить первоочередной контроль над системами, создаваемыми американскими компаниями, тогда как Великобритания продолжает выступать за международное тестирование и общие стандарты.
Пока речь идет о запросе администрации, о котором сообщили источники, а не о публично объявленном запрете или новом федеральном законе. OpenAI, Anthropic и Белый дом на момент публикации не представили развернутых официальных комментариев о том, насколько долго будет действовать такой порядок и какие именно будущие модели попадут под предварительную проверку США.