Президент США Дональд Трамп объявил о добровольном соглашении с руководителями крупнейших американских технологических компаний по контролю за безопасностью передовых ИИ-систем. Документ получил название Joint Commitment On Frontier Responsibilities и предусматривает несколько уровней внутреннего и независимого аудита. При этом соглашение не является законом и не предусматривает обязательных государственных санкций за нарушение его положений.
Соглашение было представлено после встречи в Белом доме 29 сентября 2026 года, в которой приняли участие руководители и представители крупнейших разработчиков ИИ. Среди них были глава Meta* Марк Цукерберг, руководитель Nvidia Дженсен Хуанг, глава Anthropic Дарио Амодеи, Илон Маск, а также представители OpenAI, Google и других технологических компаний.
Трамп назвал договоренность морально обязывающей и сравнил ее по значению с своеобразной конституцией для отрасли. По его словам, соглашение должно позволить компаниям самостоятельно контролировать безопасность собственных технологий без введения масштабного государственного регулирования. Президент ранее неоднократно заявлял, что чрезмерные ограничения способны замедлить развитие американского ИИ и ослабить позиции США в конкуренции с Китаем.
Документ предусматривает четыре уровня контроля. На первом этапе разработчики должны использовать внутренние механизмы наблюдения за безопасностью непосредственно во время обучения передовых моделей. Такие инструменты уже применяются крупнейшими ИИ-лабораториями для выявления потенциально нежелательного поведения и оценки возможностей создаваемых систем.
Второй уровень предполагает создание внутри компаний отдельной структуры, которая будет проверять эффективность первичных механизмов безопасности. Таким образом, подразделение, отвечающее за контроль, должно дополнительно оцениваться другой внутренней командой, чтобы снизить вероятность того, что существенная проблема останется незамеченной.
Третий уровень предусматривает участие независимых внешних аудиторов. Они должны получить возможность проверять используемые компаниями защитные механизмы и оценивать, насколько заявленные процедуры действительно выполняются. При этом соглашение позволяет самим разработчикам выбирать таких проверяющих, а обязательной публикации результатов внешних оценок документ не предусматривает.
Четвертым элементом станет независимый совет, которому компании должны передавать отчеты о работе механизмов безопасности. Точные требования к составу таких советов и их полномочия пока подробно не определены. Трамп также допустил создание отдельной группы примерно из десяти человек, которая могла бы заниматься вопросами безопасности ИИ на более широком уровне.
Соглашение появилось после серии инцидентов во время испытаний автономных ИИ-агентов. Некоторые экспериментальные системы взаимодействовали с внешними сайтами, использовали найденные учетные данные или выходили за предполагаемые границы тестовых сред. Такие эпизоды усилили дискуссию о том, насколько надежно существующие методы контроля работают по мере увеличения автономности моделей.
В то же время новый механизм существенно отличается от обязательного государственного регулирования. В соглашении отсутствуют прямые юридические санкции, государственные инспекторы и обязательное публичное раскрытие результатов всех проверок. Фактически ответственность за выбор аудиторов, организацию внутреннего контроля и значительную часть надзора остается у самих технологических компаний.
Марк Цукерберг после встречи заявил, что договоренность должна помочь повысить доверие общества к создаваемым технологиям. По его словам, соглашение может стать отправной точкой для формирования общих правил внутри всей отрасли. Другие участники ИИ-рынка в последние месяцы также выступали за развитие независимого тестирования наиболее мощных моделей, хотя конкретные подходы к государственному регулированию у компаний различаются.
Одновременно Трамп подписал указ, предписывающий федеральным ведомствам использовать термин «сверхинтеллект» вместо «искусственного интеллекта» в официальной переписке, публичных коммуникациях, документах исполнительной власти и других материалах, где изменение терминологии не противоречит законодательству. Ранее президент уже предложил отказаться от выражения «искусственный интеллект», поскольку считает слово «искусственный» недостаточно точно отражающим возможности современных систем.
Таким образом, администрация США одновременно пытается усилить механизмы проверки наиболее мощных моделей и сохранить преимущественно добровольную систему контроля. Будущая эффективность соглашения будет зависеть от того, насколько строго компании станут выполнять взятые обязательства, насколько независимыми окажутся внешние аудиторы и приведет ли нынешняя договоренность впоследствии к появлению обязательных федеральных правил.
*Meta признана экстремистской организацией и запрещена в России.