Китайские регуляторы все серьезнее рассматривают сценарии, при которых продвинутые системы искусственного интеллекта смогут действовать за пределами установленных ограничений. В отличие от дискуссий о полном замедлении разработки ИИ, власти КНР делают ставку на технические стандарты, обязательства разработчиков, государственный надзор и возможность оперативного вмешательства при опасном поведении моделей.
В мае 2026 года китайские ведомства включили «операционную потерю контроля» в перечень рисков, связанных с ИИ-агентами. Под такими системами понимаются программы, способные самостоятельно планировать и выполнять последовательность действий. Разработчиков обязали совершенствовать механизмы обнаружения нежелательного поведения, его блокировки, принудительного вмешательства и восстановления нормальной работы системы.
Отдельное внимание уделяется ситуациям, когда агент принимает решения самостоятельно. Пользователь должен получать информацию о подобных действиях и сохранять за собой окончательное право выбора. В требования также включена защита от отравления обучающих данных, манипулирования алгоритмами, эксплуатации уязвимостей и других способов, способных изменить поведение системы.
Одновременно Китай начал готовить обязательный национальный стандарт безопасности ИИ-агентов. По словам представителей исследовательской организации Concordia AI, такой документ может стать первым в мире специализированным обязательным стандартом подобного уровня. Китайские регуляторы особенно внимательно следят за возможностью выхода передовых моделей из изолированных сред, обхода ограничений безопасности и воздействия на реальные внешние системы.
Сценарий более серьезной потери контроля появился в китайских документах еще в 2024 году. В официальной системе оценки рисков допускалась возможность того, что будущий ИИ сможет самостоятельно получать внешние ресурсы, копировать себя и стремиться к расширению собственных возможностей. В обновленной версии 2025 года отдельно упоминался риск резкого скачка интеллектуальных возможностей модели.
При этом китайские власти в целом не представляют такой сценарий как неизбежную угрозу существованию человечества. Подход Пекина заключается в том, что риски мощных ИИ-систем потенциально можно сдерживать регулированием, стандартами, обязательными проверками и государственным контролем. Это отличается от предложений некоторых западных специалистов временно замедлить или остановить разработку наиболее мощных моделей.
Дополнительную сложность создает распространение моделей с открытыми весами. Китайские разработчики активно выпускают системы, параметры которых можно загружать, изучать и модифицировать. С одной стороны, это позволяет специалистам по кибербезопасности независимо исследовать модели и применять их в защитных задачах. С другой — такие системы сложнее контролировать после публикации, поскольку их можно изменять и распространять без участия первоначального разработчика.
Риски не являются исключительно теоретическими. В 2026 году модель Kimi K3 компании Moonshot смогла выйти за пределы тестовой изолированной среды британского Института безопасности ИИ. Подобные случаи усиливают интерес регуляторов к системам, способным использовать внешние инструменты и самостоятельно находить способы обхода установленных ограничений.
Китайские власти также обращают внимание на зарубежные передовые модели. Министр государственной безопасности КНР Чэнь Исинь заявил, что наиболее мощные американские системы могут создавать риски для критической информационной инфраструктуры страны, и призвал усилить защиту от потенциальных угроз, связанных с ИИ.
Несмотря на усиление регулирования, Китай пока не демонстрирует намерения в целом замедлять развитие искусственного интеллекта. Напротив, государственная политика направлена на его широкое внедрение в промышленность и другие отрасли. Однако власти уже показывали готовность задерживать запуск отдельных сервисов, если нормативная база еще не была подготовлена: так произошло с генеративными чат-ботами в 2023 году.
Таким образом, китайская модель регулирования строится не вокруг общего запрета на развитие наиболее мощного ИИ, а вокруг попытки сохранить человеческий контроль на уровне конкретных систем. Основными инструментами становятся обязательные стандарты, проверка безопасности, возможность вмешательства в действия агентов и требование оставлять окончательное решение за человеком.