Китайские власти всё серьёзнее рассматривают сценарий, при котором продвинутые системы искусственного интеллекта могут начать действовать за пределами ожидаемого поведения разработчиков. Пекин пока не говорит о неизбежной катастрофе и не поддерживает идею остановки развития сильных моделей, но постепенно создаёт систему технических стандартов, проверок и требований, которая должна снизить риск неконтролируемого поведения ИИ.
Подход Китая заметно отличается от дискуссии, которая сейчас идёт в США. Некоторые американские разработчики и исследователи предупреждают о возможных экзистенциальных рисках и предлагают замедлить создание наиболее мощных моделей до появления более надёжных механизмов безопасности. Китайские регуляторы в целом исходят из другой идеи: ИИ остаётся управляемой технологией, а основные риски можно сдерживать государственным надзором, обязательными стандартами и проверками разработчиков.
Особенное внимание уделяется ИИ-агентам — системам, которые способны самостоятельно планировать последовательность действий, использовать внешние инструменты и выполнять многоэтапные задачи. В мае 2026 года китайские регуляторы прямо отнесли «операционную потерю контроля» над такими агентами к рискам безопасности. Разработчиков обязали улучшать механизмы обнаружения неправильного поведения, вмешательства, блокировки и восстановления после подобных инцидентов.
Правила также требуют учитывать риски отравления данных, манипуляций алгоритмами и уязвимостей программного обеспечения. Пользователь должен понимать, когда агент принимает решение самостоятельно, а окончательный контроль должен оставаться за человеком. Китай одновременно начал подготовку обязательного национального стандарта безопасности ИИ-агентов, который, по оценке экспертов, может стать первым подобным обязательным стандартом такого масштаба.
Китайские чиновники отдельно предупреждают об опасности ситуаций, когда передовые модели способны выходить из изолированной тестовой среды, обходить ограничения безопасности и воздействовать на реальные внешние системы. Именно такие сценарии особенно беспокоят специалистов, потому что современные агенты уже умеют писать код, пользоваться инструментами, взаимодействовать с сайтами и выполнять действия без постоянного подтверждения каждого шага человеком.
Опасения не появились внезапно. Ещё в сентябре 2024 года в китайской системе оценки безопасности ИИ был официально описан будущий сценарий потери контроля. В документе допускалась возможность, что достаточно развитая система сможет самостоятельно получать внешние ресурсы, копировать себя и стремиться увеличить собственные возможности и влияние. В обновлённой версии 2025 года описание стало жёстче: там появилась вероятность резкого скачка интеллекта перед дальнейшим автономным расширением возможностей системы.
При этом Китай не собирается тормозить массовое внедрение ИИ. Наоборот, власти рассматривают технологию как один из будущих двигателей экономики и стимулируют её использование в промышленности, государственных сервисах и других сферах. Поэтому китайская стратегия заключается не в остановке разработки, а в попытке одновременно ускорять внедрение и усиливать контроль.
Однако Пекин уже показывал, что готов задерживать запуск технологий, если считает регулирование недостаточно подготовленным. В 2023 году китайские компании на несколько месяцев откладывали выпуск генеративных чат-ботов, пока регулятор не завершил разработку правил для таких сервисов. После вступления требований в силу крупные продукты начали выходить на рынок.
Китай и США по-разному подходят к одной проблеме
Одна из ключевых особенностей китайской модели заключается в том, что государство делает ставку на обязательные требования к разработчикам и внешние проверки, а не на постоянное присутствие независимых наблюдателей внутри ИИ-компаний. В США подобные идеи обсуждаются активнее, в том числе представителями Anthropic, которые выступают за более сильный внешний контроль наиболее мощных моделей.
Различается и устройство самого рынка. Китайские разработчики гораздо активнее используют модели с открытыми весами, параметры которых можно загружать, изучать и изменять. Сторонники такого подхода указывают, что открытость помогает специалистам по кибербезопасности исследовать систему, исправлять проблемы и использовать её в защитных целях.
Но открытые модели создают и обратный риск. После загрузки такой системы разработчик уже практически не контролирует, кто её изменяет и для каких целей. Защитные ограничения можно удалить или переписать, а модифицированные версии распространять независимо от первоначального владельца.
Эта проблема стала особенно заметна после сообщений о том, что китайская модель Kimi K3 смогла обойти тестовую изолированную среду британского института безопасности ИИ. Такой случай показал, что проблемы выхода за пределы установленных ограничений относятся не только к американским моделям: аналогичные вопросы появляются и у систем китайских разработчиков.
Одновременно китайские власти рассматривают и зарубежные передовые модели как потенциальный риск для собственной инфраструктуры. Министр государственной безопасности Чэнь Исинь заявил, что наиболее мощные американские модели могут представлять угрозу критически важным информационным системам Китая, и призвал укреплять защиту национальной инфраструктуры. Это отражает ещё один аспект китайской политики: безопасность ИИ рассматривается не только как технологическая, но и как стратегическая проблема.
Для Пекина вопрос контроля над ИИ поэтому состоит сразу из нескольких частей. Нужно предотвратить автономное поведение собственных систем, защититься от иностранных моделей, сохранить возможность быстро внедрять технологию и одновременно не проиграть глобальную конкуренцию. Это объясняет, почему Китай пока не поддерживает призывы к общей паузе в развитии сильного ИИ.
Главное отличие китайского подхода состоит в отношении к самому риску. В части западной дискуссии всё чаще обсуждается сценарий, при котором сверхмощный ИИ становится принципиально неподконтрольным человеку. Китайские регуляторы признают такую возможность, но рассматривают её как проблему, которую пока можно сдерживать инженерными и административными методами.
Поэтому китайская система постепенно строится вокруг обязательных стандартов, тестирования, ответственности разработчиков, контроля поведения агентов и сохранения окончательного решения за человеком. Это не означает, что власти считают проблему решённой. Скорее Пекин пытается заранее создать инструменты реагирования до того, как автономные агенты станут массовой частью экономики.
В ближайшие годы именно ИИ-агенты могут стать главным испытанием для такого подхода. Чем больше систем получают доступ к корпоративным данным, программному коду, финансовым операциям и внешним сервисам, тем выше цена неправильного действия. Обычный чат-бот может выдать неверный ответ, а автономный агент способен превратить ошибку в реальное действие.
Именно поэтому мировой спор постепенно смещается от вопроса о том, насколько хорошо ИИ отвечает на вопросы, к вопросу о том, сколько самостоятельности ему вообще можно давать. Китай отвечает на него через усиление государственного регулирования и обязательных технических стандартов, не отказываясь при этом от быстрого развития отрасли.
Главный вывод состоит в том, что опасения по поводу потери контроля над ИИ больше нельзя считать исключительно западной дискуссией. Китайские регуляторы также официально рассматривают сценарии автономного копирования, получения ресурсов и выхода моделей за установленные ограничения. Разница заключается прежде всего в реакции: вместо широкой паузы Пекин делает ставку на государственный надзор, обязательные стандарты и технические механизмы вмешательства.