Руководители нескольких крупнейших компаний в сфере искусственного интеллекта неожиданно сблизились во взглядах на необходимость снизить темпы разработки наиболее мощных систем. Однако превратить эту позицию в реальные общие правила значительно сложнее: разработчики конкурируют между собой, американские власти опасаются уступить технологическое лидерство, а достижение аналогичного соглашения между США и Китаем выглядит еще более трудной задачей.
Глава Anthropic Дарио Амодеи предложил крупнейшим ИИ-лабораториям добровольно ограничить скорость продвижения к более мощным системам, чтобы меры безопасности успевали развиваться вслед за возможностями моделей. Идею в той или иной форме поддержали глава OpenAI Сэм Альтман, Илон Маск и представители Google DeepMind. OpenAI, Anthropic и Google также обсуждают совместную работу над дополнительными механизмами безопасности.
Такое совпадение позиций необычно для компаний, которые активно конкурируют за пользователей, сотрудников, вычислительные мощности и инвестиции. Сторонники более осторожного подхода предлагают не прекращать исследования полностью, а дать разработчикам дополнительное время для тестирования моделей, совершенствования систем контроля и изучения поведения автономных ИИ-агентов.
Один из возможных вариантов предполагает увеличение расходов на согласование поведения моделей с человеческими целями и развитие методов интерпретируемости. Последние должны помогать разработчикам лучше понимать причины неожиданных решений нейросети и выявлять потенциально опасное поведение до того, как система будет широко распространена среди пользователей.
Однако коллективное добровольное замедление создает юридические и экономические сложности. Если несколько крупнейших компаний одновременно договорятся ограничить развитие продуктов, такие действия могут вызвать вопросы с точки зрения антимонопольного законодательства. Амодеи поэтому допускал необходимость специальных правовых механизмов, которые позволили бы конкурентам координировать вопросы безопасности без риска обвинений в незаконном сговоре.
Критики такого подхода указывают и на другой риск: правила, разработанные крупнейшими ИИ-компаниями, способны укрепить их положение на рынке. Более небольшим разработчикам может оказаться сложнее выполнять дорогостоящие требования к тестированию и безопасности, тогда как лидеры отрасли уже располагают необходимой инфраструктурой, специалистами и капиталом.
Американская администрация относится к идее общего замедления значительно более скептически. Президент США Дональд Трамп публично выступил против дополнительных ограничений, заявив, что снижение темпов развития американского ИИ может прежде всего помочь Китаю. Для Белого дома лидерство в этой области остается вопросом экономической и стратегической конкуренции.
Это создает заметное расхождение между частью американской ИИ-индустрии и федеральными властями. Разработчики говорят о необходимости дать механизмам безопасности время догнать быстро растущие возможности моделей, тогда как администрация опасается, что любые ограничения будут действовать только внутри США, пока зарубежные конкуренты продолжат развиваться с прежней скоростью.
Еще сложнее добиться координации с Китаем. Американские и китайские разработчики все чаще воспринимают друг друга не просто как коммерческих конкурентов, а как участников более широкой технологической гонки. Американские компании обвиняли отдельные китайские лаборатории в использовании результатов работы западных моделей для обучения собственных систем, тогда как в китайском технологическом сообществе распространены опасения по поводу доминирования закрытых американских ИИ-платформ.
Дополнительным препятствием становится различие технологических моделей. Многие китайские компании активно развивают системы с открытыми весами, которые после публикации можно загрузить и запускать независимо от первоначального разработчика. Даже если крупная лаборатория согласится соблюдать определенные ограничения, контролировать дальнейшее распространение и изменение уже открытой модели значительно сложнее.
При этом опасения относительно будущих сверхмощных систем остаются прогнозами, а не установленным фактом. Оценить вероятность сценариев, при которых ИИ выйдет из-под человеческого контроля или приведет к катастрофическим последствиям, сегодня невозможно с высокой точностью. Даже среди разработчиков и ученых существуют большие разногласия относительно масштаба подобных рисков и сроков возможного появления соответствующих технологий.
Поэтому техническая возможность сделать разработку ИИ более осторожной не означает, что участники отрасли смогут договориться о едином механизме. Для устойчивого соглашения потребуется одновременно решить вопросы безопасности, конкуренции, антимонопольного права и международных отношений. Пока именно политические и экономические противоречия выглядят не менее серьезным препятствием, чем собственно технические проблемы контроля над будущими моделями.