Дискуссия о возможном замедлении разработки наиболее мощных систем искусственного интеллекта вышла за пределы технологической отрасли и превратилась в вопрос геополитической конкуренции. Руководители крупнейших ИИ-компаний все чаще говорят о необходимости ограничить скорость прогресса ради безопасности, однако администрация США опасается, что любые односторонние меры могут предоставить стратегическое преимущество Китаю.
Генеральный директор Anthropic Дарио Амодеи признал, что идея международного ограничения темпов развития искусственного интеллекта сталкивается с серьезным препятствием — государства могут отказаться от добровольных ограничений ради военного, экономического или технологического превосходства. По его мнению, особенно сложно представить подобное соглашение в условиях усиливающегося соперничества США и Китая.
Амодеи предложил рассматривать международные договоренности по ИИ по аналогии с соглашениями, которые в прошлом использовались для ограничения ядерных вооружений. Речь идет не о полном прекращении исследований, а о попытке установить своеобразное «ограничение скорости» для наиболее передовых моделей, если их возможности начнут развиваться быстрее механизмов контроля и безопасности.
Глава Anthropic при этом признает, что добиться подобной координации чрезвычайно сложно. Страна или компания, которая продолжит ускоренную разработку, пока остальные добровольно замедлятся, может получить существенное преимущество. Несмотря на это, Амодеи считает, что попытки создать международные механизмы контроля необходимы из-за потенциально тяжелых последствий появления все более автономных и мощных систем.
Anthropic уже предприняла первый шаг в этом направлении на уровне самой компании. Разработчик предоставил независимым специалистам по безопасности доступ для оценки собственных практик и процедур. Амодеи ранее призывал другие крупные ИИ-компании также добровольно ограничить улучшение наиболее мощных моделей, если риски начнут расти быстрее возможностей по их контролю.
Идею более осторожного развития поддержали и некоторые другие лидеры отрасли. Глава OpenAI Сэм Альтман допускал необходимость сдерживания темпов создания передовых систем при условии, что крупнейшие конкуренты будут действовать совместно. Руководитель Google DeepMind Демис Хассабис также назвал направление разумным, хотя отметил необходимость более детальной проработки конкретных механизмов.
Илон Маск, в свою очередь, выступил за усиление внешнего контроля над разработчиками искусственного интеллекта и предложил использовать независимую проверку моделей, в том числе со стороны конкурирующих компаний. Такой подход должен снизить вероятность того, что опасные возможности ИИ останутся незамеченными внутри самой организации-разработчика.
Президент США Дональд Трамп занял противоположную позицию. Он отверг предложения сознательно замедлить разработку искусственного интеллекта и заявил, что Соединенные Штаты должны сохранить лидерство в технологической гонке. По его мнению, чрезмерные ограничения способны ослабить позиции страны и позволить Китаю быстрее сократить существующее отставание.
Трамп также скептически отнесся к предупреждениям о возможной потере контроля над ИИ, назвав часть подобных опасений преувеличенными. Для администрации приоритетом остается сохранение американского технологического превосходства, поскольку лидерство в области искусственного интеллекта рассматривается как важный фактор будущего экономического и военного влияния.
Разногласия существуют и внутри Конгресса. Спикер Палаты представителей Майк Джонсон выступает против моратория на разработку передовых систем, опасаясь, что США в таком случае уступят Китаю. Он считает, что основная ответственность за безопасность должна лежать на самих технологических компаниях, а не на жестких федеральных ограничениях.
Представители Демократической партии, включая сенатора Криса Кунса и лидера меньшинства в Палате представителей Хакима Джеффриса, напротив, призывают разработать правила до того, как возможности ИИ станут значительно сложнее для контроля. Они считают, что ожидание серьезного инцидента перед введением регулирования может оказаться слишком рискованным.
Советник администрации по вопросам науки и технологий Дэвид Сакс также дал понять, что ИИ-компаниям не требуется специальное разрешение Вашингтона, чтобы добровольно вводить собственные ограничения. Фактически власти предлагают разработчикам самостоятельно решать, насколько быстро двигаться вперед, не превращая такие меры в обязательную государственную политику.
Спор показывает главное противоречие современной гонки искусственного интеллекта. Даже если крупнейшие разработчики признают необходимость замедления ради безопасности, практическая реализация такого подхода требует международной координации. Пока же опасение уступить конкурентам, прежде всего Китаю, остается одним из главных аргументов против любых обязательных ограничений темпов развития ИИ.