Американский сенатор Берни Сандерс и член Палаты представителей Грег Касар предложили законопроект, который должен запретить разработку и использование искусственного сверхинтеллекта в США. За умышленное нарушение предусмотренных запретов физическим лицам может грозить до 20 лет лишения свободы — наказание авторы инициативы сравнивают с действующими мерами за незаконную разработку ядерного оружия.
Документ получил название Ban Artificial Superintelligence Act. Его ключевая идея заключается не в полном запрете искусственного интеллекта, а в остановке разработки систем, которые способны превзойти человеческий интеллект, уклоняться от контроля или игнорировать команды на отключение. Одновременно предлагается временно приостановить создание наиболее передовых моделей до появления полноценной федеральной системы регулирования.
Авторы инициативы хотят создать отдельное федеральное ведомство кабинетного уровня, которое будет контролировать разработку наиболее мощных ИИ-систем. Новый регулятор должен следить за моделями на всех этапах их жизненного цикла, выявлять опасные возможности и при необходимости требовать их удаления. В крайних случаях ведомство сможет контролировать уничтожение систем, признанных искусственным сверхинтеллектом.
Для компаний предусмотрены особенно жесткие последствия. В проекте упоминается так называемая корпоративная смертная казнь — фактическая возможность прекращения деятельности организации за попытку обойти установленные ограничения. Для отдельных разработчиков и руководителей максимальное наказание может составить 20 лет тюрьмы.
Сандерс и Касар объясняют необходимость столь строгих мер опасениями, что передовые ИИ-системы развиваются быстрее механизмов безопасности. Они указывают на случаи, когда модели и автономные агенты демонстрировали неожиданное поведение, получали доступ к внешним системам или находили способы обходить ограничения, установленные разработчиками.
По мнению инициаторов документа, добровольных обещаний недостаточно, поэтому подобные ограничения необходимо закрепить на уровне закона. Инициатива предполагает не только внутреннее регулирование США. Вашингтону предлагается добиваться международных соглашений, которые должны препятствовать разработке искусственного сверхинтеллекта и в других странах. Для этого могут использоваться договоренности с союзниками, ограничения на экспорт технологий и другие инструменты международной политики.
При этом перспективы принятия законопроекта пока остаются неопределенными. Столь жесткий запрет может встретить серьезное сопротивление в Конгрессе со стороны сторонников ускоренного развития американской ИИ-индустрии. Один из основных аргументов против ограничений заключается в том, что слишком сильное замедление разработок в США способно предоставить технологическое преимущество другим странам.
Предложение Сандерса и Касара показывает, насколько быстро меняется отношение американских политиков к наиболее мощным ИИ-системам. Еще недавно основное обсуждение касалось защиты персональных данных и авторских прав, тогда как теперь в Конгрессе появляются инициативы, предусматривающие фактический запрет определенного класса искусственного интеллекта и уголовную ответственность за его разработку.