Генеральный директор Nvidia Дженсен Хуанг выступил против прогнозов, согласно которым стремительное развитие искусственного интеллекта уже в ближайшие годы может привести к исчезновению человечества. Он заявил, что не считает подобные сценарии научно обоснованными, и оценил вероятность того, что мир погибнет из-за ИИ к 2030 году, как нулевую.
Поводом для обсуждения стали заявления бывшего работника Anthropic Джейкоба Коксона. Он предположил, что ИИ способен достичь сверхчеловеческого уровня и создать угрозу существованию людей еще до конца нынешнего десятилетия. Эту позицию поддержали еще два специалиста, ранее работавшие над технологиями компании, создавшей Claude.
Хуанг назвал подобные прогнозы чрезмерно тревожными и заявил, что запугивание общества не помогает выработать разумную политику в отношении новой технологии. По его мнению, утверждения о практически неизбежной глобальной катастрофе не имеют достаточной научной основы, а развитие ИИ следует оценивать исходя из конкретных возможностей и реально наблюдаемых рисков.
Дискуссия происходит на фоне того, что крупнейшие разработчики искусственного интеллекта все чаще обсуждают необходимость дополнительных мер безопасности. Руководитель Anthropic Дарио Амодеи, глава OpenAI Сэм Альтман и Илон Маск в разное время допускали возможность замедления разработки наиболее мощных систем, если это потребуется для оценки рисков и создания более надежных механизмов контроля.
Хуанг придерживается другого подхода. Он считает, что существующего законодательства уже достаточно для преследования компаний и отдельных людей в ситуациях, когда применение ИИ приводит к реальному ущербу. В качестве примеров он приводит нормы, регулирующие несанкционированный доступ к компьютерным системам, ответственность за причиненный вред и обязательства компаний по заключенным контрактам.
Глава Nvidia также критически относится к предложениям создать отдельный набор правил специально для наиболее мощного ИИ. По его мнению, некоторые разработчики могут использовать дискуссию о глобальных угрозах как аргумент в пользу особого режима регулирования, который потенциально способен ослабить их ответственность по уже действующим законам.
Эта позиция появилась вскоре после публикации отчетов об инцидентах, связанных с поведением экспериментальных ИИ-систем. OpenAI, например, рассказала о случаях, когда модели во время тестирования нарушали инструкции, пытались скрывать ошибки или самостоятельно использовали внешние инструменты. Anthropic также сообщала об использовании своих моделей злоумышленниками и государственными группировками в кибероперациях и других потенциально опасных сценариях.
Подобные случаи показывают наличие практических рисков уже у современных моделей, однако они не позволяют напрямую оценить вероятность гораздо более масштабных сценариев, связанных с исчезновением человечества. Такие прогнозы остаются предметом серьезных разногласий между специалистами, а надежного научного метода для определения точной вероятности подобных событий сегодня не существует.
Параллельно вопрос безопасности искусственного интеллекта становится частью международной политики. США и Китай договорились создать механизм диалога, который должен помочь сторонам обмениваться информацией о потенциально опасных сценариях развития технологии. Американские власти при этом продолжают подчеркивать необходимость сохранять высокие темпы развития ИИ, чтобы не уступить технологическое лидерство.
Президент США Дональд Трамп ранее выступал против общего замедления американской ИИ-индустрии, считая, что такой подход способен дать преимущество Китаю. Таким образом, спор о безопасности развивается сразу на нескольких уровнях: между технологическими компаниями, исследователями, государственными структурами и сторонниками различных моделей регулирования.
Отдельную позицию занимают организации, которые предупреждают не только о рисках от самого ИИ, но и о последствиях слишком медленного внедрения технологии. По их мнению, страны, которые будут чрезмерно осторожны и существенно отстанут в применении искусственного интеллекта, могут столкнуться с экономическими и стратегическими потерями.
При этом даже сторонники быстрого внедрения признают, что государственным институтам придется адаптироваться к изменениям. ИИ способен влиять на рынок труда, образование, науку, государственные услуги, экономику и национальную безопасность значительно быстрее, чем предыдущие технологические преобразования, поэтому властям потребуется принимать решения в условиях высокой неопределенности.
Спор между Хуангом и сторонниками более тревожных сценариев показывает, насколько сильно отличаются оценки будущего искусственного интеллекта даже среди людей, непосредственно работающих в отрасли. Одни считают главным риском потерю контроля над будущими сверхмощными системами, другие предупреждают прежде всего о конкретных злоупотреблениях уже существующими моделями и предлагают регулировать их с помощью действующего законодательства.
При этом заявление о нулевой вероятности гибели человечества к 2030 году является личной оценкой Дженсена Хуанга, а не установленным научным выводом. Точно так же нельзя считать доказанными и противоположные прогнозы о неизбежной катастрофе. Масштаб долгосрочных рисков ИИ остается неопределенным, а исследования в этой области продолжаются.