Бывший работник Google DeepMind Билал Чугтай предупредил, что быстрое развитие искусственного интеллекта в долгосрочной перспективе может представлять угрозу для всего человечества. По его мнению, времени для предотвращения наиболее опасного сценария становится меньше, а нынешняя конкуренция между ведущими ИИ-компаниями затрудняет выработку общих мер безопасности.
Чугтай ранее занимался в Google DeepMind вопросами безопасности AGI и проблемой согласования поведения искусственного интеллекта с человеческими целями. Он работал инженером в исследовательском подразделении и покинул компанию в июле 2026 года. После ухода Чугтай заявил, что всерьез рассматривает возможность того, что будущие ИИ-системы смогут привести к катастрофическим последствиям.
При этом подобные оценки остаются крайне неопределенными и не являются научно установленными прогнозами. Вероятность появления систем, способных привести к настолько масштабным последствиям, невозможно надежно рассчитать на основе имеющихся сегодня данных, а сроки и дальнейшее направление развития ИИ остаются предметом серьезных дискуссий даже среди профильных экспертов.
Это не первое подобное предупреждение со стороны работников крупнейших ИИ-лабораторий. Ранее сотрудник Anthropic Джейкоб Коксон сообщил об уходе из компании и отметил, что часть людей, непосредственно занимающихся созданием передовых моделей, действительно допускает сценарий, при котором развитие технологии может угрожать существованию человечества уже до конца десятилетия.
Другой работник Anthropic, Эван Хубингер, поддержал эту оценку и заявил, что считает вероятность гибели человечества из-за ИИ в ближайшие десять лет превышающей 10%. Подобные оценки остаются предметом серьезных споров и во многом являются экспертными суждениями, однако они показывают, насколько сильно расходятся взгляды на допустимые темпы дальнейшего развития наиболее мощных моделей.
На фоне этих заявлений генеральный директор Anthropic Дарио Амодеи вновь призвал снизить скорость разработки передовых ИИ-систем. Его позицию поддержали Илон Маск и глава OpenAI Сэм Альтман. Альтман ранее допускал возможность замедления разработки при условии, что аналогичные меры одновременно примут и крупнейшие конкуренты.
Сам Чугтай считает, что безопасное развитие искусственного интеллекта все еще возможно. Для этого компаниям, по его мнению, необходимо отказаться от неконтролируемой гонки за наиболее мощными моделями и начать координировать свои действия. Темпы прогресса должны позволять разработчикам и обществу оценивать новые риски раньше, чем они приведут к серьезным последствиям.
Главная проблема заключается в том, что добровольное замедление одной компании может дать конкурентное преимущество другим разработчикам. Поэтому ограничение скорости развития ИИ становится не только технической задачей, но и вопросом международной политики. Особенно остро эта проблема проявляется в условиях технологического соперничества США и Китая.
Президент США Дональд Трамп занимает значительно более скептическую позицию относительно подобных предупреждений. Он отверг призывы к усилению регулирования ИИ и назвал их преувеличенными. Американская администрация опасается, что серьезные ограничения для национальных разработчиков позволят Китаю быстрее сократить технологический разрыв.
Дискуссия вокруг предупреждений Чугтая показывает, что внутри самой ИИ-индустрии пока нет единого мнения о допустимом уровне риска. Одни эксперты считают необходимым заранее ограничить темпы развития наиболее мощных систем, тогда как другие опасаются, что замедление окажется практически невозможным без одновременных международных договоренностей и контроля над их соблюдением.