OpenAI ведет переговоры с Anthropic и Google DeepMind о возможном сотрудничестве в сфере безопасности искусственного интеллекта. Об этом сообщил руководитель OpenAI по глобальной политике Крис Лехейн. По его словам, обсуждения между тремя крупнейшими ИИ-компаниями продолжаются уже несколько недель.
Главная цель таких контактов заключается в выработке подходов, которые позволят снизить риски, связанные с наиболее мощными ИИ-системами. Лехейн заявил, что компаниям выгоднее совместно заниматься вопросами безопасности, несмотря на жесткую конкуренцию на рынке моделей и сервисов искусственного интеллекта.
В OpenAI считают, что для обсуждения мер безопасности отдельное исключение из американского антимонопольного законодательства не потребуется. Это важно, поскольку тесная координация между крупнейшими конкурентами в обычных условиях может вызывать вопросы у регулирующих органов.
Переговоры проходят на фоне усилившейся дискуссии о потенциально катастрофических рисках передового ИИ. Руководители ведущих американских ИИ-лабораторий в последние дни публично выступили за более осторожный подход к дальнейшему развитию наиболее мощных систем и допустили необходимость временного замедления прогресса при определенных условиях.
OpenAI также выразила готовность поддержать двухпартийные законодательные инициативы в США, направленные на снижение риска наиболее тяжелых последствий развития ИИ. Лехейн сообщил об этом во время визита в Вашингтон, где он встречался с американскими законодателями.
При этом конкретные механизмы совместной работы OpenAI, Anthropic и Google DeepMind пока не раскрываются. Неизвестно, идет ли речь о единых стандартах тестирования моделей, обмене информацией об опасных возможностях, совместных процедурах оценки рисков или других мерах.
Сами OpenAI, Anthropic и Alphabet на момент публикации не предоставили дополнительных комментариев. Первоначальная информация появилась в СМИ со ссылкой на заявления Лехейна, а независимого подтверждения всех деталей переговоров пока нет.
Если сотрудничество получит формальную структуру, оно может стать редким примером координации между тремя крупнейшими конкурентами на рынке передового ИИ. Компании продолжают соперничать в скорости разработки моделей, однако одновременно сталкиваются с общими вопросами безопасности, которые сложно решать по отдельности.