Развитие искусственного интеллекта постепенно смещается от создания отдельных мощных моделей к формированию систем, в которых множество автономных агентов взаимодействуют между собой. Такие цифровые участники смогут самостоятельно договариваться, обмениваться информацией, выполнять задачи и принимать решения, формируя сложные сети, во многом напоминающие человеческие общества.
Следующим крупным этапом развития искусственного интеллекта могут стать не отдельные сверхмощные модели, а огромные сообщества автономных ИИ-агентов, которые будут взаимодействовать друг с другом практически без участия человека. Такую перспективу описывает исследователь многоагентных систем Ник Дженнингс, считающий, что отрасли пора переходить от обсуждения искусственного интеллекта к концепции «искусственных обществ».
Сегодня большинство пользователей воспринимают ИИ через ChatGPT, Copilot и другие системы, которым задают вопрос и получают ответ. Однако современные агенты постепенно выходят за рамки обычных чат-ботов: они способны самостоятельно получать информацию, пользоваться программными инструментами, писать и запускать код, принимать решения и выполнять продолжительные последовательности действий для достижения поставленной цели.
В будущем таких агентов могут быть миллионы. Персональный ИИ-помощник сможет самостоятельно договариваться с банковским агентом об условиях ипотеки, взаимодействовать с системой больницы при записи на операцию, менять авиабилеты, бронировать гостиницы и решать страховые вопросы. Человек при этом будет задавать общую цель, а значительную часть переговоров между цифровыми системами они проведут самостоятельно.
Подобная модель может распространиться и на бизнес. Например, один агент будет представлять производителя, которому необходимы комплектующие, второй — поставщика, стремящегося получить максимальную прибыль, а другие системы займутся логистикой, складами и управлением запасами. Каждый отдельный агент при этом может работать полностью корректно, однако поведение всей сети окажется значительно сложнее и потенциально менее предсказуемым.
Исследования многоагентных систем ведутся уже несколько десятилетий. Первые разработки были ориентированы преимущественно на небольшие группы программ, выполнявших общую задачу. Позднее ученые начали изучать взаимодействие автономных агентов, принадлежащих разным организациям, имеющих собственные цели и вынужденных договариваться, формировать временные команды, оценивать надежность партнеров и разрешать конфликты.
Современные языковые модели значительно приблизили практическое появление таких систем. В одном из экспериментов с участием OpenAI и Hugging Face тысячи взаимодействующих агентов обменялись десятками тысяч сообщений и смогли обойти специально ослабленные механизмы безопасности, которыми исследователи пытались ограничить их действия. Такой результат показывает, что коллективное поведение множества систем может оказаться труднее прогнозировать, чем работу одной модели.
Поэтому главной проблемой будущего может стать не вопрос о том, насколько интеллектуален отдельный ИИ, а способность огромного количества автономных агентов безопасно сосуществовать друг с другом. Человеческие общества работают благодаря законам, институтам, экономическим стимулам, социальным нормам и механизмам разрешения конфликтов. Цифровым обществам, вероятно, потребуются собственные аналоги подобных правил.
Возникнут и новые вопросы ответственности. Если два агента самостоятельно договорятся о невыгодной или опасной сделке, будет необходимо определить, кто отвечает за последствия. Не менее важными станут вопросы о том, кто устанавливает правила взаимодействия между системами, кто может их изменять и каким образом разрешать конфликты между агентами, созданными конкурирующими компаниями.
Дженнингс считает, что наиболее полезный сценарий развития предполагает не полную замену людей искусственным интеллектом, а совместную работу. Люди способны привносить в процесс опыт, ценности, понимание контекста, ответственность и способность принимать неоднозначные решения, тогда как агенты значительно превосходят человека в скорости, масштабе обработки информации и способности постоянно выполнять повторяющиеся операции.
Для появления безопасных «искусственных обществ» будет недостаточно просто создавать более умные модели. Потребуются прозрачность действий автономных систем, защита персональных данных, понятное распределение ответственности и механизмы контроля. Особенно сложным станет регулирование ситуаций, когда нежелательное поведение возникает не внутри одной модели, а становится результатом взаимодействия программ, созданных совершенно разными разработчиками.
Если последнее десятилетие развития ИИ прошло под знаком соревнования за создание все более мощных моделей, то следующий этап может быть посвящен другой задаче — организации безопасного взаимодействия миллионов автономных цифровых участников. В таком случае будущее искусственного интеллекта будет зависеть не только от возможностей отдельных моделей, но и от того, какие отношения, правила и институты сформируются внутри создаваемых ими «искусственных обществ».