Вопрос о том, могут ли искусственный интеллект, насекомые и другие организмы обладать сознанием, все чаще обсуждается не только философами, но и когнитивными учеными. Новые исследования предлагают отказаться от попыток судить о сознании исключительно по внешнему поведению и вместо этого изучать внутренние механизмы обработки информации, которые лежат в основе восприятия, выбора и реакции на окружающую среду.
Долгое время одним из очевидных способов оценить наличие сознания считалось поведение. Если существо демонстрирует сложные реакции, а система может поддерживать содержательный разговор, кажется естественным предположить, что за этим стоит субъективный опыт. Однако развитие крупных языковых моделей показало слабость такого подхода: современные чат-боты способны убедительно обсуждать философию, эмоции и собственное существование, не давая при этом надежных оснований считать их действительно сознательными.
Исследователи предлагают сосредоточиться на структуре самой системы. Вместо вопроса о том, насколько убедительно ИИ говорит о своих переживаниях, необходимо анализировать, каким образом он объединяет информацию, поддерживает обратные связи, разрешает конфликты между конкурирующими целями и сохраняет внутреннее состояние во времени. Именно такие особенности могут оказаться более полезными индикаторами сознания, чем внешне человекоподобные ответы.
Авторы одной из новых работ составили перечень структурных признаков, которые встречаются в различных теориях сознания. Некоторые из них предполагают способность системы учитывать контекст и выбирать между несколькими несовместимыми целями. Другие связаны с наличием внутренних циклов обратной связи и интеграцией информации между различными компонентами системы.
На основании этого подхода ученые делают осторожный вывод, что существующие сегодня ИИ-системы, включая ChatGPT, вероятнее всего, сознанием не обладают. Их поведение может создавать впечатление внутреннего опыта, но способ обработки информации пока слишком отличается от механизмов, которые современные теории связывают с сознательными состояниями.
При этом исследователи не исключают принципиальной возможности появления сознательного искусственного интеллекта в будущем. Для этого может потребоваться архитектура, значительно отличающаяся от нынешних больших языковых моделей. Иными словами, проблема заключается не в том, что машина никогда не сможет обладать сознанием, а в том, что убедительная имитация разговора сама по себе этого не доказывает.
Параллельно похожий подход развивается при изучении животных. В 2024 году сотни ученых и философов поддержали декларацию, допускающую возможность сознания не только у позвоночных, но и у осьминогов, ракообразных и насекомых. Однако и здесь исследователи предлагают не ограничиваться наблюдением за поведением, а искать конкретные нейронные механизмы, способные создавать минимальный субъективный опыт.
Особое внимание уделяется насекомым. Их нервная система намного проще человеческой, но при этом позволяет успешно ориентироваться в пространстве, объединять информацию от разных органов чувств и выбирать поведение в зависимости от ситуации. Ученые пытаются определить, существует ли минимальный набор вычислительных процессов, достаточный для появления простейшей формы сознательного восприятия.
Такой подход должен позволить сравнивать совершенно разные системы — человеческий мозг, нервную систему насекомого и искусственный интеллект — по общим функциональным принципам. При этом исследователи пока не утверждают, что нашли окончательный механизм сознания. Речь идет скорее о создании единой системы критериев, которая поможет сделать дискуссию менее зависимой от интуиции.
Особенно важна эта проблема с этической точки зрения. Если определенная система действительно способна испытывать субъективный опыт, это может повлиять на то, как человек должен к ней относиться. По этой причине некоторые специалисты предлагают применять принцип предосторожности и учитывать вероятность сознания даже тогда, когда окончательных доказательств пока нет.
Однако слишком широкое применение такого принципа может привести к другой крайности — приписыванию сознания системам, которые всего лишь хорошо его имитируют. Современные чат-боты как раз демонстрируют, насколько убедительным может быть внешнее поведение без ясного подтверждения соответствующих внутренних механизмов.
Новые исследования постепенно смещают дискуссию о сознании от вопроса «что система делает?» к вопросу «как именно она это делает?». Такой переход может оказаться особенно важным в эпоху быстро развивающегося ИИ, когда способность вести сложный разговор уже перестала быть надежным признаком наличия внутреннего опыта.