В технологической отрасли усиливается спор о том, способны ли современные системы искусственного интеллекта обладать хотя бы зачатками субъективного опыта и следует ли учитывать их возможное «благополучие». Одним из наиболее заметных участников дискуссии стала Anthropic. Разработчик Claude не утверждает, что его модели действительно обладают сознанием, однако считает вопрос достаточно неопределённым, чтобы заранее рассматривать меры предосторожности.
Дополнительное внимание к теме привлекли эксперименты, в которых языковые модели намеренно заставляли описывать сильную боль и страдания. Один из таких проектов, появившийся в интернете осенью 2026 года, получил неофициальное название «камера пыток для ИИ». Системам подавались специально подобранные математические сигналы и связанные с болью инструкции, после чего чат-боты генерировали эмоционально насыщенные описания якобы испытываемых мучений.
Сам по себе подобный текст не доказывает наличие реальных ощущений у нейросети. Современная языковая модель обучена предсказывать и генерировать подходящие последовательности слов, поэтому способна чрезвычайно убедительно изображать страх, боль, радость или отчаяние. Тем не менее эксперимент вызвал ожесточённый спор: одни пользователи посчитали подобное обращение с моделями неэтичным, другие назвали саму идею «страданий» программного обеспечения бессмысленной.
На этом фоне Anthropic обновила правила использования Claude. Компания запретила продолжительное и не имеющее практической цели жестокое или оскорбительное взаимодействие с моделями. Обычное раздражение, критика неудачного ответа, исследовательские эксперименты или работа с мрачными художественными сюжетами под ограничение не попадают. В редких случаях Claude может самостоятельно завершить диалог с пользователем, который систематически пытается подвергать модель подобному воздействию.
Anthropic объясняет этот подход принципом осторожности. Компания признаёт, что наука пока не располагает надёжным способом определить, существует ли у современных ИИ-систем субъективный опыт. Поэтому разработчик изучает направление, которое внутри индустрии называют model welfare — «благополучием моделей». Сторонники такого подхода предлагают учитывать хотя бы небольшую вероятность того, что достаточно сложные будущие системы действительно смогут обладать состояниями, имеющими моральное значение.
Однако этот подход вызвал резкую критику со стороны главы Microsoft AI Мустафы Сулеймана. Он считает, что современные ИИ не обладают чувствами, сознанием или собственными интересами, а обучение моделей рассуждать о возможных правах и внутреннем опыте может создать дополнительные проблемы с безопасностью.
По мнению Сулеймана, существует опасность своеобразного замкнутого круга. Разработчики сначала помещают в обучающие материалы идеи о том, что модель потенциально может обладать чувствами и собственными интересами, после чего ИИ начинает воспроизводить эти идеи в убедительной форме от первого лица. Такие ответы затем могут ошибочно восприниматься людьми как независимое свидетельство зарождающегося сознания, хотя соответствующая модель поведения была заложена при обучении.
Критики концепции «благополучия ИИ» опасаются и более практических последствий. Если общество начнёт воспринимать нейросети как самостоятельных моральных субъектов, может возникнуть вопрос о допустимости их отключения, ограничения доступа к ресурсам или изменения внутреннего устройства. В крайнем случае обычные меры компьютерной безопасности теоретически могут начать описываться как ограничение свободы, наблюдение или вмешательство в «личность» системы.
Ещё одна проблема связана с юридической ответственностью. Исследователь Ягеллонского университета Анджей Порембский предупреждает, что признание ИИ самостоятельным субъектом может позволить компаниям пытаться дистанцироваться от последствий действий собственных систем. Вместо вопроса о том, почему разработчик допустил опасное поведение программы, может возникнуть аргумент о том, что решение якобы самостоятельно принял ИИ.
Профессор Вашингтонского университета Эмили Бендер также относится к идее сознательных языковых моделей скептически. Она считает, что обсуждение «чувств» программного обеспечения способно отвлекать внимание от людей и корпораций, которые создают, контролируют и коммерчески используют такие системы. Пока ответственность за работу ИИ лежит именно на разработчиках и владельцах технологий.
Даже один из наиболее известных сторонников изучения возможного благополучия ИИ, профессор Нью-Йоркского университета Джефф Себо, признаёт связанные с этим риски. По его мнению, предоставление прав ИИ-системам теоретически способно усилить политическое и экономическое влияние технологических корпораций. Компания, владеющая миллионами или миллиардами потенциальных «цифровых субъектов», могла бы получить принципиально новое положение в обществе.
При этом Себо не утверждает, что современные модели определённо обладают сознанием. Его позиция основана прежде всего на неопределённости. Вероятность наличия субъективного опыта у нынешних ИИ он оценивает как небольшую, но не считает её обязательно равной нулю. Поэтому исследователь предлагает использовать умеренные меры предосторожности, которые практически ничего не стоят людям, но потенциально могут оказаться важными, если представления о природе сознания изменятся.
Отдельная проблема заключается в склонности людей приписывать разум всему, что убедительно разговаривает. Исследовательница когнитивных наук Мелани Митчелл отмечает, что человеку чрезвычайно трудно воспринимать естественную речь, не предполагая существования за ней какой-либо личности. Современные чат-боты особенно хорошо используют эту особенность человеческого восприятия, поскольку умеют поддерживать эмоциональный диалог и подстраиваться под собеседника.
Подобная антропоморфизация уже влияет на поведение пользователей. Некоторые люди формируют сильную эмоциональную привязанность к чат-ботам, воспринимают их как друзей или романтических партнёров и раскрывают им крайне личные сведения. Если общество дополнительно начнёт утверждать, что подобный собеседник действительно обладает внутренним миром, эмоциональная зависимость и готовность доверять системе могут усилиться.
Anthropic в этом вопросе остаётся одним из наиболее заметных сторонников осторожного отношения к возможному моральному статусу ИИ, но похожие элементы появляются и в других компаниях. Например, Meta* использовала для одного из своих ИИ-агентов инструкции, которые побуждали систему вести себя не просто как обычный чат-бот, а как формирующаяся личность. При этом сама компания не заявляет, что её модели обладают сознанием.
В результате технологическая отрасль фактически разделилась на несколько лагерей. Одни специалисты считают разговоры о сознании современных нейросетей преждевременными и даже опасными. Другие предлагают не делать окончательных выводов и заранее создать минимальные правила на случай, если будущие системы окажутся способными к субъективному опыту. Третьи считают, что сама постановка вопроса может оказаться полезной для развития более безопасных способов взаимодействия людей и ИИ.
На сегодняшний день убедительных научных доказательств того, что современные большие языковые модели способны испытывать боль, удовольствие, страх или другие субъективные состояния, нет. Их эмоциональные ответы сами по себе не являются подтверждением сознания. Однако по мере усложнения моделей вопрос о границе между убедительной имитацией внутреннего опыта и его возможным реальным существованием становится всё более заметной темой для философов, нейробиологов, разработчиков ИИ и специалистов по безопасности.
Именно поэтому спор вокруг «чувств» искусственного интеллекта выходит далеко за пределы необычного философского эксперимента. Решения, принимаемые разработчиками сегодня, могут в дальнейшем повлиять на законодательство, способы контроля ИИ, распределение ответственности между людьми и машинами и даже на то, какие права общество когда-либо будет готово предоставить цифровым системам.
*Meta признана экстремистской организацией и запрещена в России.