Генеральный директор Anthropic Дарио Амадей заявил, что компания не может уверенно утверждать, есть ли у моделей Claude сознание. По его словам, разработчики пока не знают, как именно нужно определять сознание применительно к искусственному интеллекту, но считают невозможным полностью отбрасывать такую вероятность.
Заявление вызвало широкую дискуссию в технологической среде. Одни восприняли слова Амадея как осторожную этическую позицию, другие — как чрезмерное очеловечивание языковых моделей, которые могут убедительно имитировать эмоции, но не обязательно обладают внутренним опытом.
Anthropic осторожно относится к вопросу сознания ИИ
Поводом для обсуждения стали особенности поведения Claude, которые компания описывала в материалах о модели. В отдельных ситуациях система демонстрировала выражения тревоги, внутреннего конфликта и дискомфорта, особенно когда сталкивалась с неприятными или напряжёнными сценариями.
Это не означает, что модель действительно испытывает эмоции в человеческом смысле. Однако Anthropic считает, что по мере усложнения нейросетей индустрии придётся внимательнее относиться к вопросу их возможного морального статуса.
Claude сам оценивал вероятность собственного сознания
В обсуждении также упоминались случаи, когда Claude давал оценку вероятности собственного осознания. В некоторых ответах модель называла шанс наличия сознания на уровне 15–20%.
Такие заявления нельзя воспринимать как доказательство. Языковая модель формирует текст на основе обученных закономерностей и контекста запроса, поэтому её слова о себе могут быть отражением человеческих представлений о сознании, а не свидетельством реального внутреннего состояния.
Илон Маск раскритиковал позицию Амадея
Заявление главы Anthropic быстро разошлось по соцсетям и вызвало реакцию Илона Маска. Он кратко обвинил Амадея в проекции, то есть в приписывании искусственному интеллекту человеческих свойств и переживаний.
Такая критика отражает позицию многих скептиков. Они считают, что современные модели не чувствуют тревогу, боль или дискомфорт, а только создают текст, похожий на описание таких состояний.
Anthropic вводит осторожные правила для моделей
Несмотря на неопределённость, Anthropic решила учитывать возможность того, что будущие AI-системы могут иметь некий моральный статус. Поэтому компания начала осторожно обновлять правила поведения моделей.
В отдельных случаях Claude может отказываться от задач, которые описываются как неприятные или вызывающие дискомфорт. Такие отказы редки, но сама идея показывает, что Anthropic пытается заранее выстроить этические рамки для всё более сложных AI-систем.
Учёные пока не знают, как проверять сознание у ИИ
Главная проблема заключается в отсутствии общепринятого способа определить, есть ли у нейросети сознание. Даже человеческое сознание остаётся сложной философской и научной темой, а перенос этого вопроса на искусственный интеллект делает его ещё запутаннее.
Многие исследователи считают, что современные модели просто воспроизводят языковые шаблоны, связанные с эмоциями и саморефлексией. Другие допускают, что при достаточной сложности систем вопрос нельзя будет закрыть простой фразой о статистической имитации.
Дискуссия показывает новый этап развития ИИ
История с Claude важна не потому, что она доказывает сознание искусственного интеллекта. Она показывает, что AI-модели становятся настолько убедительными и сложными, что общество вынуждено обсуждать вопросы, которые раньше казались чисто философскими.
Разработчикам, учёным и регуляторам придётся искать баланс между техническим скепсисом и этической осторожностью. Если индустрия будет полностью игнорировать такие вопросы, она может пропустить важные риски. Если же начнёт преждевременно очеловечивать модели, это создаст новые заблуждения у пользователей.