Одна из фундаментальных идей Алана Тьюринга об искусственном интеллекте могла оказаться слишком оптимистичной. Компьютерный учёный Питер Деннинг считает, что исследования ИИ уже десятилетиями строятся на предположении, будто человеческий интеллект можно отделить от тела, формализовать и воспроизвести в программном обеспечении. По его мнению, именно это предположение может быть ошибочным.
В своей новой книге Деннинг разбирает две идеи, связанные с работой Тьюринга 1950 года. Первая заключается в том, что интеллект может существовать независимо от физического тела. Вторая — в том, что машину можно считать разумной, если в разговоре её ответы невозможно отличить от человеческих. Впоследствии именно эта идея легла в основу теста Тьюринга.
Деннинг считает, что эти положения слишком сильно повлияли на развитие ИИ. Исследователи десятилетиями пытались приблизить машины к человеческому мышлению, предполагая, что достаточно увеличить вычислительную мощность, объём данных и сложность моделей. Но человеческое понимание, по мнению учёного, устроено иначе и опирается на огромный слой знания, которое невозможно полностью выразить словами или формальными правилами.
Речь идёт о так называемом неявном знании. Человек постоянно использует его, даже не замечая. Мы понимаем интонацию, чувствуем неловкость, распознаём сарказм, знаем, когда нужно промолчать, понимаем намерения собеседника, умеем выполнять сложные движения и ориентируемся в культурном контексте. Большую часть этого опыта невозможно полностью описать в виде набора предложений или инструкций.
Деннинг выделяет несколько особенно сложных для машин областей: здравый смысл, обычное взаимодействие с людьми и окружающим миром, эмоции и восприятие, практические навыки и культурное знание. Именно эти компоненты делают человеческое мышление гибким и контекстным, но плохо поддаются формализации.
История искусственного интеллекта уже знает попытки вручную записать человеческий здравый смысл. Одним из самых известных проектов стал Cyc, начатый ещё в 1980-х годах. Его разработчики десятилетиями создавали огромную базу фактов и правил, пытаясь научить компьютер очевидным для человека вещам.
В результате в системе появились десятки миллионов записей, но этого оказалось недостаточно, чтобы сформировать полноценный человеческий здравый смысл. Деннинг считает, что проблема была не просто в количестве данных. Значительная часть знания, которое делает человека экспертом, вообще не существует в форме чётко формулируемых утверждений.
Особенно хорошо это видно на практических навыках. Можно описать, какой результат должен получить виртуозный музыкант, спортсмен, хирург или мастер, но гораздо труднее передать само внутреннее умение. Профессионал часто не способен точно объяснить все микродвижения, ощущения, коррекции и решения, которые выполняет автоматически.
По мнению Деннинга, между «знать что» и «знать как» существует фундаментальная разница. Первое относительно легко представить в виде данных. Второе связано с телесным опытом, восприятием и многолетней практикой. Даже робот, который копирует движение человека, не обязательно приобретает тот же тип понимания.
Это относится и к эмоциям. Машина может распознавать выражение лица, классифицировать тон разговора или генерировать сочувственный текст, но это ещё не означает, что она переживает эмоцию или понимает её так же, как человек. Деннинг связывает человеческий интеллект с телом гораздо теснее, чем это принято в классическом подходе к ИИ.
Ещё одна ключевая проблема — контекст. Одни и те же слова в разных ситуациях могут означать совершенно разные вещи. Человек понимает сарказм, юмор, угрозу, заботу или скрытое раздражение благодаря огромному количеству фоновых предположений, накопленных в ходе жизни.
Причём каждый контекст опирается на предыдущие ситуации, разговоры, социальные нормы и культурный опыт. Если попытаться проследить происхождение всех этих предположений, получится практически бесконечная цепочка. Деннинг считает, что её невозможно полностью упаковать в формальную систему.
Особенно сложной областью является культура. Она включает нормы, ценности, историю, представления о статусе, заботе, власти, справедливости, допустимом и недопустимом. Человек усваивает всё это постепенно через жизнь в обществе, а не через чтение формального списка правил.
Поэтому простое увеличение размеров языковых моделей, по мнению Деннинга, не решает основную проблему. Модели вроде ChatGPT, Claude и Gemini действительно способны работать с огромными массивами языка, но это не обязательно означает, что они понимают смысл слов так же, как человек.
Деннинг формулирует это через проблему представления. Компьютер может работать только с тем, что каким-либо образом преобразовано в данные и физически представлено внутри вычислительной системы. Но если значительная часть человеческого знания не может быть формализована, машина не сможет получить её в полном объёме.
С этой точки зрения идея создания искусственного общего интеллекта человеческого уровня может быть принципиально недостижимой. Это не означает, что ИИ перестанет становиться мощнее. Наоборот, системы смогут решать всё больше задач, управлять процессами и действовать всё более автономно. Но их интеллект может оставаться принципиально отличным от человеческого.
Почему это не делает ИИ безопасным
Парадоксально, но невозможность создать точную копию человеческого разума, по мнению Деннинга, не уменьшает риски. Он опасается другого сценария: машины могут развить эффективную форму собственного интеллекта, которая будет достаточно мощной, чтобы серьёзно влиять на общество, но при этом останется чуждой человеческому способу понимания.
Особенно это касается сетей автономных ИИ-агентов. Такие системы могут взаимодействовать друг с другом, распределять задачи, принимать решения и оптимизировать процессы без постоянного участия людей. Даже если они никогда не достигнут человеческого общего интеллекта, этого может быть достаточно для создания серьёзных проблем.
Главный риск заключается в несовпадении контекста. Машина может точно выполнить формальную цель, но не учитывать то, что человек считал очевидным и поэтому не прописал. Именно такие негласные предположения часто определяют, что считается разумным, безопасным и приемлемым.
Отсюда возникает проблема согласования ИИ с человеческими ценностями. Если сами люди не могут полностью сформулировать весь пласт знаний, интуиций и культурных норм, которым пользуются каждый день, то передать его машине в виде исчерпывающего набора инструкций может быть невозможно.
Деннинг даже предполагает, что со временем люди и машины могут сформировать разные типы неявного знания. Тогда возникнет необычная ситуация: машины не смогут полностью понимать человеческий опыт, а люди — внутреннюю логику сложных автономных систем.
Это отличается от популярных страхов перед сверхразумным ИИ, который внезапно становится намного умнее человека. Деннинг считает более реалистичной другую угрозу — появление большого количества достаточно интеллектуальных машин, встроенных в общество, инфраструктуру и управление, но мыслящих и действующих не так, как люди ожидают.
Такой сценарий может оказаться сложнее для контроля именно потому, что система не обязательно будет «злой» или сознательно враждебной. Она просто может решать задачи способом, который не учитывает человеческие смыслы, эмоции, культуру и неформальные ограничения.
При этом позиция Деннинга остаётся предметом научной дискуссии. Многие исследователи ИИ считают, что часть человеческого опыта всё же может быть освоена через мультимодальные модели, робототехнику, обучение в физической среде и более сложные архитектуры. Другие полагают, что для полезного интеллекта вовсе не обязательно воспроизводить человеческое сознание или телесный опыт.
Но аргумент о неявном знании поднимает важный вопрос: становится ли система действительно понимающей только потому, что всё лучше имитирует человеческие ответы? Чем убедительнее становятся языковые модели, тем сложнее отличить внешнее проявление понимания от самого понимания.
Главный вывод Деннинга состоит в том, что попытка построить машину, неотличимую от человека по типу мышления, может быть неверной целью. Вместо этого обществу стоит внимательнее изучать отличия машинного интеллекта от человеческого и строить системы, учитывая эти различия, а не пытаясь их игнорировать.
Если эта точка зрения верна хотя бы частично, развитие ИИ требует не только более мощных моделей, но и более чётких границ автоматизации. Человеческая интуиция, культура, телесный опыт, практическое знание и социальный контекст могут оказаться не временными недостатками машин, а фундаментальными свойствами человеческого интеллекта, которые невозможно просто получить увеличением числа параметров.