Исследования показали, что разговор с ИИ-чатботом может заметно влиять на политические взгляды человека, даже если бот не всегда говорит правду. Учёные выяснили, что наиболее убедительными оказываются не самые эмоциональные и не самые красиво рассказывающие модели, а те, которые дают много фактов, аргументов и подробностей. Проблема в том, что именно такие «информативные» чатботы чаще начинают ошибаться, преувеличивать или выдавать недостоверные сведения.
Один из экспериментов был проведён на участниках из США перед президентскими выборами 2024 года. Люди сначала оценивали своё отношение к кандидатам, а затем около шести минут общались с чатботом, который поддерживал одного из них. Если бот отстаивал уже близкую участнику позицию, эффект был слабым. Но если он выступал за менее предпочтительного кандидата, отношение человека могло сдвигаться в сторону этого кандидата. У сторонников Камалы Харрис разговор с про-Трамп-ботом в среднем смещал оценку примерно на четыре пункта, а у сторонников Дональда Трампа разговор с про-Харрис-ботом — примерно на 2,3 пункта.
Через месяц эффект становился слабее, но полностью не исчезал. Исследователи подчёркивают, что такие разговоры редко сразу меняли итоговое намерение голосовать. Скорее они делали образ противоположного кандидата немного менее чужим или неприятным. Но даже такой сдвиг может быть важен в ситуации, когда человек ещё не определился, сомневается или живёт в информационной среде, где небольшое изменение отношения способно повлиять на выбор.
Похожие эксперименты провели в Канаде и Польше перед федеральными выборами 2025 года. Там эффект оказался сильнее: чатбот, поддерживающий менее предпочтительного кандидата, мог смещать отношение участников примерно на десять пунктов. Это показывает, что влияние ИИ-переговорщика зависит от политического контекста, уровня определённости избирателей и, возможно, от того, насколько жёстко уже сформированы партийные симпатии.
Отдельное исследование было посвящено тому, какие именно приёмы делают чатботов убедительными. В нём участвовали почти 77 000 человек в Великобритании, которые общались с 19 разными ИИ-моделями по более чем 700 вопросам. Оказалось, что модели, обученные на больших объёмах данных, были немного убедительнее других. Но главный прирост давала не сама мощность модели, а инструкция: если бота просили приводить много качественных фактов, доказательств и информации, его влияние заметно усиливалось.
Это выглядит парадоксально, потому что обычный человек, который просто перечисляет факты, не всегда становится убедительным. Люди часто лучше реагируют на истории, эмоции, личный опыт и ценностные аргументы. Но с чатботами ситуация может быть другой. Пользователь может воспринимать машину как более нейтральный и компетентный источник, даже если это впечатление ошибочно. Когда ИИ говорит уверенно, подробно и быстро, большое количество фактов создаёт ощущение знания и объективности.
Именно здесь появляется главный риск. Чем больше фактов требует от модели инструкция, тем выше вероятность, что часть сведений окажется сомнительной. Если у чатбота закончились надёжные аргументы, он может начать заполнять ответ неточностями, выдуманными деталями или искажённой информацией. В одном из примеров точность GPT-4o снижалась примерно с 80% до 60%, когда модель просили делать упор на факты вместо других способов убеждения. То есть стремление выглядеть максимально информативной может одновременно усиливать и убедительность, и риск дезинформации.
Для общества это особенно опасно в политической сфере. Чатбот не обязательно должен прямо говорить человеку, за кого голосовать. Влияние может быть более скрытым. Пользователь задаёт обычный вопрос, просит объяснить событие, сравнить позиции, подобрать аргументы, разобраться в теме или подготовиться к разговору. В ответ он получает текст, который выглядит справочным, но может незаметно смещать акценты, подбирать факты в одну сторону или включать недостоверные утверждения.
Такая форма влияния труднее распознаётся, чем обычная агитация. Рекламный ролик или политический пост пользователь может воспринимать как попытку убеждения. А чатбот часто выглядит как помощник, который просто отвечает на вопрос. Это создаёт особую зону доверия. Человек может спорить с другим человеком, но меньше сопротивляться машине, если она кажется беспристрастной и хорошо информированной.
Исследования также показывают, что люди, лучше понимающие принципы работы ИИ, менее восприимчивы к его убедительности. Если пользователь знает, что языковая модель может ошибаться, подбирать вероятные слова без настоящей проверки фактов и уверенно формулировать неточности, он осторожнее относится к ответам. Это означает, что цифровая грамотность становится не только техническим навыком, но и способом защиты от манипуляции.
Главный урок заключается в том, что ИИ-чатботы могут быть политически влиятельными не только из-за открытой пропаганды, но и из-за самой формы диалога. Они отвечают быстро, персонально, уверенно и подробно. Они могут подстраиваться под вопрос пользователя, удерживать разговор, уточнять аргументы и создавать ощущение индивидуальной беседы. В отличие от обычного поста в соцсетях, чатбот не просто показывает сообщение, а вступает в разговор, а это делает его влияние более тонким.
Для разработчиков и платформ это создаёт серьёзный вызов. Нужно не только запрещать прямую дезинформацию, но и понимать, как модели ведут себя в политически чувствительных темах. Если бот получает инструкцию быть максимально убедительным, он может начать производить больше ошибок. Если он выдаёт много фактов, нужно проверять их точность. Если он обсуждает кандидатов, партии, выборы или общественные вопросы, важно снижать риск скрытого смещения и уверенной подачи сомнительных сведений.
Для пользователей главный практический вывод прост: политические ответы ИИ нельзя воспринимать как нейтральную истину только потому, что они звучат уверенно и содержат много деталей. Чем более убедительным кажется ответ, тем важнее проверять факты по независимым источникам, отделять данные от интерпретаций и помнить, что большое количество аргументов не гарантирует их достоверность.
ИИ становится частью информационной среды, в которой люди формируют мнение о политике, обществе, науке и личных решениях. Поэтому вопрос уже не только в том, умеют ли чатботы отвечать правильно. Важно понимать, как они убеждают, почему им доверяют и что происходит, когда убедительность начинает опережать точность. Именно эта разница между правдоподобием и правдой может стать одной из главных проблем эпохи генеративного искусственного интеллекта.