Искусственный интеллект часто воспринимают как новую и почти загадочную технологию, хотя многие его элементы давно присутствуют в повседневной жизни. Прогноз погоды, рекомендации в сервисах, фильтрация спама, распознавание изображений, перевод, поиск и навигация уже много лет используют разные формы машинного обучения. Новым стало не само существование ИИ, а масштаб, доступность и универсальность современных больших языковых моделей.
На мероприятии Совета по международным отношениям технолог-резидент CFR Себастьян Элбаум объяснил, что искусственный интеллект лучше понимать как широкий набор методов, а не как одну конкретную программу. Внутри этого набора есть машинное обучение, которое ищет закономерности в данных. Есть глубокое обучение, где используются многослойные нейронные сети. А есть большие языковые модели, которые стали массово известны благодаря ChatGPT, Copilot, Gemini и другим похожим инструментам.
Главное отличие современных языковых моделей — универсальность. Раньше многие ИИ-системы создавались под узкую задачу: распознать объект на изображении, предсказать спрос, определить подозрительную операцию или классифицировать текст. Большие языковые модели умеют работать с большим числом задач одновременно: писать письма, переводить, суммировать документы, составлять таблицы, помогать с кодом, объяснять темы, анализировать сценарии и отвечать на вопросы в диалоговом формате.
Именно диалоговость резко снизила порог входа. Чтобы пользоваться такими моделями, не нужно быть программистом. Достаточно написать обычную фразу: попросить составить письмо, объяснить сложный термин, подготовить план, перевести текст или рассчитать примерную стоимость поездки. В этом смысле большие языковые модели стали не просто новым программным инструментом, а интерфейсом, через который человек может обращаться к компьютеру на естественном языке.
Однако за внешней простотой скрывается сложная статистическая система. Языковая модель не «понимает» текст так, как человек. В упрощенном виде она оценивает, какое слово или фрагмент текста наиболее вероятно должен появиться дальше с учетом запроса и контекста. Затем делает следующий шаг, потом еще один, пока не сформирует ответ. Чем больше данных, параметров и обучения, тем богаче становятся такие вероятностные связи.
Параметры можно представить как внутренние настройки модели, которые формируются во время обучения. В простом математическом примере параметров может быть всего несколько, но в больших языковых моделях их миллиарды. Именно поэтому обучение таких систем требует огромных вычислительных ресурсов, дорогих графических процессоров, больших наборов данных и значительного расхода энергии. Это одна из причин, почему передовые модели создают в основном крупные технологические компании и хорошо финансируемые лаборатории.
При этом разработчик не прописывает вручную миллиарды правил. Старый подход в программировании можно было описать как набор инструкций: если произошло одно событие, выполнить другое действие. В машинном обучении система сама находит закономерности в данных. Инженеры выбирают архитектуру, готовят данные, задают процесс обучения и проверяют результат, но сами внутренние параметры настраиваются автоматически во время многократных циклов обучения.
Такая природа объясняет и силу, и слабость современных моделей. Они могут быстро выполнять задачи, которые раньше занимали у человека много времени. Например, за пару минут подготовить черновик письма, перевести его на другой язык, составить таблицу расходов и предложить план действий. Но та же модель может уверенно ошибиться, если в данных не хватает информации, если запрос неоднозначен или если она неверно связала похожие понятия.
Одна из главных проблем — галлюцинации. Так называют ситуации, когда ИИ выдает правдоподобный, связный и уверенный ответ, но фактически ошибается. Модель может неправильно назвать число сотрудников организации, придумать несуществующие детали, исказить карту или дать красивую, но неверную оценку. Поэтому даже хорошо написанный ответ нельзя автоматически считать правильным. Важные факты нужно проверять.
Эта особенность особенно заметна в задачах, где требуется точность. Если модель помогает написать дружеское письмо, ошибка может быть легко исправлена. Если она используется в медицине, праве, финансах, военной сфере, дипломатии или кибербезопасности, цена ошибки становится намного выше. Поэтому полезность ИИ зависит не только от качества текста, но и от того, насколько правильно выбрана область применения и есть ли контроль со стороны специалиста.
Еще одна проблема — предвзятость. Модели обучаются на огромных массивах текстов, изображений и других данных, которые отражают уже существующие стереотипы общества. Если попросить создать образ медсестры, система может чаще показывать женщину. Если попросить показать технического директора, может чаще появиться мужчина. Это не обязательно результат сознательного выбора разработчиков, но следствие данных, на которых обучалась модель.
Такая предвзятость важна не только в генерации картинок. Она может проявляться в рекомендациях, отборе резюме, оценке рисков, автоматической модерации, кредитных решениях, образовательных инструментах и других системах. Если ИИ повторяет перекосы прошлого, он может закреплять неравенство в новых цифровых процессах. Поэтому модели нужно тестировать не только на точность, но и на справедливость, устойчивость и последствия для разных групп людей.
В политике и международных отношениях ИИ открывает большие возможности, но также создает новые риски. Такие системы могут быстро составлять хронологии, сравнивать исторические события, анализировать варианты развития конфликтов, подбирать источники и помогать исследователям проверять гипотезы. Для аналитиков это может быть полезным ускорителем: модель помогает начать работу, увидеть возможные сценарии и структурировать данные.
Но ИИ не должен заменять экспертный анализ. Если попросить модель оценить вероятности исходов войны, политического кризиса или дипломатического решения, она может использовать часть источников, часть данных интерпретировать самостоятельно и выдать результат с ложной точностью. Проценты и таблицы выглядят убедительно, но их происхождение может быть не до конца понятным. Поэтому в политических прогнозах особенно важно отличать полезную черновую помощь от доказанного вывода.
Отдельная проблема — разрыв между технологами и политиками. Разработчики часто думают о проверяемости системы, качестве данных, архитектуре, ошибках и техническом аудите. Политики и юристы чаще говорят об ответственности, правах, нормах, международном праве и последствиях решений. Иногда обе стороны используют одни и те же слова, но вкладывают в них разные смыслы. Без общего языка регулировать ИИ будет трудно.
Особенно остро это видно в военной сфере. Если автономная система должна реагировать за секунды, человек физически может не успеть принять осмысленное решение. Но если убрать человека из непосредственного цикла исполнения, возникает вопрос ответственности: кто отвечает за ошибку системы, нарушение правил войны или непредвиденные последствия. Простая формула «человек должен быть в контуре» не всегда решает проблему, если скорость событий превышает человеческие возможности.
В таких случаях важнее становится не только присутствие человека в момент нажатия кнопки, но и надежность проектирования, тестирования, аудита и контроля до развертывания системы. Нужно понимать, какие данные использовались, как система ведет себя в необычных условиях, можно ли восстановить ход решения и кто несет ответственность за применение. Для обороны, кибербезопасности и критической инфраструктуры это не теоретический вопрос, а практическая необходимость.
Государственные структуры сталкиваются еще с одной проблемой: технологии развиваются быстрее, чем бюрократия умеет их внедрять. Многие ведомства обсуждают ИИ, создают должности ответственных, пишут принципы и стратегии, но реальные сценарии применения часто отстают от возможностей современных моделей. В результате возникает разрыв между тем, что уже умеет технология, и тем, как осторожно и медленно ее используют организации.
При этом внедрение ИИ не сводится к покупке инструмента. Нужны специалисты, данные, правила безопасности, обучение сотрудников, юридическая оценка, технический контроль и понимание реальных задач. Если просто назначить ответственного за ИИ, но не дать ему команды, полномочий и ресурсов, технология останется на уровне презентаций. Главная сложность часто оказывается не технической, а организационной.
Мировая гонка в сфере искусственного интеллекта тоже имеет несколько измерений. США сохраняют сильные позиции в создании передовых фундаментальных моделей и крупных технологических компаний. Китай активно наращивает человеческий капитал, выпускает много специалистов, развивает научные публикации, собственные модели и государственные стратегии. Конкуренция идет не только за чипы и дата-центры, но и за ученых, инженеров, стандарты, рынки и правила применения.
Фундаментальные модели становятся стратегической инфраструктурой. На их основе можно строить поисковые сервисы, офисных помощников, аналитические системы, инструменты программирования, военные приложения, образовательные платформы и государственные сервисы. Поэтому вопрос лидерства в ИИ уже нельзя считать только вопросом бизнеса. Он связан с национальной безопасностью, экономикой, дипломатией и технологическим суверенитетом.
Но сосредоточенность на гонке не должна заслонять вопрос безопасности. Чем быстрее модели внедряются в разные сферы, тем важнее понимать их ограничения. ИИ может быть полезен для повседневных задач, но не является всезнающей системой. Он работает на вероятностях, зависит от данных, может ошибаться, воспроизводить предвзятость и выдавать убедительные ответы без настоящей гарантии правильности.
Для обычных пользователей главный практический вывод прост: ИИ можно использовать как мощного помощника, но не как окончательный источник истины. Он хорош для черновиков, идей, объяснений, структурирования информации, перевода, резюме и подготовки вопросов. Но важные данные, особенно медицинские, юридические, финансовые и политические, нужно сверять с надежными источниками и экспертами.
Для компаний вывод сложнее. Им нужно определить, какие задачи можно безопасно отдавать ИИ, какие данные нельзя загружать во внешние сервисы, кто проверяет результат, как фиксируются ошибки и как сотрудники должны пользоваться такими инструментами. Без правил даже полезная технология может привести к утечкам, неправильным решениям и репутационным проблемам.
Для государства главная задача — не только регулировать ИИ снаружи, но и понимать его изнутри. Нельзя эффективно писать правила для технологии, если регуляторы не знают, как она работает, где ошибается и какие реальные сценарии уже существуют. Нужен мост между техническими специалистами, политиками, юристами, военными, дипломатами и обществом.
Главный вывод состоит в том, что искусственный интеллект уже нельзя считать ни магией, ни обычной программой. Это мощная статистическая технология, которая способна резко ускорять работу, но требует проверки, надзора и ясных правил. Чем глубже ИИ входит в политику, безопасность, образование, медицину и бизнес, тем важнее не только восхищаться его возможностями, но и трезво понимать его ошибки, предвзятость и пределы ответственности.