Журналисты и исследователи обнаружили, что новые версии ChatGPT начали использовать AI-энциклопедию Grokipedia в качестве одного из источников информации при ответах на запросы пользователей. Это вызвало споры среди экспертов, поскольку вокруг проекта Илона Маска уже давно ведутся дискуссии о достоверности публикуемых материалов.
Особое внимание к ситуации привлекло расследование The Guardian, где журналисты протестировали ответы ChatGPT на различные темы и заметили ссылки на материалы Grokipedia.
Grokipedia всё чаще появляется в ответах нейросетей
Во время тестирования исследователи заметили, что ChatGPT использовал Grokipedia при ответах на сложные и узкоспециализированные вопросы.
Среди тем, где AI ссылался на материалы энциклопедии:
- политические структуры;
- исторические события;
- биографии известных людей;
- международные организации;
- спорные общественные темы.
Эксперты опасаются, что использование AI-энциклопедий внутри других нейросетей может привести к распространению недостоверной информации.
Что такое Grokipedia
Grokipedia — это AI-энциклопедия компании xAI Илона Маска, созданная как альтернатива Wikipedia.
Главная особенность проекта заключается в том, что статьи создаются и обновляются нейросетями, а пользователи не могут напрямую редактировать материалы вручную.
Система использует модель Grok для генерации и переработки контента.
При этом исследователи неоднократно критиковали платформу за:
- спорные источники;
- ошибки в статьях;
- проблемы с фактчекингом;
- возможную политическую предвзятость;
- генерацию недостоверных данных.
Эксперты опасаются эффекта «ИИ копирует ИИ»
Одной из главных проблем специалисты называют ситуацию, при которой нейросети начинают обучаться или ссылаться друг на друга.
По мнению аналитиков, это может привести к так называемому эффекту «замкнутого AI-контента», когда ошибки и недостоверная информация начинают многократно распространяться между разными системами искусственного интеллекта.
Особенно опасным это считается для:
- исторических данных;
- научной информации;
- политических тем;
- биографий;
- общественно значимых событий.
Некоторые исследователи уже сравнивают подобный процесс с эффектом «информационного эха» внутри AI-систем.
OpenAI заявляет о широком поиске источников
В OpenAI объяснили, что ChatGPT использует большое количество публичных источников информации при работе веб-поиска и системы цитирования.
Компания утверждает, что AI старается учитывать разные точки зрения и применяет фильтры безопасности для снижения риска распространения недостоверных данных.
Однако эксперты считают, что сама проблема AI-источников станет одной из главных тем развития индустрии в ближайшие годы.
Искусственный интеллект меняет подход к поиску информации
На фоне стремительного развития генеративного ИИ традиционные поисковые системы и энциклопедии постепенно начинают уступать место AI-ответам.
Многие пользователи всё чаще получают информацию напрямую от нейросетей, не проверяя первоисточники.
Аналитики уверены, что в будущем вопрос доверия к AI-контенту и качеству источников станет одним из ключевых вызовов всей индустрии искусственного интеллекта.