Банкротство Character.AI привлекло внимание экспертов к малообсуждаемой проблеме сервисов искусственного интеллекта: накопленные ими пользовательские переписки могут оказаться ценным активом при закрытии компании или продаже её имущества. Особенность ИИ-чатов заключается в том, что люди нередко рассказывают ботам значительно больше личной информации, чем оставляют в обычных интернет-сервисах.
Character.AI получил широкую известность благодаря персонажам, с которыми пользователи могут вести продолжительные разговоры. Некоторые воспринимали ботов как друзей, романтических партнёров или советчиков и обсуждали с ними отношения, семейные проблемы, психологическое состояние и другие чувствительные темы. Среди аудитории сервиса были и несовершеннолетние.
После банкротства Character.AI согласилась продать часть своих активов Disney за $20 млн. При этом база пользовательских данных в эту сделку не входит. Однако документы по делу допускают возможность отдельной продажи информации другому покупателю, что и вызвало обеспокоенность специалистов по защите персональных данных.
Проблема заключается не только в содержании самих диалогов. В разговорах с ИИ пользователи могут раскрывать сведения о родственниках, друзьях и знакомых, которые никогда не регистрировались в соответствующем сервисе и не соглашались на обработку своих данных. В результате в массиве информации потенциально оказываются сведения сразу о большом числе людей.
Эксперты обращают внимание, что политика конфиденциальности интернет-сервиса не всегда гарантирует сохранение прежнего режима обращения с информацией после банкротства. В документах компаний нередко отдельно предусматривается возможность передачи данных при продаже бизнеса, реорганизации или процедуре банкротства.
Политика Character.AI допускает использование пользовательской информации для развития новых функций, совершенствования алгоритмов, обучения ИИ-моделей и создания пользовательских профилей, в том числе для рекламных целей. Поэтому новый владелец данных при соблюдении действующих условий потенциально может получить достаточно широкие возможности для их дальнейшего использования.
Ситуацией заинтересовались власти США. Коалиция генеральных прокуроров 40 штатов обратилась к суду с требованием предусмотреть дополнительные меры защиты детей и конфиденциальности пользователей при процедуре банкротства. Однако специалисты отмечают, что возможности властей ограничены особенностями американского законодательства о защите персональных данных.
В Европейском союзе правила обращения с персональной информацией строже. Тем не менее само банкротство компании не означает автоматического уничтожения её пользовательских баз. Данные могут перейти новому владельцу, хотя их дальнейшее использование должно учитывать действующее законодательство и условия, на которых информация первоначально собиралась.
История Character.AI становится особенно важной на фоне дискуссий о возможном перегреве рынка искусственного интеллекта. Создание и эксплуатация крупных ИИ-моделей требуют огромных расходов на вычислительную инфраструктуру, и далеко не все многочисленные стартапы смогут в перспективе стать прибыльными.
Если часть ИИ-компаний будет закрываться, объединяться с конкурентами или проходить через банкротство, накопленные ими массивы пользовательских данных могут становиться одним из наиболее привлекательных активов для потенциальных покупателей. Чем более личными были разговоры с ИИ, тем выше потенциальная ценность такой информации для анализа поведения, обучения моделей и рекламы.
Это отличает современные ИИ-сервисы от многих традиционных интернет-платформ. Человек может сообщить чат-боту подробности о здоровье, отношениях, финансовых сложностях, работе или семейных конфликтах, воспринимая разговор почти как приватную беседу. Однако технически такая переписка остаётся данными, которые хранятся на серверах коммерческой организации и регулируются её пользовательскими соглашениями.
Специалисты поэтому советуют внимательнее относиться к тому, какую информацию пользователи передают ИИ-сервисам. Особенно осторожно стоит обращаться с данными, которые могут причинить серьёзный вред при неожиданной передаче другой компании или использовании в целях, которые человек первоначально не предполагал.
Если сервис больше не используется, имеет смысл проверить настройки конфиденциальности и доступные механизмы удаления аккаунта и истории общения. Character.AI после начала процедуры банкротства также опубликовала инструкции по удалению пользовательских данных. Однако доступность подобных инструментов и юридическое право на удаление информации могут различаться в зависимости от страны.
Банкротство Character.AI не означает, что данные обязательно попадут к недобросовестному покупателю. Тем не менее этот случай показывает более широкую проблему: пользователю приходится учитывать не только то, как ИИ-компания обращается с информацией сегодня, но и то, что может произойти с накопленными переписками, если через несколько лет сама компания перестанет существовать.