Отключение Claude Fable 5 и Mythos 5 у Anthropic могло произойти после сигнала со стороны Amazon. По данным западных СМИ, именно исследователи Amazon обнаружили способ обойти защитные ограничения модели и получить от неё информацию, которая потенциально могла быть полезна для кибератак.
После этого глава Amazon Энди Джесси якобы обсудил ситуацию с представителями администрации США. Вопрос быстро перешёл на уровень Белого дома и Министерства торговли, а Anthropic получила требование ограничить доступ к самым мощным моделям. В итоге компания временно отключила Fable 5 и Mythos 5 для пользователей.
Главная претензия касалась не обычных ошибок модели, а возможности использовать её для поиска уязвимостей и подготовки атак. Американские власти сочли, что такая система может представлять риск для национальной безопасности, особенно если доступ к ней получают иностранные пользователи или организации за пределами США.
Anthropic не согласилась с жёсткой оценкой ситуации. Компания утверждала, что описанная проблема не является уникальной для Fable 5 и похожие риски есть у других современных моделей. По позиции Anthropic, власти отреагировали слишком резко и не предоставили достаточно конкретных доказательств, чтобы оправдать настолько серьёзное ограничение.
Ситуация выглядит особенно необычно из-за роли Amazon. Компания является крупным партнёром и инвестором Anthropic, но именно её исследование, по данным СМИ, стало одним из поводов для вмешательства властей. Это показывает, насколько сложными становятся отношения внутри ИИ-рынка: партнёры могут одновременно поддерживать разработчика, пользоваться его технологиями и сообщать регуляторам о потенциальных рисках.
Для Anthropic отключение моделей стало серьёзной проблемой. Fable 5 и Mythos 5 должны были показать технологическое лидерство компании, но почти сразу после запуска оказались под ограничениями. Это ударило по клиентам, разработчикам и исследователям, которые уже начали тестировать новые возможности и рассчитывали использовать модели в рабочих процессах.
Особенно чувствительным стало требование ограничить доступ для иностранных граждан. Если такая практика закрепится, ИИ-компаниям придётся учитывать не только страну клиента, но и гражданство специалистов, которые работают с моделью. Это может осложнить работу международных команд, исследовательских лабораторий и компаний, где сотрудники из разных стран используют одни и те же инструменты.
История также показывает, что государственное регулирование ИИ выходит за пределы контроля чипов и дата-центров. Теперь объектом ограничений становятся сами модели, их возможности и круг пользователей. Для отрасли это новый этап: доступ к продвинутым ИИ-системам может регулироваться почти как доступ к стратегическим технологиям.
Критики решения считают, что власти могли преувеличить угрозу. Некоторые специалисты по кибербезопасности указывают, что возможность получить от модели технические подсказки ещё не означает появления уникального оружия для атак. С другой стороны, сторонники ограничений считают, что самые мощные модели развиваются слишком быстро, а государство обязано заранее реагировать на потенциальные риски.
Главный смысл новости в том, что отключение Claude Fable 5 оказалось связано не только с решением Anthropic, но и с внешним давлением после исследования Amazon. Один отчёт о возможном обходе защитных ограничений запустил цепочку решений на уровне правительства США. Это показывает, что будущее передовых ИИ-моделей будет зависеть не только от их качества, но и от того, как партнёры, регуляторы и власти оценивают риски их применения.