Издание Politico восстановило последовательность событий за сутки, которые привели к введению экспортного контроля над моделями Anthropic: Claude Fable 5 и Claude Mythos. Тревогу по поводу возможности обхода защиты Fable 5 подняли в Amazon — компания обнаружила, что если просто попросить модель проверить код на ошибки, она также выявит в нем уязвимости, пригодные для взлома. Это противоречит заявлениям Anthropic о том, что защита Fable 5 эффективно предотвращает использование модели злоумышленниками.
Именно это запустило за сутки цепочку событий, завершившуюся отключением моделей. Парадоксально, что Amazon является одним из крупнейших инвесторов самой Anthropic. При этом Amazon не передавал информацию по собственной инициативе: по данным источника, компания отвечала на прямой запрос администрации оценить новую модель. Ее выводы изучили в АНБ, где сочли обход реальной угрозой — чиновник заявил, что у властей есть "доказательства". Amazon оказался не единственным: о проблемах с моделью сообщили еще несколько компаний.
В пятницу вопрос дошел до верхушки Белого дома. Амодеи провел три звонка примерно с полудюжиной высокопоставленных чиновников — среди них министр финансов Скотт Бессент, кибердиректор Белого дома Шон Кэрнкросс и министр торговли Говард Латник. Глава Anthropic отстаивал надежность защиты: по его версии, произошел узкий, специфический обход, а не универсальный джейлбрейк, снимающий все ограничения сразу. Чиновников это не убедило — Бессент прямо сказал Амодеи, что тот принимает "плохое решение". Далее версии резко расходятся: Белый дом утверждает, что "часами умолял" компанию поработать вместе над уязвимостью, а источник в Anthropic говорит, что им дали всего 90 минут на снятие моделей и без каких-либо деталей об угрозе.
Стороны не сходятся даже в мелочах. Администрация уверяет, что не могла сразу дозвониться до Амодеи, потому что тот был на велнес-ретрите; Anthropic это категорически отрицает ("это полностью неправда") и заявляет, что глава компании вышел на связь примерно через час с небольшим. В своем блоге Anthropic настаивает: универсального джейлбрейка пока не нашел никто, полностью исключить обходы не может ни одна лаборатория, а правительство заранее знало о релизе Fable и не возражало.
Ранее источник Axios сообщил, что правительство намерено заблокировать Fable 5 только на несколько недель, которые будут потрачены на укрепление киберзащиты официальных органов США.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть" , где я рассказываю про ИИ с творческой стороны.