По информации The Wall Street Journal, именно глава Amazon Энди Джесси (Andy Jassy) проинформировал представителей американского правительства о том, что исследователи его компании нашли способ обойти ограничения, установленные Anthropic, чтобы проверить, можно ли использовать ИИ-модель Fable 5 для кибератак. Проведя совещание по данному вопросу, чиновники пришли к выводу, что наиболее безопасным решением будет заблокировать доступ к Fable 5 для иностранных государственных структур, компаний и частных лиц. Это решение было одобрено на высшем уровне — его санкционировал президент США Дональд Трамп (Donald Trump).
В пятницу состоялся телефонный разговор между американскими чиновниками и генеральным директором Anthropic Дарио Амодеи (Dario Amodei). Компания была вынуждена согласиться на предлагаемые властями США ограничения, однако выразила свое несогласие с таким решением. Фактически, Anthropic пошла дальше требуемого, заблокировав доступ всем пользователям не только к Fable 5, но и к более мощной модели Mythos, которая лучше справляется с анализом проблем в сфере кибербезопасности. Формально Anthropic лишилась возможности развивать свои ИИ-модели, поскольку многие из ее специалистов являются иностранцами.
Представители Amazon заявили, что правительство США часто консультируется с компанией по вопросам информационной безопасности. Когда происходит подобный обмен данными, Amazon не разглашает его содержание. Anthropic подчеркнула, что выявленные специалистами Amazon уязвимости могут быть обнаружены и с помощью других общедоступных ИИ-моделей, и они не предоставляют полного механизма для обхода защиты. Компания считает, что существующих мер безопасности достаточно, чтобы предотвратить использование этих уязвимостей злоумышленниками. В условиях подготовки к осеннему IPO такие препятствия для развития ИИ-моделей Anthropic явно не пойдут компании на пользу. У стартапа с весны этого года тлеет конфликт с Пентагоном, но, как поясняют источники, вчерашняя инициатива по блокировке доступа к моделям Anthropic исходила не от этого ведомства.
Исследование Amazon показало, что специальные запросы к Fable 5 позволяют с помощью этой модели выявлять уязвимости как минимум в четырех программных продуктах. Сторонние эксперты полагают, что обнаруженные уязвимости не представляют особой опасности с точки зрения кибербезопасности. Хотя аналогичные слабые места в ПО можно выявить и с помощью других моделей, именно решения Anthropic позволяют генерировать вредоносный программный код, использующий эти уязвимости для осуществления злонамеренных действий. Нет никаких доказательств того, что специалистам Amazon удалось продвинуться в этом сценарии до конечной цели. Более мощная модель Mythos распространялась Anthropic с крайней осторожностью, но в итоге это не уберегло компанию от очередных претензий со стороны властей США.