Технологии Приостановка доступа к Fable 5 и Mythos 5 по требованию правительства США

[user_on_rehub]

Правительство США, ссылаясь на органы национальной безопасности, издало директиву по экспортному контролю, приостанавливающую любой доступ к Fable 5 и Mythos 5 для любых иностранных граждан, как внутри, так и за пределами Соединенных Штатов, включая иностранных сотрудников Anthropic. В результате этого распоряжения мы вынуждены внезапно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований. Доступ ко всем остальным моделям Anthropic не будет затронут.

Мы получили директиву от правительства сегодня в 17:21 (восточное время). В письме не содержалось конкретных подробностей о причинах обеспокоенности по поводу национальной безопасности. Насколько нам известно, правительство считает, что ему стало известно о методе обхода или «взлома» Fable 5. Мы изучили демонстрацию использования этой конкретной техники для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода защиты.
Позиция Anthropic в отношении мер защиты Fable, изложенная в нашем сообщении в Для просмотра ссылки Войди или Зарегистрируйся о запуске, такова:

• Мы внедрили надежные меры защиты, которые значительно снижают вероятность неправомерного использования Fable для задач, связанных с кибербезопасностью (и не только). На самом деле, наши меры защиты настолько сильны, что многие пользователи жаловались на их чрезмерную широту.
• В течение нескольких недель, предшествовавших запуску Fable, Anthropic работала с правительством США, британским AISI, многочисленными частными сторонними организациями и внутренними командами, проводя тысячи часов тестирования мер защиты Fable.
• Эти тесты показали, что меры защиты Fable значительно эффективнее, чем у любой ранее развернутой модели.
• Пока ни одному тестировщику не удалось найти универсальный джейлбрейк — метод джейлбрейка, способный очень широко обходить средства защиты модели, разблокируя широкий спектр кибервозможностей.
• Мы предполагаем, что идеальная устойчивость к джейлбрейку в настоящее время невозможна ни для одного поставщика моделей. Каждая используемая в отрасли защита уязвима для неуниверсальных джейлбрейков (которые могут получить некоторую киберинформацию при определенных обстоятельствах), и вполне вероятно, что универсальные джейлбрейки в конечном итоге будут найдены. Мы четко заявили об этом при выпуске Для просмотра ссылки Войди или Зарегистрируйся.
• Учитывая, что идеальная устойчивость к джейлбрейку, по-видимому, сегодня невозможна, Anthropic применила стратегию многоуровневой защиты в Fable 5. Мы стремились сделать джейлбрейки либо узкоспециализированными (в случае неуниверсальных джейлбрейков), либо очень дорогими в производстве (в случае универсальных джейлбрейков), и сочетать это с тщательным мониторингом для быстрого обнаружения и пресечения любых успешных атак. Именно поэтому Anthropic потребовала 30-дневного хранения данных клиентов в Fable — изменение политики, которое влечет за собой Для просмотра ссылки Войди или Зарегистрируйся, но позволяет нам исследовать и предотвращать взломы.
• Мы поддерживаем эту стратегию многоуровневой защиты. Она снижает риски, связанные с Fable, делая их сопоставимыми с рисками существующих моделей, уже используемых в отрасли.
• Мы даже не получали сообщений о потенциально опасном, не универсальном взломе, который привел бы к негативным последствиям. Потенциальные взломы, о которых нам сообщили, либо являются совершенно безобидными ответными мерами, либо представляют собой незначительные результаты, не дающие никаких преимуществ для Mythos.

На сегодняшний день правительство предоставило нам лишь устные доказательства потенциального узкого, не универсального взлома, который, по сути, заключается в просьбе к модели прочитать определенный код и исправить любые программные ошибки. Насколько нам известно, правительству была передана информация об одном потенциальном взломе. Мы изучили отчет, который, по нашему мнению, лежит в основе директивы правительства, и подтвердили, что уровень возможностей, продемонстрированный в нем, широко доступен в других моделях (включая Для просмотра ссылки Войди или Зарегистрируйся) и ежедневно используется специалистами по защите систем. Более подробная информация будет предоставлена в течение следующих 24 часов.Мы выполняем юридическую директиву правительства и прекращаем доступ к Fable 5 и Mythos 5 для всех пользователей. Однако мы не согласны с тем, что обнаружение потенциально уязвимого джейлбрейка должно быть основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей. Если бы этот стандарт применялся ко всей отрасли, мы считаем, что это фактически остановило бы развертывание всех новых моделей для всех поставщиков, работающих с новыми моделями.

Как мы уже Для просмотра ссылки Войди или Зарегистрируйся Для просмотра ссылки Войди или Зарегистрируйся, мы считаем, что правительство должно иметь возможность блокировать небезопасные развертывания в рамках установленного законом процесса, который является прозрачным, справедливым, ясным и основанным на технических фактах. Данное действие не соответствует этим принципам.

Приносим извинения за доставленные неудобства нашим клиентам. Мы считаем, что это недоразумение, и работаем над скорейшим восстановлением доступа.
источник: Для просмотра ссылки Войди или Зарегистрируйся