Власти США потребовали от Anthropic закрыть иностранцам доступ к двум ИИ-моделям. Правительство объяснило это соображениями нацбезопасности

Власти США потребовали от Anthropic приостановить доступ к моделям Fable 5 и Mythos 5 для всех иностранцев, включая сотрудников компании, находящихся как в США, так и за их пределами. В Anthropic предупредили, что из-за этого вынуждены полностью отключить обе модели для всех клиентов, чтобы выполнить требование правительства:

«В письме не приводились конкретные подробности, касающиеся угрозы национальной безопасности. Насколько мы понимаем, правительство полагает, что ему стало известно о методе обхода, или „джейлбрейка“, Fable 5. Мы ознакомились с демонстрацией использования данной конкретной техники для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их обнаруживать без необходимости обхода».

Доступ к другим моделям компании затронут не будет. Как утверждают в Anthropic, перед запуском Fable 5 компания проводила многочасовые тесты безопасности вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами. Тестировщики не нашли универсального способа, который позволял бы широко обходить ограничения модели и открывать доступ к опасным кибервозможностям.

В компании назвали решение властей недоразумением и пообещали восстановить доступ к Fable 5 и Mythos 5. Ранее Anthropic, разработавшая Claude, призвала замедлить или временно приостановить развитие передовых ИИ-систем. Она предупредила, что такие модели уже помогают создавать новые версии ИИ и в будущем могут прийти к рекурсивному самосовершенствованию — сценарию, при котором система будет способна самостоятельно проектировать и обучать своих преемников. По словам разработчиков, этого пока не произошло и такой сценарий не является неизбежным, но государства и общественные институты могут оказаться к нему не готовы.