Минфин США созвал экстренное совещание из-за новой ИИ-модели Anthropic с расширенными возможностями по поиску уязвимостей в ПО — СМИ

Глава американского Минфина Скотт Бессент и председатель Федеральной резервной системы (ФРС) Джером Пауэлл на этой неделе провели срочное совещание с руководителями крупнейших банков США. Поводом для этого послужил выпуск новой ИИ-модели от компании Anthropic, которую разработчики представили как решение с широкими возможностями по выявлению уязвимостей в ПО. Об этом пишут Bloomberg и Financial Times.

Совещание прошло во вторник, 7 апреля, в штаб-квартире Минфина в Вашингтоне. На нем присутствовали руководители Bank of America, Citigroup, Goldman Sachs, Morgan Stanley и Wells Fargo.

По словам источников Bloomberg, руководители ФРС и Минфина хотели обсудить с банковским сектором возможные риски, связанные с моделью Claude Mythos Preview, которую 6 апреля представила компания Anthropic. Новая ИИ-модель была представлена ограниченному кругу партнеров, среди которых были Amazon, Apple и Microsoft. Это первый случай, когда компания представляет свою новую разработку в рамках ограниченного запуска, отмечает FT.

Модель Mythos заявлена как мощная разработка, способная выявлять уязвимости во всех основных операционных системах. В пресс-релизе компании, посвященном запуску, отдельно уточнялось, что модель может и использовать так называемые уязвимости «нулевого дня» по указанию пользователей.

Anthropic также утверждает, что модель уже нашла подобные уязвимости во всех основных операционных системах и веб-браузерах, некоторым из которых десять или двадцать лет. Ограниченность релиза в компании объяснили тем, что многие из выявленных моделью ошибок еще не исправлены.

На встрече Минфина с банками обсуждалась возможность использования этой и других ИИ-моделей злоумышленниками. Конкретные тезисы, прозвучавшие на встрече, не приводятся.

Bloomberg отмечает, что созванное в сжатые сроки подобное совещание говорит о том, что регулирующие органы считают новые типы кибератак с использованием ИИ одним из самых больших рисков для финансовой индустрии. Все приглашенные на встречу банки являются системно значимыми, а означает, их стабильность — приоритет для финансовой системы, подчеркивает агентство.

У Anthropic и так сложные отношения с нынешней администрацией президента США. В начале марта этого года Министерство обороны США признало компанию угрозой для цепочки поставок. Решение Пентагона стало результатом продолжительного конфликта вокруг условий использования ИИ в военных целях: глава ведомства Пит Хегсет потребовал от фирмы разрешить использовать ее ИИ для всего — в том числе возможной слежки за гражданами или применения автономного летального оружия без участия человека. Anthropic отказалась от этих условий.

К конфликту тогда же подключился президент США Дональд Трамп. Он объявил, что все правительственные учреждения должны прекратить использование инструментов Anthropic, а также писал, что «Штаты не позволят радикальной левой, „прогрессивной“ компании диктовать, как наша великая армия будет сражаться и побеждать в войнах».

После этого компания и получила статус «риска для цепочки поставок», который обычно присваивается компаниям, связанным с иностранными противниками. Он влияет на то, как Anthropic может вести бизнес с компаниями, работающими с оборонным ведомством США. Разработчик в свою очередь подавал на это решение в суд.