Министр финансов США Скотт Бессент и глава ФРС Джером Пауэлл провели экстренное совещание с руководителями крупнейших американских банков, чтобы обсудить киберугрозы, связанные с новейшей моделью искусственного интеллекта Mythos от компании Anthropic.
О встрече рассказывают источники Bloomberg, Reuters и Financial Times. Она прошла 7 апреля в штаб-квартире Минфина в Вашингтоне и была организована в кратчайшие сроки. Приглашения получили CEO системно значимых банков, включая Citigroup, Morgan Stanley, Bank of America, Wells Fargo и Goldman Sachs. Глава JPMorgan Chase Джейми Даймон присутствовать не смог.
Целью совещания было убедиться, что финансовые корпорации осведомлены о потенциальных рисках из-за появления Mythos и возможных аналогичных моделей, а также принимают меры по защите своих систем.
Прорывная угроза
Новинка Anthropic — Claude Mythos Preview — вызвала серьезную обеспокоенность у самого разработчика. По данным компании, модель способна обнаруживать и эксплуатировать уязвимости практически во всех основных операционных системах.
В Anthropic подчеркивают, что уровень возможностей ИИ достиг стадии, когда он может превосходить высококвалифицированных специалистов в поиске и использовании программных уязвимостей. По внутренним данным, Mythos уже выявила тысячи критических проблем, часть из которых оставалась незамеченной десятилетиями. Такой потенциал, если окажется в руках злоумышленников, становится ключевым фактором тревоги.
Подробнее о Mythos мы рассказали здесь. Anthropic сочла модель настолько опасной, что решила не выпускать ее в открытый доступ. Его пока получили лишь около 40 крупных технологических и финансовых компаний, среди которых Amazon, Apple, Microsoft, Google и др., в рамках Project Glasswing. Инициатива направлена на укрепление кибербезопасности ключевых систем до того, как аналогичные ИИ-модели станут широко доступными.
Кроме того, Anthropic заранее уведомила правительство США о возможностях модели, включая «наступательные» и «оборонительные», и проводила консультации с чиновниками до ограниченного релиза.
Почему это важно
Киберугрозы рассматриваются как один из главных системных рисков для глобальной финансовой системы. Усиление возможностей ИИ только обостряет ситуацию и требует больше инвестиций в безопасность. Недавно это отметил, в частности, глава JPMorgan Джейми Даймон в ежегодном письме инвесторам. Дополнительную обеспокоенность могут вызывать и недавние инциденты с утечками внутренних данных Anthropic, в том числе документов, связанных с Mythos (компания объяснила произошедшее человеческим фактором).