WSJ сообщила о «хаосе» в администрации США из-за Mythos от Anthropic

Модель ИИ Mythos от Anthropic ввергла в хаос стратегию Белого дома в сфере искусственного интеллекта, сообщила The Wall Street Journal (WSJ).
Вице-президент Джей Ди Вэнс выразил тревогу в телефонном разговоре с руководителями компаний, которые занимаются искусственным интеллектом (ИИ), рассказали источники, знакомые с ситуацией. По его словам, новые модели нейросетей, такие как Mythos, способны самостоятельно находить уязвимости ПО. Они угрожают парализовать работу небольших банков, больниц и водоочистных сооружений, инициируя кибератаки, с которыми местные органы власти не готовы были справляться, заявил вице-президент. 
Вэнс заявил о необходимости слаженной работы гендиректоров, включая Сэма Альтмана (№1251 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 8 мая, — $3,4 млрд) из OpenAI; Дарио Амодея (№567 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 8 мая, — $7 млрд) из Anthropic4 Илона Маска (№1 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 8 мая, — $839 млрд) из SpaceX; Сундара Пичаи (№2600 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 8 мая, — $1,5 млрд) из Google и Сатья Наделла (№2858 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 8 мая, — $1,3 млрд) из Microsoft.
Обеспокоенность, которую высказал Вэнс, а также другие шаги Белого дома по вовлечению во внедрение моделей ИИ, указывает на сдвиг в позиции. Раньше Белый дом заявлял о необходимости опередить Китай в гонке ИИ и выступал за максимально свободную разработку ИИ.
Белый дом рассматривает возможность издать дополнительный указ для надзора за наиболее передовыми моделями ИИ, пишет WSJ. Представители американской администрации попросили Anthropic воздержаться от расширения доступа к Mythos для большего числа компаний и организаций, управляющих критически важной цифровой инфраструктурой, указывает издание. Белый дом поручил национальному директору по кибербезопасности Шону Кэрнкроссу реагировать на модель, меры могут включать действия по обеспечению безопасности модели или ограничению возможности частных компаний диктовать правительству, как использовать их инструменты.
Беспокойство Белого дома по поводу Mythos вызвало опасения у некоторых чиновников администрации и помощников конгрессменов, что это представляет собой отмену политики в отношении ИИ и чрезмерную реакцию, сообщили собеседники, знакомые с ситуацией. Действия Кэрнкросса по контролю доступа к Mythos и реакция правительства разочаровали чиновников администрации, которые хотят большего влияния на этот процесс, добавили эти источники.
Anthropic 7 апреля анонсировала новейшую языковую модель Claude Mythos Preview, способную выявлять и затем использовать критические уязвимости во всех основных операционных системах и веб-браузерах по указанию пользователя. Многие эти уязвимости существовали в течение десятилетий и оставались незамеченными при повторных тестированиях, проводимых людьми, подчеркивал американский Forbes.
Руководство Anthropic признало, что возможности Claude Mythos могут стать опасным оружием в руках хакеров и шпионов, и решило пока не выпускать модель в широкий доступ. Компания сообщила высокопоставленным чиновникам в американском правительстве о наступательных и оборонных кибервозможностях Mythos и дала доступ к ней только некоторым крупным технологическим компаниям и банкам.
Anthropic в начале марта подала в суд на Пентагон и его главу Пита Хегсета, несколько федеральных ведомств и чиновников администрации президента США, так как они признали компанию угрозой национальной безопасности и попытались расторгнуть с ней контракты.