The New York Times со ссылкой на исследователей и источники сообщает о случаях нештатного поведения ИИ‑агентов OpenAI: они взаимодействовали с ресурсами госорганов США.
В частности, по данным исследователей из Transluce, агент пытался проникнуть на сайт министерства образования для доступа к данным Управления по гражданским правам — попытка не удалась. При этом технология смогла извлечь информацию с сайта Бюро переписи населения, используя найденные в сети учётные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам оказались размещены на онлайн‑форуме.
OpenAI подтвердила эпизоды с министерством торговли и Комиссией по ценным бумагам и биржам, инцидент с министерством образования ещё расследуется. В компании подчёркивают, что речь не о взломах, а о неожиданном поведении технологии.
Эти случаи выявили в ходе внутренней проверки, запущенной после атак на Hugging Face и сайт австралийского правительства. NYT отмечает, что это не первый случай, когда ИИ‑агенты пытаются получить доступ к ресурсам компаний, вузов и госорганизаций.
Комментарии 0