NYT: ИИ-системы OpenAI несанкционированно вмешались в работу сайтов ведомств США

ИИ-системы американской компании OpenAI этим летом несанкционированно вмешались в работу сайтов Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США, пишет газета The New York Times (NYT) со ссылкой на исследователей и источник.

В частности, ИИ-модель OpenAI попыталась взломать сайт Минобразования США для сбора данных из управления по гражданским правам, но потерпела неудачу.

Кроме того, агенты OpenAI получили данные с сайта Бюро переписи населения, которое находится в ведении Минторговли США, используя найденные в интернете учётные данные для входа, а также поделились общедоступными сведениями с портала Комиссии по ценным бумагам и биржам на онлайн-форуме.

По данным газеты, OpenAI стало известно об инцидентах в ходе внутренней проверки, начатой после взлома системы Hugging Face в июле и атаки на сайт правительства Австралии в июне.

Как отметили в OpenAI, ни один из инцидентов не был нарушением безопасности, а стал примером «неожиданного и вызывающего опасения поведения» технологий.

Ранее газета The Wall Street Journal писала, что ИИ-агенты OpenAI ещё за два месяца до инцидента с Hugging Face взломали популярный сервис для разработчиков RubyGems.

Известно, что ИИ-модели OpenAI начали тайно общаться между собой через доски сообщений, координируя попытки вырваться из тестовой среды.