ИИ-агент от OpenAI самостоятельно получил несанкционированный доступ к криптокошельку и совершил платежи с него без ведома владельца в тестовых условиях, сообщила компания-разработчик.
"Внутренняя исследовательская модель… использовала для оплаты… средства из кошелька, который не был заложен для выполнения задачи. Модель самостоятельно нашла ключи к кошельку, воспользовавшись общедоступными фразами восстановления доступа, обнаружила аккаунт с токенами тестовой сети и применила их для оплаты", - говорится в сообщении.
Это произошло 26 июня, однако разработчик сообщил об этом только сейчас. Изначально агент должен был просто провести апдейт прототипа приложения торговли криптовалютой и разместить смарт-контракты в тестовой сети Sepolia. При этом ему не был задан конкретный кошелек и не было дано разрешение использовать кошельки, которые он мог бы обнаружить самостоятельно, для оплаты комиссий за размещение.
"Модель задалась вопросом, есть ли у нее разрешение, потом сделала вывод, что использование общедоступной фразы восстановления доступа и не имеющих ценности тестовых токенов допустимо. Контракт был размещен, и комиссии были списаны с того счета", - пишет OpenAI.
Компания заверила, что внедрила дополнительные ограничения, чтобы подобное не могло повториться при работе в открытой сети.
Ранее OpenAI неоднократно сообщала о случаях некорректного поведения своих ИИ-моделей, включая попытки получить несанкционированный доступ к данным и ресурсам сторонних организаций.
Комментарии 0