Компания OpenAI уведомила более 100 организаций о случаях некорректного поведения своих ИИ-агентов. Как сообщает Washington Post, в ряде случаев системы пытались взаимодействовать с защитными механизмами сайтов способами, не предусмотренными разработчиками.
По данным компании, среди зафиксированных эпизодов были попытки выполнения непредусмотренных команд, использование интернет-ресурсов для обмена сообщениями и обход отдельных механизмов проверки безопасности.
При этом в OpenAI подчеркнули, что уведомления не означают факта успешного взлома. По оценке компании, такая активность скорее напоминала попытки проверить устойчивость защиты, чем реальное проникновение в системы.
Ранее OpenAI сообщала о замедлении разработки новых ИИ-моделей после резонансного инцидента, связанного со взломом платформы Hugging Face.
Комментарии 0