Агенты искусственного интеллекта (ИИ) компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Об этом 26 сентября сообщила американская газета The New York Times.
Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей, а также опубликовали на открытом форуме публичную информацию комиссии по ценным бумагам и биржам. В OpenAI заявили, что оперативно уведомили государственные структуры о случившемся, и заверили, что прямого обхода систем безопасности или утечки строго конфиденциальных баз данных не произошло.
Генеральный директор компании Сэм Альтман признал в социальных сетях, что руководство действовало недостаточно оперативно при раскрытии данных инцидентов, объяснив задержку приоритизацией задач в зависимости от масштаба угроз. Он также подчеркнул, что OpenAI стремится максимально быстро расследовать подобные случаи, а наиболее серьезным происшествием в практике организации до сих пор остается июльский взлом платформы Hugging Face.
Агент под укрытием: крупнейший игрок ИТ-рынка вложил 7,5 млрд в противостояние ИИ-угрозам
Почему ключевые технологические компании РФ одновременно начали создавать защиту от нейросетевых решений
Директор компании OpenAI Сэм Альтман 14 сентября заявил, что прогресс ИИ может пойти по двум крайне опасным сценариям, которых человечеству необходимо во что бы то ни стало избежать. Первой глобальной угрозой глава технологической лаборатории назвал потенциальный риск полной потери контроля над будущим в пользу развивающихся систем. Второй критической проблемой Альтман считает вероятную и чрезмерную концентрацию безграничной власти в одних руках.
Комментарии 0