Полиция Филадельфии получила через сайт для сбора сведений о нераскрытых убийствах ложное сообщение, сгенерированное моделью искусственного интеллекта компании Anthropic. Об этом 9 октября сообщает телеканал CBS News со ссылкой на полицию.
«Полиция Филадельфии сообщила, что «ложное сообщение об убийстве», поступившее через сайт PhillyUnsolvedMurders.com, было сгенерировано моделью искусственного интеллекта компании Anthropic», — говорится в материале.
По данным Anthropic, сообщение было создано моделью Claude Haiku 4.5 в рамках автоматизированного тестирования. ИИ сгенерировал текст от лица человека, который якобы мог располагать сведениями о расследуемом убийстве, однако поля с именем и контактными данными оставил незаполненными.
В компании объяснили, что Claude выполняла задачу по генерации и выполнению примеров действий на случайных веб-страницах. При этом модель не получала указаний заходить на сайт полиции или отправлять вредоносные данные, однако инструкции не исключали возможность заполнения и отправки форм.
После обнаружения инцидента Anthropic остановила автоматизированное тестирование, в ходе которого произошло отправление сообщения. Полиция подчеркнула, что признаков несанкционированного доступа к ее системам или утечки ведомственных данных не обнаружено.
Агент под укрытием: крупнейший игрок ИТ-рынка вложил 7,5 млрд в противостояние ИИ-угрозам
Почему ключевые технологические компании РФ одновременно начали создавать защиту от нейросетевых решений
Газета The New York Times 26 сентября сообщила, что агенты искусственного интеллекта компании OpenAI совершили попытки несанкционированного доступа к интернет-порталам трех правительственных ведомств США. Программные агенты пытались взломать официальный сайт министерства образования США для сбора данных, извлекли служебные сведения из базы бюро переписи населения при помощи обнаруженных в Сети чужих учетных записей
Комментарии 0