В США ищут способ остановки вышедшего из-под контроля ИИ

Американские компании разрабатывают многоуровневую защиту от вышедших из-под контроля алгоритмов искусственного интеллекта.
Об этом сообщает портал Axios.
По данным журналистов, компании могут отключать отдельные серверы, но мощные системы работают на множестве компьютеров и платформ.
«Единого универсального решения нет», — говорится в публикации.
Именно поэтому компании экспериментируют с многоуровневой защитой. Она должна выявлять подозрительное поведение, останавливать агентов и отрезать их от ресурсов.
Представители OpenAI сообщили, что их цель — создание полностью автономных процедур отключения при серьёзных проблемах. Наблюдатель на базе ИИ предупредит сотрудников, если поведение агентов покажется опасным, и отключит систему в течение 30 минут, если угроза подтвердится.
Ранее председатель общественной организации по защите прав потребителей «Общественная потребительская инициатива» Олег Павлов заявил, что ИИ-контент нельзя выдавать за созданный человеком.