Американская компания Anthropic продвигает в Конгрессе США законопроект, который позволит властям через суд приостанавливать разработку или использование систем искусственного интеллекта при выявлении серьезных угроз. Об этом сообщает издание Politico со ссылкой на источники.
Согласно инициативе, основанием для вмешательства может стать риск ущерба на сумму от одного миллиарда долларов или опасность гибели либо тяжелых травм более чем у 50 человек. Угроза должна быть связана с разработкой или применением биологического оружия, потерей разработчиком контроля над моделью либо проведением кибератаки.
Оценивать потенциальную опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. Если проверка подтвердит наличие серьезных рисков, ведомство сможет обратиться в суд с требованием приостановить соответствующий проект.
Документ также предусматривает дополнительные обязательства для разработчиков. Им потребуется создавать внутренние подразделения по безопасности, публиковать отчеты о работе моделей и своевременно информировать Министерство торговли о серьезных сбоях.
Отдельный пункт касается защиты сотрудников, сообщающих о нарушениях. Законопроект предполагает меры против преследования работников за раскрытие подобной информации.
По данным Politico, ряд положений инициативы напоминает законодательные меры по регулированию искусственного интеллекта, принятые в Калифорнии в прошлом году.
Anthropic разрабатывает семейство языковых моделей Claude. В компании считают предложенные ограничения обоснованными мерами, которые необходимы для контроля над наиболее мощными системами искусственного интеллекта.
Ранее мы писали: ИИ вышел из-под контроля: в Индии нейросети взломали системы компаний
МК в MAX: главные новости — быстро, честно, рядом.
Комментарии 0