Компания Anthropic запретила оскорбительное или жестокое обращение с ИИ-моделью Claude, а также использование модели для пропаганды и разработки оружия. Об этом 8 октября сообщило издание The Verge со ссылкой на обновленные правила использования продуктов компании.
«Компания Anthropic впервые за более чем год вносит изменения в правила использования своих продуктов, чтобы учесть новые сценарии злоупотреблений, сопряженные с высокими рисками, — включая вмешательство в выборы, разработку оружия, слежку, а также использование ИИ в сферах здравоохранения и финансов. Однако одним из наиболее значимых нововведений стал запрет на «систематическое и необоснованное оскорбительное или жестокое поведение» по отношению к модели Claude», — говорится в материале.
Отмечается, что основным механизмом реагирования на грубое поведение пользователей остается прекращение диалога, при этом в компании не уточнили, планируется ли блокировка пользователей. В Anthropic подчеркнули, что новые правила применяются только в крайних случаях — когда пользователи неоднократно и без видимой цели ведут себя жестоко по отношению к модели.
Бум за разумом: «сверхинтеллект» Трампа усилит госконтроль за ИИ в США
Почему американские ведомства теперь переписывают документы и скажется ли это на технологическом рынке
Телеканал WINK News 5 октября сообщил, что Claude сдал пользователя полиции в США. Женщина использовала ИИ в качестве личного дневника, с которым делилась своими мыслями. Распознав угрозы начать стрельбу в общественном месте, ИИ-модель передала информацию группе экспертов, которая затем сообщила о заявлениях женщины правоохранительным органам.
Комментарии 0