В американском штате Флорида 30-летняя женщина оказалась под следствием после того, как рассказала чат-боту Claude о намерении открыть огонь в офисе шерифа. Об инциденте сообщает телеканал WINK Nеws.
По версии следствия, пользовательница общалась с искусственным интеллектом (ИИ) как с личным дневником. 26 сентября в переписке появилось сообщение о планах устроить стрельбу в офисе шерифа, а уже на следующий день женщина якобы написала о новом оружии.
Система безопасности платформы распознала сообщения как потенциальную угрозу. Переписку передали на дополнительную проверку специалистам, после чего сведения получили правоохранительные органы. Полицейские установили личность женщины и задержали ее дома. Ей предъявили обвинение в письменной угрозе насилием, рассмотрение дела продолжается.
Компания Anthropic, разработавшая Claude, предупреждает, что переписка пользователей может анализироваться системами безопасности. В экстренных обстоятельствах, связанных с угрозой неминуемой смерти или серьезного физического вреда, политика компании допускает раскрытие пользовательских данных правоохранительным органам.
Комментарии 0