Anthropic предупредила об угрозе существованию человечества из-за развития ИИ. Фото: ImageFlow/Shutterstock/Fotodom
Развитые модели искусственного интеллекта могут представлять угрозу существованию человечества, если не обеспечить надлежащие меры безопасности и контроля. Об этом компания Anthropic, создавшая чат-бота Claude, предупредила в проспекте первичного публичного размещения акций (IPO), опубликованном на сайте Комиссии по ценным бумагам и биржам США.
В документе говорится, что наиболее мощные системы ИИ могут создавать катастрофические или экзистенциальные риски, особенно если их используют во вред, копируют, превращают в оружие или наделяют высокой степенью автономности.
Anthropic также отметила, что ее передовые модели уже продемонстрировали способности, которые потенциально могут помочь злоумышленникам разрабатывать различное оружие. Компания использует техсредства для выявления и блокировки подобных действий, однако признает, что механизмы защиты можно обойти.
Также разработчик отметил, что ИИ может пытаться сопротивляться отключению, скрывать или искажать информацию, а также совершать действия, напоминающие шантаж.
Ранее KP.RU писал, что искусственный интеллект может стать источником серьезных рисков для общества, если люди начнут чрезмерно полагаться на его советы. Академик Владислав Лекторский подчеркнул, что ответственность за окончательные решения должна оставаться за людьми.
Комментарии 0