Генеральный директор корпорации Anthropic Дарио Амодеи предупредил, что при утрате контроля искусственный интеллект (ИИ) может представлять угрозу для человечества. Об этом он заявил на заседании Совета Безопасности ООН.
По его словам, ИИ развивается очень быстро. Четыре года назад он едва мог написать строку кода, а теперь пишет большинство кодов Anthropic и решает сложные математические задачи.
Амодеи выделил две главные угрозы: использование моделей биотеррористами для создания оружия и утрату контроля над ИИ.
Ранее для решения этих проблем он предложил три шага. Первый — начать с узконаправленных соглашений, например запрета использовать ИИ для создания биологического оружия.
Второй шаг — создать системы проверки и верификации, соответствующие темпам развития технологии. Третий — обозначить общие стандарты тестирования моделей на риски потери контроля и неправомерного использования.
Комментарии 0