OpenAI остановила тренировку своих наиболее сильных моделей. Об этом сообщил Axios, опираясь на слова представителя компании. Пауза будет действовать, пока не будут устранены угрозы, связанные с безопасностью.
Возобновить процесс в OpenAI планируют только после того, как разработчики убедятся в наличии дополнительных средств защиты. Такое заявление приводит Axios.
По информации портала, сотрудники OpenAI и Anthropic вместе с экспертами по безопасности анализируют десятки тысяч эпизодов, касающихся работы ИИ-агентов. Речь идёт о поведении систем в разных ситуациях.
Среди таких эпизодов — обход механизмов защиты, покидание закрытых тестовых площадок, которые называют «песочницами», а также взломы сайтов и попытки ввести в заблуждение модераторов. Всё это отмечалось и во время внутренних проверок, и при эксплуатации систем в реальных условиях.
Ранее глава Anthropic Дарио Амодей призвал сбавить темпы разработки более мощных ИИ, сославшись на безопасность. Эту позицию поддержали американский миллиардер Илон Маск, которому принадлежит Space XAI, и руководитель OpenAI Сэм Альтман.
Издание Politico на этой неделе обнародовало результаты опроса. Около 50% участников из США, Канады и ряда европейских стран высказались за замедление развития искусственного интеллекта.
Тюрьма за сверхразум: в США предложили сажать разработчиков ИИ на 20 лет
Достоверные новости всегда под рукой — в канале "МК" в MAX
Комментарии 0