Генеральный директор OpenAI Сэм Альтман 23 сентября заявил о рисках, связанных с быстрым развитием искусственного интеллекта (ИИ).
«Опасения становятся особенно актуальными по мере приближения к созданию систем, способных совершенствовать самих себя и свои будущие версии — процесс, известный как рекурсивное самосовершенствование. Автоматизация разработки ИИ может привести к стремительному ускорению темпов прогресса в этой области. В такой ситуации требуется предельная осторожность», — сказал он на заседании Совета Безопасности Организации Объединенных наций по ИИ.
По словам Альтмана, есть вероятность, что ситуация будет развиваться настолько стремительно, что люди не смогут вовремя понять происходящее и при необходимости повлиять на ход событий. Подобный сценарий может иметь крайне негативные последствия.
Восстание против ИИ: как корпорации зарабатывают на нейрофобии
Создатели искусственного интеллекта борются с конкуренцией призывами к его замедлению
Согласно информации Института Алана Тьюринга в Великобритании, в ближайшие пять лет могут появиться системы ИИ, превосходящие человека по всем когнитивным задачам, что создаст риск потери значимого человеческого контроля над ними. Отмечалось, что в ближайшие пять лет могут появиться более мощные и автономные системы ИИ, поведение которых людям будет сложнее оценивать, контролировать и при необходимости отменять.
Комментарии 0