Глава службы безопасности компании OpenAI ушел со своего поста, предупреждая, что корпоративная культура в сфере ИИ «не работает». Дэвид Робинсон присоединился к другим инсайдерам, призывающим индустрию уделять больше внимания быстро развивающимся технологиям искусственного интеллекта. Робинсон заявил, что в передовых компаниях, занимающихся разработкой ИИ, необходимо провести культурную реформу, а такие инциденты, как атака «роя» агентов OpenAI — программ ИИ, работающих автономно без контроля со стороны человека, — на стартап Hugging Face, «типичны для отрасли, учитывая скорость и гибкость, с которой работают люди». Джеффри Ирвинг, который работал в OpenAI и DeepMind, а затем стал главным научным сотрудником компании Resolution, в субботу также присоединился к тем, кто предупреждает об опасности искусственного интеллекта. В статье для Time он написал: «Недавние предупреждения о потенциальной разрушительной силе искусственного интеллекта преуменьшают серьёзность ситуации. Я считаю, что вероятность того, что мы все погибнем из-за развития систем искусственного интеллекта, превосходящих человеческий интеллект, составляет 50%, и что наши действия в ближайшие 2–10 лет определят исход».
Комментарии 0