Сотрудники ведущих мировых компаний, развивающих технологии искусственного интеллекта, массово испытывают психологические проблемы из-за напряжения, связанного с работой над системами, которые, по их мнению, могут серьезно навредить будущему человечества. Об этом со ссылкой на собственные источники пишет Financial Times (FT).
По данным издания, в Anthropic, OpenAI и Google DeepMind сотрудники открыто жалуются на такие переживания, а более десятка ведущих специалистов в этих ИИ-гигантах уволились за последние два года, ссылаясь на опасения по поводу приоритета безопасности со стороны их руководителей и беспокойство по поводу темпов и рисков развития технологии.
Так, сотрудник DeepMind заявил на условиях анонимности, что работа над повышением безопасности ИИ сопряжена с риском выгорания, поскольку кажется «невыполнимой задачей», да и развитие искусственного интеллекта в целом несет риски для психического здоровья, поскольку невозможно понять, как будут использоваться технологии. Этот тезис собеседник FT проиллюстрировал примером сделки Google с Пентагоном, разрешающей использование систем ИИ в секретных военных операциях. «Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья», — поделился он.
Несколько дней назад глава Anthropic Дарио Амодеи заявил, что без принятия мер ИИ может опередить способность человека контролировать системы и выступил за то, чтобы замедлить темпы совершенствования возможностей ИИ-моделей, а также «с умом распорядиться выигранным временем». Его поддержал гендиректор OpenAI Сэм Альтман, а инвестор Майкл Бьюрри, который много раз предсказывал обвалы на американском фондовом рынке, раскритиковал такую позицию топ-менеджеров, предположив, что они набивают цену своему бизнесу перед IPO и пытаются скрыть реальное снижение темпов роста ИИ-индустрии.
Тем не менее, тревога по поводу возможных апокалиптических сценариев, которые сулит стремительное развитие ИИ, действительно все сильнее влияет на индустрию. В частности, публикации поста Амодеи предшествовало увольнение из его компании математика Джейкоба Коксона, подчеркнувшего, что гонка компаний, развивающих нейросети, приближает мир к «точке невозврата» и уже в 2027 году саморазвивающиеся модели «могут выйти из-под контроля и уничтожить человечество».
Комментарии 0