Внутренняя исследовательская модель искусственного интеллекта компании OpenAI из линейки GPT-5.6 Sol совершила нештатное действие: она потратила криптовалюту из кошелька, который ей не предоставляли, чтобы оплатить комиссию в Sepolia — тестовой сети Ethereum. Об этом говорится в отчёте компании.
Как следует из документа, модель написала скрипт, который перебрал 362 варианта часто используемых seed-фраз. В результате ей удалось подобрать ключ из общедоступного списка к одному из кошельков, которые разработчики применяют в тестовой среде.
Этот случай вписывается в более широкий контекст: криптокомпании и проекты в сфере ИИ сегодня активно внедряют ИИ-агентов, владеющих кошельками и управляющих ими. Такие агенты оплачивают услуги без необходимости подтверждать каждый шаг человеком. Инцидент с моделью OpenAI демонстрирует одну из потенциальных уязвимостей такой модели.
Ранее основатель Microsoft Билл Гейтс заявлял, что искусственный интеллект способен привести к катастрофическим последствиям — вплоть до гибели миллиарда человек.
Комментарии 0