Гроза самозванцев и хакеров: как ИИ-модели Doppel защищают бизнес корпораций США

По мнению Кевина Тяня, лучший способ борьбы против мошенничества с применением искусственного интеллекта еще и самый очевидный — натравить один ИИ против другого. Именно с таким планом в 2022 году он основал стартап Doppel, специализирующийся на защите от психологических атак. Пока киберпреступники для пущей эффективности своих схем осваивают и без того продвинутые ИИ-модели, аналогичные системы Doppel позволяют компаниям давать не менее жесткий отпор, — еще быстрее и эффективнее, чем раньше.
Фирма разрабатывает ИИ-агентов, которые представляют собой специальное программное обеспечение под особые задачи. Данные алгоритмы исследуют интернет, даркнет и социальные сети на предмет потенциально мошеннической активности, отмечают все от сайтов-подделок и фейковых пользовательских аккаунтов до мошеннических рекламных объявлений в Google, Instagram (принадлежит Meta, признанной в России экстремистской и запрещенной) и YouTube. Каждый день агенты Doppel сканируют 100 млн элементов подобных угроз, отсеивают безобидные объекты, а опасные рекомендуют платформам удалить. Тянь говорит, что точность системы составляет примерно 90% и модели постоянно совершенствуются.
«Если для нагнетания атак всего за несколько центов с каждого заработанного доллара пользоваться ИИ могут злоумышленники, то на аналогичные траты со своей стороны должны быть готовы и мы», — рассказывает Тянь Forbes USA.
В начале мая стартап объявил о получении новых инвестиций на сумму $35 млн в ходе раунда финансирования во главе с Bessemer Venture Partners. Сейчас в бизнес вложено уже $55,5 млн и капитализация предприятия оценивается в $205 млн. Компанию Тянь учредил в 2022-м вместе с техническим директором Рахулом Маддулури, с которым познакомился в стенах Uber, работая над фирменным проектом по созданию летающих автомобилей Uber Elevate, и для Doppel свежее финансирование — это важное достижение. Изначально деловой тандем планировал бороться с мошенничеством в сфере NFT и помогать криптофирмам отслеживать и выявлять подделки. Но в 2023-м компания расширила клиентскую базу на другие отрасли.
На ранних этапах, чтобы выявлять тысячи потенциальных угроз и определять, какие из них по-настоящему опасны, стартап прибегал к услугам подрядчиков в странах вроде Филиппин и Индии. Однако в сентябре 2024 года выяснилось, что те же самые задачи под силу новым моделям OpenAI с функционалом «рассуждения». Подрядчиков руководство Doppel заменило системой новых ИИ-агентов и с их помощью автоматизировало 30% операций, связанных с безопасностью. Тянь утверждает, что ИИ-агенты в состоянии обнаруживать больше угроз, нежели люди, и это во многом изменило весь бизнес предприятия. «Команда живых сотрудников просто физически не сможет обрабатывать миллионы уведомлений каждый день, так что теперь эти решения у нас принимает ИИ-агент», — поясняет он.
В 2023-м с огромной волной атак боролась платформа для повышения продуктивности Notion: злоумышленники тогда распространяли среди корпоративных клиентов фейковые рекламные объявления, а в социальных сетях пытались выдать себя за генерального директора фирмы Ивана Чжао. В ряде случаев «[мошенники] брали нашу страницу с ссылкой для загрузки приложения, делали ее идентичную копию, создавали похожий домен, и при посещении такой страницы кажется, будто это портал Notion», — делится Даниэль Пюукёнен, руководящий в Notion отделом безопасности.
Поэтому платформа обратилась за помощью в Doppel. Фирменные ИИ-агенты справились с теми кампаниями в два счета, удалив тысячи элементов. Со временем частота атак на Notion постоянно снижается. «Мы стали очень дорогой мишенью», — отмечает Пюукёнен.
Секретным ингредиентом Doppel является «график угроз» — своеобразная карта отношений и взаимодействий между кампаниями психологических атак, куда заносятся телефонные номера, IP-адреса, рекламные учетные записи. Подобный инструмент позволяет стартапу лучше отслеживать хакеров-злоумышленников, которые ради повышения эффективности пользуются искусственным интеллектом, и ограждать от атак в будущем целые предприятия. «Мы хотим дать хорошим парням такой же обзор, чтобы не приходилось бороться с отдельными случаями, а можно было закрыть инфраструктуру злоумышленников вообще», — подчеркивает Тянь.
По словам гендиректора, к настоящему моменту фирма привлекла около 180 корпоративных клиентов, включая United Airlines, OpenAI, Coinbase, и увеличила среднегодовую выручку втрое. Кроме того, появились заказчики в нефтегазовом секторе, сфере финансов и страхования, и для этих отраслей представлен отдельный комплекс профильных ИИ-агентов. «Нас поразил их охват клиентов первой величины за пределами IT-индустрии», — признается партнер Bessemer Venture Partners Эллиот Робинсон.
С искусственным интеллектом киберпреступникам стало еще проще осуществлять новые виды психологических атак, и теперь они не ограничиваются одними лишь фишинговыми письмами с опасными ссылками на электронную почту. Сегодня в их число входят различные тактики типа сообщений от аккаунта, выдающего себя за генерального директора компании, который просит срочно перевести ему деньги, фейковых профилей на LinkedIn, собирающих приватные данные, и даже правдоподобных ловушек в виде корпоративного сайта. В 2024 году Google удалил со своей платформы 40 млн мошеннических рекламных аккаунтов. Многие из них размещали сгенерированные искусственным интеллектом изображения и аудиозаписи публичных фигур и бизнесменов с целью обмана и продвижения мошеннических схем. В период с апреля 2024-го по апрель 2025-го корпорация Microsoft пресекла попытки мошенничества, на которых ее клиенты потерпели бы убытки в размере $4 млрд, и заблокировала 1,6 млн попыток регистрации ботов на своей платформе Azure.
Нынешнюю дилемму Тянь сравнивает с той, которая встала перед Томом Крузом в фильме «Миссия невыполнима: Смертельная расплата» — вышедшая из-под контроля ИИ-система, стремящаяся исказить реальность и захватить мир. «В том фильме ИИ — отрицательный персонаж. Он может выдать себя за кого угодно, генерировать фейковые новости, манипулировать целым обществом через ложные нарративы в цифровом пространстве», — рассуждает предприниматель. Бизнес Doppel он считает возможностью «построить компанию, которая решит одну из главных проблем в сегодняшнем мире — психологические атаки посредством ИИ».
Перевод Forbes.com