ИИ под контролем: что изменит первый российский закон об искусственном интеллекте

Зачем России собственные фундаментальные ИИ-модели

Консолидация усилий в разработке отечественных фундаментальных моделей высокого качества необходима. И хотя обучение таких систем сейчас не имеет экономического эффекта, на них «замыкается» большое количество процессов. Построение собственной архитектуры необходимо для корректной работы современного ИИ. Все государства будут регулировать этот процесс. Не зря гендиректор OpenAI, разработчика чат-бота ChatGPT, Сэм Альтман едет в Вашингтон согласовывать выпуск GPT-6.
Первым комплексный горизонтальный риск-ориентированный закон об искусственном интеллекте принял ЕС — EU AI Act. Но в ходе согласования часть наиболее жестких решений была смягчена. Например, итоговый текст предусматривает возможность не относить отдельные системы из чувствительных сфер к высокорисковым, если они не создают значимого риска (Regulation (EU) 2024/1689, ст. 6).
США в большей степени опираются на рамочные документы и требования к федеральным органам — такие, как Executive Order on AI 2023 и NIST AI Risk Management Framework. В Великобритании пока нет ни одного комплексного закона об ИИ, а ответственность распределяется между отраслевыми регуляторами. Китай ввел обязательные правила для отдельных технологий, в том числе рекомендательных алгоритмов и генеративного ИИ (CAC, 2022; CAC, 2023).
В России уже в 2019 году была утверждена Национальная стратегия развития ИИ, в 2020 году запущен экспериментальный правовой режим для технологий ИИ в Москве и принят единый порядок запуска регуляторных песочниц по всей стране для тестирования новых технологических решений. Таким образом, регулирование ИИ выстраивается с учетом реального опыта внедрения технологий, и это позволяет постепенно уточнять требования и избегать избыточных ограничений.
Важную роль также играет Кодекс этики ИИ, принятый в 2021 году. Он закрепляет базовые принципы развития ответственного ИИ. В том числе ориентацию на человекоцентричный подход при создании новых моделей, необходимость соблюдения правил безопасности, прозрачности нейросетей.
Основная задача принятого сейчас закона — стимулировать российских разработчиков повышать качество моделей. Если они будут проигрывать зарубежным сервисам, то бизнес, естественно, будет использовать открытые модели или даже закрытые по API. При этом важно отметить, что открытые модели никогда не показывают, на каких данных они обучались. На этом фоне использование национальных моделей в чувствительных контурах выглядит более чем обосновано.

Создание red-team для контроля качества

Важно отметить, что любая нейросетевая модель предобучается на всех данных, и базовые версии ИИ-сервисов, включая китайские, без дообучения и специального промтинга могут быть америкоцентричны, поскольку большая часть текстов в интернете на английском. Но исключить англоязычные тексты — значит сильно ухудшить качество моделей. Для соответствия традиционным ценностям необходимо спланировать дальнейшие шаги обучения — составление специальных бенчмарков, постоянное тестирование, выравнивание. Для достижения цели также требуется создавать red-team, которые будут следить за работой каждой нейросети, исследовать ее.
На данный момент большие языковые модели с нуля в России фактически обучает только «Сбер» — это GigaChat. Своя модель есть и у «Яндекса», хотя последние версии в большей степени построены на масштабном дообучении китайских моделей. Другие участники рынка ограничиваются более локальными и менее масштабными донастройками.
Думаю, что на этом различии и будет строиться разделение ИИ-моделей на суверенные и национальные. Первые предполагают полный цикл создания и обучения внутри страны, вторые будут включать решения, разработанные или адаптированные на базе иностранных моделей. Вероятно, при разграничении будут учитываться и такие параметры, как размер, количество токенов и т.д.
Можно ли рассматривать этот закон как начало построения долгосрочной стратегии регулирования? Конечно же, да. Конкретные критерии отнесения систем к той или иной категории будут закреплены в подзаконных актах. 

Ключевое в подзаконных актах

Одним из главных пунктов может стать определение процедуры признания ИИ-моделей — через сертификацию, аккредитацию или регистрацию. Не менее важно понимать, какой государственный орган будет отвечать за процедуру, по каким критериям будут оцениваться модели и насколько прозрачным этот процесс станет для разработчиков и пользователей.
Отдельного внимания потребуют вопросы последующего контроля: будет ли периодическая переоценка модели, мониторинг ее работы после внедрения, а также основания и порядок изменения ранее присвоенного статуса? Ответы на эти вопросы, вероятно, будут появляться по мере формирования подзаконной базы и накопления практики применения новых правил.
Мнение редакции может не совпадать с точкой зрения автора