ЦБ РФ видит риск в том, что банки массово начнут опираться на одни и те же непрозрачные глобальные ИИ-модели, с одинаковыми ошибками, зависимостью от внешнего поставщика и непрозрачными источниками данных.
Поэтому, новым объектом регулирования со стороны ЦБ России может стать архитектура данных и принципы, на которых строятся решения.
В этом случае, банкам придётся доказывать не только качество и управляемость ИИ-модели, но и происхождение, актуальность, полноту, правомерность и стабильность данных.
Это может создать новый рынок вокруг ИИ-комплаенса: понадобятся паспорта моделей, журналы решений, независимая валидация, контроль внешних поставщиков, сценарии аварийного отключения и замены модели.
Если раньше обсуждался в основном риск конкретной ИИ-модели (скоринг ошибся, антифрод дал ложное срабатывание, рекомендательная система некорректно сегментировала клиента), то сейчас вопрос шире — если много банков используют одинаковую ИИ-модель или одного внешнего поставщика, то ошибка перестаёт быть локальной и может стать системной.
Это особенно чувствительно в кредитных лимитах, риск-моделях, антифроде, инвестиционных рекомендациях и управлении ликвидностью.
В странах Азии и Европы регуляторы уже относят кредитный скоринг и оценку кредитоспособности с использованием ИИ к высокорисковым финансовым сценариям.