ЦБ РФ подготовил рекомендации для кредитных, некредитных организаций и участников национальной платёжной системы по обеспечению безопасности, надёжности и эффективности при разработке и использовании искусственного интеллекта.
Документ разработан в соответствии с Кодексом этики в сфере ИИ на финансовом рынке и направлен на выработку единых подходов к реализации принципа безопасности. В нём перечислены основные риски, включая управление данными с использованием «отравленных», неактуальных или некорректных наборов, нарушение конфиденциальности с утечкой данных и авторских прав, галлюцинации моделей, дрейф данных, недостаточную объяснимость решений, сбои интеграции и неправомерные действия персонала.
Для критически важных процессов, таких как платежи и учётные системы, при высоком уровне риска рекомендуется обязательная валидация результатов человеком с возможностью их корректировки. Регулятор предлагает разрабатывать модель угроз безопасности системы ИИ с учётом всех этапов жизненного цикла: от подготовки данных до функционирования.
Среди специфических угроз выделены обход средств ИИ, отравление обучающих данных, раскрытие информации о модели, хищение данных, модификация архитектуры, отказ в обслуживании и манипуляция поведением. Для защиты на этапе подготовки данных предлагается контроль аномалий, шифрование, обезличивание и проверка целостности. На стадии разработки — анализ уязвимостей, криптографическая защита и отслеживание изменений. При обучении и тестировании рекомендуются состязательное обучение, защитная дистилляция, ансамблевые методы, федеративное обучение и тестирование на проникновение. В процессе функционирования — шифрование данных, мониторинг аномалий, регистрация событий и ограничение запросов.
Организациям предлагается разработать или дополнить внутреннюю политику информационной безопасности, которая должна включать цели по целостности, конфиденциальности, доступности, киберустойчивости и объяснимости моделей, а также правила доступа, обучение персонала, комплаенс и порядок действий при инцидентах, включая аварийную остановку. При использовании open-source и сторонних сервисов необходимо оценивать риски, вести учёт компонентов, проверять поставщиков через Bug Bounty, аудиты и наличие модели угроз, а для обучения передавать только очищенные или синтетические данные.
Ответственным за разработку политики и контроль назначается заместитель руководителя по вопросам защиты информации.
Источник: ЦБ РФ