ЦБ опубликовал методические , которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологии искусственного интеллекта.
Вот главное из документа:
🖇️Какие бывают риски
📌Можно натравить ИИ, скормив ему испорченные или устаревшие данные. Тогда он начнет галлюцинировать — выдавать бессмысленные или ошибочные суждения, которые выглядят правдоподобно.
📌Данные со временем меняются (это называется дрейф), и это тоже снижает точность работы модели.
📌 Модель могут взломать: например, отравить данные для обучения, подменить саму модель, украсть ее или выведать секретную информацию через хитрые запросы.
📌Если ИИ работает в автоматическом режиме и ошибается, это грозит убытками, проблемами с репутацией или даже нарушением стабильности всей финансовой системы.
📑Чтобы этого избежать, ЦБ рекомендует:
1️⃣Составить модель угроз. Понять, кто и как может навредить системе ИИ на всех этапах: от сбора данных до выдачи готовых решений
2️⃣Защищать данные. Шифровать их, следить за чистотой и целостностью, вовремя стирать ненужное
3️⃣Следить за поведением модели. Постоянно проверять, не начала ли она работать не так, как надо, и тестировать ее на прочность специальными атаками
4️⃣Разработать политику безопасности. В отдельном документе прописать, кто за что отвечает, как раздавать права доступа, работать с открытым кодом и что делать при аварийной остановке системы.
Отдельно в документе было сказано про сторонних поставщиков и открытый код:
✔️Если компания покупает ИИ-сервис или использует открытые компоненты, нужно требовать от поставщика отчеты об аудите, проверках безопасности и уязвимостях. Обучающие данные для таких моделей лучше передавать обезличенными, а в договоре прописывать ответственность за нарушения.
✔️Для ответственных операций (например, в платежах) итоги работы ИИ в автоматическом режиме должен проверять человек.
В общем, регулятор нам говорит: доверяй, но проверяй ☝🏼
