Человек должен оставаться в контуре принятия решений там, где есть повышенные риски информационной безопасности.
И если ИИ используется в платежных операциях, то финальное подтверждение транзакции должен делать именно человек.
Не ИИ модель!
Не алгоритм!
Не «автоматическое решение»!
А именно человек, который и несет за это ответственность.
Именно поэтому надобно сохранять человеческий контроль в процессах с высокими рисками.
Ибо, собственная ИИ модель может ошибаться, а внешний ИИ сервис может быть непрозрачным, уязвимым или плохо контролируемым.
Нынче, обещаний только одного красивого интерфейса и гарантий «наша ИИ модель вам всё автоматизирует» — уже мало для обеспечения безопасности.