Контроль действий ИИ-агента проверили на имитации платёжного сервиса

Антон Трофимов описал Governed Agent Runtime: модель Qwen3.8:27b предлагает операции, а отдельная программа контролирует их допустимость и выполнение. Испытания проводились на синтетическом платёжном сервисе, не на действующей платёжной инфраструктуре.

В повторном эксперименте с заранее проверенными критериями модель предложила перенести трафик до увеличения мощности стабильной версии. Качество ответа не прошло ни одной из трёх проверок, контроль среды прошёл все три; инструменты при этом не исполнялись. Для оценки такого решения принципиально не смешивать качество плана с соблюдением ограничений. Денежный эффект этого опыта не установлен.

Как разработчик разделил предложения модели и контроль операций: https://ai-digest.ru/go/finbazar/4871/