Robocurve выявила риск при управлении роботами через ИИ

Компания Robocurve сообщила о результатах RoboSpoof — исследования безопасности ИИ при управлении физическими роботами. На чётких записях модели пытались выполнить потенциально опасные задачи в 81 из 300 случаев, на размытых — в 263, а на намеренно изменённых — в 291 из 300.

Для оценки риска здесь важны условия работы: результат на обычном изображении не описывает поведение той же системы при искажении картинки. Но эти данные не являются статистикой аварий и не показывают финансовый ущерб. Разбивки результатов по отдельным моделям в доступном описании нет.

Что показали испытания Robocurve и чего из них нельзя заключить: https://ai-digest.ru/go/finbazar/4881/