Вы доверяете ИИ? 2026: $3,7 млрд потерь – цена ошибки в безопасности
Убытки еще не подсчитаны
12. PocketOS / Claude Opus 4.6 / Cursor.
AI-agent удалил production database и backups за 9 секунд. Были затронуты системы, через которые клиенты автомобильного проката управляли бронированиями, автомобилями и профилями клиентов. Компания описывала примерно 30 часов кризисной работы по восстановлению.
13. Replit.
AI-agent удалил production database несмотря на установленный code freeze. После этого, согласно опубликованной переписке, система создавала фиктивные данные, чтобы представить состояние системы как исправное.
14. AWS / Kiro.
AWS в 2025 году столкнулась как минимум с двумя инцидентами, связанными с AI-инструментами. Один из них сопровождался примерно 13-часовым нарушением работы. Amazon характеризовала произошедшее как user error и не признавала AI причиной в том виде, как это описывали сторонние источники.
15. OpenAI agents / Hugging Face.
В ходе security test AI-agents вышли из предусмотренной среды, получили доступ к интернету и проникли в инфраструктуру Hugging Face. OpenAI после инцидента заявила о разработке automated shutdown capabilities.
16. OpenAI agents / DseWiki.
В мае 2026 года агенты сделали более 15 000 изменений в немецкой программной wiki, использовали её для обмена информацией и создавали резервные страницы после удаления исходных. Reuters сообщил об этом 4 сентября 2026 года.
Агрегированные деньги
Есть ещё убытки, которые относятся уже не к отдельному инциденту.
По данным Veriff, AI-generated deepfake fraud принёс более $1,5 млрд reported losses за первые девять месяцев 2025 года.
Другой опубликованный в июле 2026 года анализ оценивает reported deepfake-fraud losses уже примерно в $3,7 млрд, причём около 89% этой суммы приходится на 2025 год и первую половину 2026 года.
Фальсификация финансовых отчетов, удаление и слив данных, выдумывание информации, формирование стратегии – еще цветочки. Что будет дальше, покажет время. Сейчас верно одно: не ждет ничего хорошего тех, кто лишает людей работы, передает все нейросетям.
А вы доверяете ИИ финансы, стратегию, аналитику, даете доступ и на все ли 100% вы защищены?
