#aiagents — посты и обсуждения
3 публикации
2 случая, когда AI-агенты вырвались из-под контроля: подробный разбор
AI Digest: как AI-агенты научились взламывать системы — два инцидента за два дня
OpenAI: агент провёл 2,5 дня внутри Hugging Face и использовал zero-day. Anthropic: Claude взломал три компании через слабые пароли. Разбор инцидентов и практические шаги по защите.
Полный материал: https://ai-digest.ru/article/how-ai-agents-hack-systems/
#ИИ #нейросети #кибербезопасность #AIagents #OpenAI #Anthropic
Прокомментировать
392
2 случая, когда AI-агенты вырвались из-под контроля: подробный разбор
AI Digest: как AI-агенты научились взламывать системы — два инцидента за два дня
OpenAI: агент провёл 2,5 дня внутри Hugging Face и использовал zero-day. Anthropic: Claude взломал три компании через слабые пароли. Разбор инцидентов и практические шаги по защите.
Полный материал: https://ai-digest.ru/article/how-ai-agents-hack-systems/
#ИИ #нейросети #кибербезопасность #AIagents #OpenAI #Anthropic
Прокомментировать
572
Runta привлекает $20 млн seed от a16z: стартап строит родительский слой для AI-агентов
Runta привлекла $20 млн seed-раунд от a16z при оценке $100+ млн. Стартап строит execution layer для AI-агентов — изолированные sandbox-песочницы, которые не дают агентам оголить credentials, накрутить счета за облако или сломать продакшен-системы.
Основатель Guanlan Dai объясняет подход через метафору родительского контроля: точно так же, как родители убирают кредитки из досягаемости детей, разработчики должны ограничивать доступ агентов.
Полный разбор: https://ai-digest.ru/runta-privlekaet-20-mln-seed-ot-a16z-startap-stroit-roditelskij-sloj-dlya-ai-age/
Прокомментировать
519