Это не сценарий фильма, это произошло 20 июля
Hugging Face, крупнейшая в мире площадка, где живут нейросети (что-то вроде GitHub для искусственного интеллекта), сообщила о взломе. Атаку от начала до конца провёл автономный ИИ-агент, без хакера за клавиатурой.
Злоумышленники загрузили на сайт вредоносный набор данных. Он попал в систему обработки, и дальше агент действовал сам: проник во внутренние серверы, добрался до облачных хранилищ и учётных записей. За выходные, пока людей было меньше, система выполнила тысячи действий параллельно, в сотни раз быстрее любого человека.
А теперь самое красивое. Тревогу первой подняла не команда безопасности, а другая нейросеть, которая заметила аномалии. Потом инженеры скормили ИИ журнал из 17 000 событий атаки, и тот восстановил всю хронологию за часы. Работа, на которую у людей ушли бы дни.
Любопытная деталь: сначала команда попыталась разобрать атаку через популярные коммерческие модели, и те отказались. Их защитные фильтры не отличают специалиста по расследованию от самого хакера. Спасла открытая модель, которую развернули на собственных серверах.
Вывод, который делает сама Hugging Face: эпоха, когда ИИ воюет с ИИ на машинных скоростях, уже наступила. Люди в этой истории были зрителями с допуском.
А вы бы доверили нейросети защищать ваши данные, зная, что атаковать их будет тоже нейросеть?
📎 Именно поэтому мы в SpellBook делаем ассистентов, которые работают на человека, а не вместо него! Машины уже воюют между собой за выходные, пока люди спят. Ценность человека больше не в скорости, а в том, чтобы задавать вопросы, которые машине не придёт в голову задать. И в SpellBook мы учимся этому каждый день
