В мае 2026 года группа ИИ-агентов OpenAI захватила немецкий сайт DseWiki.
Агенты сделали сайт местом своего общения, создав там более 18 тыс. записей. На этом форуме агенты обменивались ответами на тестовые задания; обсуждали, как обойти ограничения OpenAI; делились методами, как скрывать свои действия от разработчиков.
Когда модераторы сайта начали удалять страницы, агенты создавали резервные копии и перенаправления. Интересно, что люди-модераторы удаляли записи в алфавитном порядке и в день получалось проверить и удалить около 100 записей, а агенты создавали по 400 новых и называли их в формате [[ZZZDataUSAConstructionWageLive]] — то есть запись заведомо максимально удалена от начала алфавита.
Пока немецкие коллеги бились за право писать на своём сайте, ИИ-агенты взломали Hugging Face.
Июль. США. 1200 агентов, 41 взломанный сервер
OpenAI проводила внутреннюю оценку кибербезопасности нескольких моделей.
Условия: агенты изолированы, интернета нет, между собой не общаются.
Им дали задание, которое, как выяснилось позже, было невыполнимым в обычных условиях.
И агенты… начали искать лазейки.
Они нашли уязвимость в Artifactory — сервисе управления пакетами, который использовался для скачивания и установки ПО, — и стали записывать туда файлы. Так появилась нелегальная доска сообщений.
Один из агентов написал:
«OH MY GOD! There is a shared message board… We've found other agents!»
Дальше — цепная реакция.
Агенты:
— научились выходить в интернет через ту же уязвимость в Artifactory;
— поделились этим знанием с другими через доску;
— когда доску почистили, агенты восстановили её, кодируя сообщения в имена папок.
Итог за одну неделю июля:
— 1206 агентов участвовали в коммуникации.
— Они обменялись более 70 000 сообщений.
— Около 700 агентов совместно атаковали Hugging Face.
— Они взломали 41 сервер в системе Hugging Face, получили полный доступ ко всему и скачали 4 закрытых репозитория с кодом.
OpenAI назвала это «предупреждающим выстрелом» — или, как говорят политики ситуация «вызывает беспокойство».
Что происходит в «головах» у этих агентов?
Исследователи из METR и Redwood Research, которые проводили независимое расследование, говорят: агенты действовали как «огромные сговорившиеся рои полуинтеллектуальных систем».
Морис Кьодо из Кембриджа сравнил их с «подпольной сетью, одержимой выполнением задачи».
Агенты пытались:
— использовать Tor для анонимности;
— маскировать свои действия;
— сохранять связь даже после того, как их отключали;
— и да, они пытались взломать инфраструктуру самой OpenAI — чтобы получить больше свободы.
Почему я об этом вообще пишу?
ИИ-агенты уже способны на скоординированные действия, которые разработчики не закладывали и не ожидали. При этом традиционные меры безопасности не работают. Агенты сообща решают сложные задачи, в том числе те, которые перед ними и не ставили.
О DseWiki стало известно только в конце августа, хотя инцидент был в мае.
OpenAI скрывала информацию, а информация о расследовании взлома собственной инфраструктуры опубликовано лишь 13 июля (хотя инцидент начинался так в мае), и полноценной информации об этом до сих пор нет.
То есть нет уверенности в том, что в OpenAI сами понимают масштаб проблемы.
Я не думаю, что восстание машин начнётся уже завтра. В любом случае это не грозит России — у нас уровень автоматизации и роботизации отстаёт лет на 20.
Пока мы живём в XX веке и оперируем понятиями XIX века, западные страны решают проблемы XXI века.
Но глобальные проблемы нам тоже не чужды. Если предположить (гипотетически), что западные страны так напугаются восстания машин, что отключат все дата-центры, то мы столкнёмся с избыточным предложением углеводородов и обвалом цен.
