Искусственный интеллект научился находить потенциальные уязвимости в открытом коде с пугающей скоростью. Но у автоматизации обнаружилась обратная сторона: тысячи непроверенных отчётов обрушились на мейнтейнеров open-source проектов, многие из которых поддерживают критически важное ПО в свободное время и без оплаты. В результате ИИ не столько «закрыл дыры», сколько создал новый кризис безопасности - кризис человеческого триажа.
Главный парадокс ИИ-безопасности
За семь месяцев проект Anthropic Glasswing выявил 37 966 потенциальных уязвимостей. Звучит как фантастический прорыв: модели сканируют код, находят слабые места, формируют отчёты и предлагают исправления. Однако публично раскрытыми оказались 7 349 находок - 19,4% от общего числа, а исправленными помечены лишь 217.
Иными словами, менее 0,6% всех найденных ИИ кандидатов в уязвимости дошли до статуса «исправлено». Это не означает, что почти все отчёты бесполезны: часть проблем ещё исследуется, часть признана дубликатами, часть отозвана. Но цифры показывают главное: найти кандидата - не значит защитить систему.
| Показатель Project Glasswing | Значение |
| Найдено потенциальных уязвимостей | 37 966
| Публично раскрыто | 7 349 (19,4%) |
| Исправлено | 217 |
| Дубликаты | 1 654|
| Отозванные отчёты | 419|
| Непроверенных отчётов передано мейнтейнерам | Почти 5 000 |
Почему волонтёры оказались в эпицентре
Open source держится на людях, которые часто работают без бюджета, дедлайнов корпораций и выделенной команды безопасности. Это может быть один разработчик, поддерживающий библиотеку, которую используют тысячи компаний, или небольшая группа энтузиастов, отвечающая за компонент критической инфраструктуры.
Когда ИИ генерирует сотни и тысячи отчётов, мейнтейнер должен не просто «прочитать письмо». Ему нужно:
- проверить, существует ли уязвимость в текущей версии;
- воспроизвести сценарий атаки;
- отделить реальную проблему от ложного срабатывания;
- оценить severity и реальные условия эксплуатации;
- найти корень дефекта в коде;
- написать, протестировать и выпустить патч;
- сообщить пользователям, обновить зависимости и вести коммуникацию.
Это полноценная инженерная и security-работа. А если проект популярный, один отчёт может потребовать часов анализа. Поток в тысячи отчётов превращает добровольческий труд в невыносимую нагрузку.
Anthropic открыла «быстрый канал» без проверки
В октябре 2026 года Anthropic запустила OSS Scanner - бесплатный opt-in сервис для open-source проектов. Система периодически сканирует подключённые репозитории и отправляет мейнтейнерам отчёты, сгенерированные моделью, вместе с reproducer и предложенным патчем. Ключевая деталь: эти отчёты не проходят предварительную человеческую проверку.
Anthropic объясняет решение спросом: некоторые мейнтейнеры, способные проводить триаж в промышленных масштабах, сами попросили присылать все находки, включая непроверенные. К моменту запуска OSS Scanner компания уже передала таким командам почти 5 000 сырых отчётов.
Это не «ИИ тайно заспамил разработчиков». Проекты согласились на поток. Но проблема глубже: согласие на bulk-отчёты не отменяет того, что проверка, приоритизация и исправление остаются человеческим трудом. А человеческого ресурса в open source хронически не хватает.
Найти - не значит исправить
Самая опасная иллюзия вокруг ИИ в кибербезопасности звучит так: «модель нашла уязвимость - значит, система стала безопаснее». На практике всё наоборот, если находка не верифицирована и не устранена.
Из 37 966 находок Glasswing 7 349 попали в публичный реестр. При этом 217 исправлений - это не «217 уязвимостей из 38 тысяч исправлено», а 217 исправлений среди уже раскрытых отчётов. Тем не менее разрыв между обнаружением и remediation остаётся колоссальным.
Причины понятны:
- ИИ умеет генерировать гипотезы об уязвимостях быстрее, чем люди умеют их проверять.
- Не каждая находка - эксплуатируемая уязвимость: часть может быть особенностью архитектуры, устаревшим сценарием или дубликатом.
- Патч требует тестирования, обратной совместимости и выпуска новой версии.
- Критичность зависит не только от кода, но и от того, как проект реально используют.
- Мейнтейнеры должны защищаться не только от атакующих, но и от информационного шума.
Когда ИИ становится источником шума
Проблема не ограничивается одним проектом Anthropic. Отрасль фиксирует резкий рост числа отчётов об уязвимостях, подготовленных с использованием ИИ, и рост доли отклонённых заявок в bug bounty-программах. Некоторые мейнтейнеры уже перестают принимать подобные отчёты, потому что нагрузка превышает их возможности.
Даже Linux-экосистема столкнулась с эффектом масштабирования: одинаковые ИИ-инструменты помогают разным исследователям находить и репортить одни и те же проблемы, перегружая приватные каналы координированного раскрытия уязвимостей.
Это создаёт новую атаку не на код, а на внимание защитников. Если security-команда тонет в низкокачественных отчётах, реальная критическая уязвимость может потеряться среди сотен ложных срабатываний. Для атакующего это почти идеальные условия.
Что должен содержать качественный ИИ-отчёт
ИИ может быть полезен, если отчёт не выглядит как автоматически сгенерированная простыня с общими формулировками. Хороший отчёт должен экономить время мейнтейнера, а не отнимать его.
Минимальный стандарт:
- Точная версия ПО, ветка, коммит и конфигурация.
- Понятное описание уязвимого пути: от входных данных до опасного действия.
- Воспроизводимый proof-of-concept, который не требует секретных данных.
- Чёткое объяснение влияния: что именно может получить атакующий.
- Оценка ограничений: нужны ли особые права, сеть, конкретная ОС или конфигурация.
- Предложенный патч с тестами, а не правка «на глаз».
- Проверка на дубликаты и анализ уже известных CVE.
- Уважение к политике coordinated vulnerability disclosure проекта.
Без этого ИИ-отчёт - не вклад в безопасность, а заявка на бесплатный аудит силами волонтёра.
Как open source может выжить
Решение не в том, чтобы запретить ИИ. Запретить генерацию отчётов невозможно, а сами модели действительно способны ускорить поиск дефектов. Вопрос в том, кто оплачивает стоимость проверки и как не разрушить инфраструктуру, от которой зависит весь цифровой мир.
Нужны несколько изменений одновременно:
- Фильтрация до отправки. ИИ-платформы должны проводить первичный триаж, воспроизведение и дедупликацию, прежде чем отчёт попадёт к человеку.
- Приоритизация по реальному риску. Сначала - эксплуатируемые, критичные и массово используемые уязвимости; затем - теоретические находки.
- Финансирование мейнтейнеров. Критические open-source зависимости нельзя строить на бесплатном труде нескольких человек.
- Общие стандарты отчётов. Машиночитаемый формат, обязательные поля, reproducibility, severity, affected versions и suggested fix.
- Rate limits и согласие. Проект должен сам выбирать объём, частоту и формат входящего потока.
- Бюджеты на security-триаж. Фонды, вендоры и крупные потребители open source должны вкладываться не только в сканеры, но и в людей, которые разбирают их результаты.
Главный вывод
ИИ действительно меняет кибербезопасность: он находит кандидатов в уязвимости быстрее любого человека. Но безопасность определяется не количеством найденных багов, а количеством подтверждённых, исправленных и безопасно развёрнутых дефектов.
Сегодня ИИ находит, open source разбирается. Если так продолжится, мы получим не более защищённый интернет, а выгоревших мейнтейнеров, перегруженные security-команды и критические библиотеки, которые физически не успевают закрывать поток находок. Будущее open-source безопасности зависит не от того, сколько уязвимостей найдёт модель, а от того, сможет ли индустрия построить честную систему: ИИ фильтрует шум, люди принимают решения, а компании и фонды оплачивают этот труд.
#ИИ #AI #OpenSource #Кибербезопасность #ИнформационнаяБезопасность #Уязвимости #CVE #Anthropic #Glasswing #OSSScanner #DevSecOps #AppSec #BugBounty #SoftwareSupplyChain #Киберугрозы #Инфобез #IT #БезопасностьПО #AIsecurity #VulnerabilityManagement
┌─────────────────────────────────────────────────────────────┐
│ │
│ ИИ НАХОДИТ — OPEN SOURCE РАЗБИРАЕТСЯ │
│ │
│ ┌───────────┐ ┌───────────────────────┐ │
│ │ AI MODEL │ ─────▶ │ 37 966 ОТЧЁТОВ │ │
│ │ GLASSWING│ │ ПОТЕНЦИАЛЬНЫХ БАГОВ │ │
│ └───────────┘ └──────────┬────────────┘ │
│ │ │
│ ┌──────────────▼──────────────┐ │
│ │ ПОЧТИ 5 000 БЕЗ ПРОВЕРКИ │ │
│ └──────────────┬──────────────┘ │
│ │ │
│ ┌──────────────────────────▼───────────────────────┐ │
│ │ ВОЛОНТЁР-МАЙНТЕЙНЕР │ │
│ │ │ │
│ │ [ ПОДТВЕРДИТЬ ] [ ОТКЛОНИТЬ ] [ ДУБЛИКАТ ] │ │
│ │ │ │
│ │ ИСПРАВЛЕНО: 217 из 7 349 раскрытых │ │
│ └───────────────────────────────────────────────────┘ │
│ │
└─────────────────────────────────────────────────────────────┘
