#ai — посты и обсуждения

Искусственный интеллект научился находить потенциальные уязвимости в открытом коде с пугающей скоростью. Но у автоматизации обнаружилась обратная сторона: тысячи непроверенных отчётов обрушились на мейнтейнеров open-source проектов, многие из которых поддерживают критически важное ПО в свободное время и без оплаты. В результате ИИ не столько «закрыл дыры», сколько создал новый кризис безопасности - кризис человеческого триажа.

Главный парадокс ИИ-безопасности

За семь месяцев проект Anthropic Glasswing выявил 37 966 потенциальных уязвимостей. Звучит как фантастический прорыв: модели сканируют код, находят слабые места, формируют отчёты и предлагают исправления. Однако публично раскрытыми оказались 7 349 находок - 19,4% от общего числа, а исправленными помечены лишь 217.

Иными словами, менее 0,6% всех найденных ИИ кандидатов в уязвимости дошли до статуса «исправлено». Это не означает, что почти все отчёты бесполезны: часть проблем ещё исследуется, часть признана дубликатами, часть отозвана. Но цифры показывают главное: найти кандидата - не значит защитить систему.

| Показатель Project Glasswing | Значение |

| Найдено потенциальных уязвимостей | 37 966

| Публично раскрыто | 7 349 (19,4%) |

| Исправлено | 217 |

| Дубликаты | 1 654|

| Отозванные отчёты | 419|

| Непроверенных отчётов передано мейнтейнерам | Почти 5 000 |

Почему волонтёры оказались в эпицентре

Open source держится на людях, которые часто работают без бюджета, дедлайнов корпораций и выделенной команды безопасности. Это может быть один разработчик, поддерживающий библиотеку, которую используют тысячи компаний, или небольшая группа энтузиастов, отвечающая за компонент критической инфраструктуры.

Когда ИИ генерирует сотни и тысячи отчётов, мейнтейнер должен не просто «прочитать письмо». Ему нужно:

- проверить, существует ли уязвимость в текущей версии;

- воспроизвести сценарий атаки;

- отделить реальную проблему от ложного срабатывания;

- оценить severity и реальные условия эксплуатации;

- найти корень дефекта в коде;

- написать, протестировать и выпустить патч;

- сообщить пользователям, обновить зависимости и вести коммуникацию.

Это полноценная инженерная и security-работа. А если проект популярный, один отчёт может потребовать часов анализа. Поток в тысячи отчётов превращает добровольческий труд в невыносимую нагрузку.

Anthropic открыла «быстрый канал» без проверки

В октябре 2026 года Anthropic запустила OSS Scanner - бесплатный opt-in сервис для open-source проектов. Система периодически сканирует подключённые репозитории и отправляет мейнтейнерам отчёты, сгенерированные моделью, вместе с reproducer и предложенным патчем. Ключевая деталь: эти отчёты не проходят предварительную человеческую проверку.

Anthropic объясняет решение спросом: некоторые мейнтейнеры, способные проводить триаж в промышленных масштабах, сами попросили присылать все находки, включая непроверенные. К моменту запуска OSS Scanner компания уже передала таким командам почти 5 000 сырых отчётов.

Это не «ИИ тайно заспамил разработчиков». Проекты согласились на поток. Но проблема глубже: согласие на bulk-отчёты не отменяет того, что проверка, приоритизация и исправление остаются человеческим трудом. А человеческого ресурса в open source хронически не хватает.

Найти - не значит исправить

Самая опасная иллюзия вокруг ИИ в кибербезопасности звучит так: «модель нашла уязвимость - значит, система стала безопаснее». На практике всё наоборот, если находка не верифицирована и не устранена.

Из 37 966 находок Glasswing 7 349 попали в публичный реестр. При этом 217 исправлений - это не «217 уязвимостей из 38 тысяч исправлено», а 217 исправлений среди уже раскрытых отчётов. Тем не менее разрыв между обнаружением и remediation остаётся колоссальным.

Причины понятны:

- ИИ умеет генерировать гипотезы об уязвимостях быстрее, чем люди умеют их проверять.

- Не каждая находка - эксплуатируемая уязвимость: часть может быть особенностью архитектуры, устаревшим сценарием или дубликатом.

- Патч требует тестирования, обратной совместимости и выпуска новой версии.

- Критичность зависит не только от кода, но и от того, как проект реально используют.

- Мейнтейнеры должны защищаться не только от атакующих, но и от информационного шума.

Когда ИИ становится источником шума

Проблема не ограничивается одним проектом Anthropic. Отрасль фиксирует резкий рост числа отчётов об уязвимостях, подготовленных с использованием ИИ, и рост доли отклонённых заявок в bug bounty-программах. Некоторые мейнтейнеры уже перестают принимать подобные отчёты, потому что нагрузка превышает их возможности.

Даже Linux-экосистема столкнулась с эффектом масштабирования: одинаковые ИИ-инструменты помогают разным исследователям находить и репортить одни и те же проблемы, перегружая приватные каналы координированного раскрытия уязвимостей.

Это создаёт новую атаку не на код, а на внимание защитников. Если security-команда тонет в низкокачественных отчётах, реальная критическая уязвимость может потеряться среди сотен ложных срабатываний. Для атакующего это почти идеальные условия.

Что должен содержать качественный ИИ-отчёт

ИИ может быть полезен, если отчёт не выглядит как автоматически сгенерированная простыня с общими формулировками. Хороший отчёт должен экономить время мейнтейнера, а не отнимать его.

Минимальный стандарт:

- Точная версия ПО, ветка, коммит и конфигурация.

- Понятное описание уязвимого пути: от входных данных до опасного действия.

- Воспроизводимый proof-of-concept, который не требует секретных данных.

- Чёткое объяснение влияния: что именно может получить атакующий.

- Оценка ограничений: нужны ли особые права, сеть, конкретная ОС или конфигурация.

- Предложенный патч с тестами, а не правка «на глаз».

- Проверка на дубликаты и анализ уже известных CVE.

- Уважение к политике coordinated vulnerability disclosure проекта.

Без этого ИИ-отчёт - не вклад в безопасность, а заявка на бесплатный аудит силами волонтёра.

Как open source может выжить

Решение не в том, чтобы запретить ИИ. Запретить генерацию отчётов невозможно, а сами модели действительно способны ускорить поиск дефектов. Вопрос в том, кто оплачивает стоимость проверки и как не разрушить инфраструктуру, от которой зависит весь цифровой мир.

Нужны несколько изменений одновременно:

- Фильтрация до отправки. ИИ-платформы должны проводить первичный триаж, воспроизведение и дедупликацию, прежде чем отчёт попадёт к человеку.

- Приоритизация по реальному риску. Сначала - эксплуатируемые, критичные и массово используемые уязвимости; затем - теоретические находки.

- Финансирование мейнтейнеров. Критические open-source зависимости нельзя строить на бесплатном труде нескольких человек.

- Общие стандарты отчётов. Машиночитаемый формат, обязательные поля, reproducibility, severity, affected versions и suggested fix.

- Rate limits и согласие. Проект должен сам выбирать объём, частоту и формат входящего потока.

- Бюджеты на security-триаж. Фонды, вендоры и крупные потребители open source должны вкладываться не только в сканеры, но и в людей, которые разбирают их результаты.

Главный вывод

ИИ действительно меняет кибербезопасность: он находит кандидатов в уязвимости быстрее любого человека. Но безопасность определяется не количеством найденных багов, а количеством подтверждённых, исправленных и безопасно развёрнутых дефектов.

Сегодня ИИ находит, open source разбирается. Если так продолжится, мы получим не более защищённый интернет, а выгоревших мейнтейнеров, перегруженные security-команды и критические библиотеки, которые физически не успевают закрывать поток находок. Будущее open-source безопасности зависит не от того, сколько уязвимостей найдёт модель, а от того, сможет ли индустрия построить честную систему: ИИ фильтрует шум, люди принимают решения, а компании и фонды оплачивают этот труд.

#ИИ #AI #OpenSource #Кибербезопасность #ИнформационнаяБезопасность #Уязвимости #CVE #Anthropic #Glasswing #OSSScanner #DevSecOps #AppSec #BugBounty #SoftwareSupplyChain #Киберугрозы #Инфобез #IT #БезопасностьПО #AIsecurity #VulnerabilityManagement

┌─────────────────────────────────────────────────────────────┐

│ │

│ ИИ НАХОДИТ — OPEN SOURCE РАЗБИРАЕТСЯ │

│ │

│ ┌───────────┐ ┌───────────────────────┐ │

│ │ AI MODEL │ ─────▶ │ 37 966 ОТЧЁТОВ │ │

│ │ GLASSWING│ │ ПОТЕНЦИАЛЬНЫХ БАГОВ │ │

│ └───────────┘ └──────────┬────────────┘ │

│ │ │

│ ┌──────────────▼──────────────┐ │

│ │ ПОЧТИ 5 000 БЕЗ ПРОВЕРКИ │ │

│ └──────────────┬──────────────┘ │

│ │ │

│ ┌──────────────────────────▼───────────────────────┐ │

│ │ ВОЛОНТЁР-МАЙНТЕЙНЕР │ │

│ │ │ │

│ │ [ ПОДТВЕРДИТЬ ] [ ОТКЛОНИТЬ ] [ ДУБЛИКАТ ] │ │

│ │ │ │

│ │ ИСПРАВЛЕНО: 217 из 7 349 раскрытых │ │

│ └───────────────────────────────────────────────────┘ │

│ │

└─────────────────────────────────────────────────────────────┘