Похоже, мы снова подошли к той стадии технологического прогресса, когда обещанное удобство начинает подозрительно напоминать оружие. Разведка пяти стран из альянса Five Eyes (Five Eyes — это разведывательный альянс пяти англоязычных стран: США, Великобритании, Канады, Австралии и Новой Зеландии. Он создан для обмена разведданными и совместной оценки угроз, прежде всего в сфере безопасности, киберрисков и контрразведки) уже прямо говорит: ИИ скоро получит возможности, которые резко усилят кибератаки. Причем речь идет не о далеком будущем, а о месяцах. Для обычного человека это звучит почти как очередная научная страшилка, а для бизнеса - как очень дорогая проблема, которая уже сидит у двери и проверяет, открыта ли ручка.
Самое неприятное в этой истории не сам факт угрозы, а ее масштаб. Если раньше кибератаки были делом терпеливых, технически подкованных и сравнительно ограниченных по скорости людей, то теперь на сцену выходит система, которая умеет работать быстрее, шире и точнее. ИИ не устает, не просит премию, не уходит в отпуск и не забывает пароль. Он может искать слабые места в защите, подбирать сценарии проникновения и делать это в промышленных объемах. То есть привычная цифровая война из ремесла понемногу превращается в конвейер.
И вот здесь начинается вся ирония современности. Нам годами рассказывали, что ИИ освободит людей от рутины, ускорит анализ, поможет врачам, инженерам, бизнесу и еще десятку профессий. Все это звучало красиво, пока кто-то не вспомнил, что автоматизация одинаково хорошо работает и на светлой, и на темной стороне. Если машина умеет быстро находить уязвимости, значит она умеет быстро находить и то, что лучше бы вообще никто не нашел. Проблема не в самой технологии, а в том, что она слишком хорошо подходит для задач, от которых потом хочется отгородиться двойным паролем и крестным знамением.
Отдельно показательно, что Five Eyes говорит об этом не как о сугубо техническом вопросе, а как об основной угрозе для бизнеса. И это очень точное замечание. Сегодня кибербезопасность - уже не отдел айтишников, а элемент выживания компании. Один удачный взлом способен остановить логистику, сломать клиентские сервисы, украсть данные, подорвать доверие и превратить год работы в неприятный отчет перед акционерами. В такой реальности бизнесу уже не объяснишь, что это «просто цифровой инцидент». Это удар по деньгам, репутации и управляемости.
История с моделями Anthropic показывает еще более неприятную вещь: государства уже не просто наблюдают за развитием ИИ, а начинают нервно закручивать гайки. Требование закрыть доступ иностранцам, проверка пользователей, ограничения по гражданству, разговоры о национальной безопасности - все это признаки того, что рынок ИИ быстро перестал быть игрушкой для энтузиастов. Он становится зоной, где политические решения принимаются почти в режиме тревоги. И когда даже американская администрация начинает рассматривать контроль через оборонное законодательство, значит, нервозность уже вышла за пределы кабинетных разговоров.
Но самая большая проблема здесь даже не в том, что ИИ станет мощнее. Настоящая беда в том, что защита тоже начнет гонку вооружений, а значит, хорошие парни и плохие парни будут ускоряться одновременно. Один и тот же инструмент будет усиливать кибероборону и кибератаку, но у наступления всегда есть своя мерзкая прелесть: оно дешевле, быстрее и чаще пробивает защиту раньше, чем защитник успевает моргнуть. Поэтому дальше нас ждет не просто технологический скачок, а новая эпоха цифровой паранойи, где бизнесу придется считать не только прибыль, но и вероятность того, что очередная умная модель уже ищет в его системе открытое окно. И, как обычно, за красивый прогресс заплатят те, кто оказался внизу цепочки, а не у кнопки запуска.