Anthropic в этом месяце анонсировала свою новейшую модель искусственного интеллекта Claude Mythos, но заявила, что она не будет представлена широкой публике, поскольку превращает компьютеры в средство преступлений. Компания утверждала, что модель может находить ранее неизвестные уязвимости «нулевого дня», использовать их и, в принципе, объединять эти уязвимости, чтобы получить доступ к основным операционным системам и веб-браузерам. Mythos делал это автономно, самостоятельно писал код и получал привилегии. Последствия могут быть весьма серьёзными. Это как если бы грабитель мог выбрать любое здание, проникнуть внутрь, открыть все двери и опустошить все сейфы.
На данный момент компания из Кремниевой долины назвала 40 организаций партнерами в рамках проекта, призванного помочь выстроить защиту, и обратилась к ним с просьбой «устранить» уязвимости до того, как ими воспользуются хакеры. Все эти организации находятся в США и являются частью цифровой системы, возглавляемой Вашингтоном. Anthropic поделилась Mythos только с Великобританией, не входящей в США, что позволило Институту безопасности искусственного интеллекта протестировать передовые модели. Увидев их вблизи, британские министры предупредили: ИИ сделает кибератаки намного проще и быстрее, и большинство компаний к этому не готовы. Банки в Европе, скорее всего, проверят его в первую очередь.
Возможно, это не за горами. На этой неделе появились сообщения о несанкционированном доступе, что заставляет задуматься о том, можно ли доверять частным компаниям подобные возможности. Mythos не обязательно создает новый вид киберугроз. Он превращает скрытую уязвимость в системный риск. Хакерство традиционно было сложным и трудоемким процессом, требующим навыков, которыми обладают немногие. Но инструменты на основе искусственного интеллекта быстро распространяются, и взлом системы становится доступен многим, а не только экспертам.
Mozilla протестировала Mythos в своем браузере Firefox: он обнаружил в 10 раз больше уязвимостей, чем раньше, и устранил их. Важно отметить, что среди них не было таких, которые не смог бы обнаружить человек. Главное отличие в том, что ИИ выявляет «киберуязвимости» быстро, дешево и массово.
Присоединение правительства США к Anthropic знаменует собой сдвиг в политике. В феврале Пентагон признал компанию «угрозой безопасности» и лишил ее выгодных контрактов после того, как она отказалась разрешить использование своей технологии для массовой слежки или создания автономного оружия. Контракт достался OpenAI. Anthropic со своим чат-ботом Claude долгое время позиционировала себя как этичную альтернативу среди конкурентов, хотя в прошлом году ее репутация пострадала из-за выплаты в размере 1,5 миллиарда долларов по делу о пиратстве.
Mythos — мощная технология, но PR-кампания Anthropic повлияла на общественное мнение не меньше, чем сама технология. Кроме того, остается открытым вопрос о том, насколько продвинутой на самом деле является Mythos. Белый дом считает, что Anthropic имеет стратегическую ценность, — приглашая ее обратно в проект и тем самым демонстрируя переход от отношения к компаниям, работающим в сфере ИИ, как к подрядчикам к партнерскому подходу. В связи с этим возникает вопрос: разумно ли, что частные компании контролируют риски, связанные с критически важной инфраструктурой, особенно если менее ответственные субъекты получают технические рычаги влияния?
Очевидно, что тот, кто — государство или компания — создаст самые мощные модели искусственного интеллекта, получит геополитические преимущества перед друзьями и врагами. Однако без механизма международной координации в области кибербезопасности существует риск того, что вместо одного безопасного интернета появится несколько конкурирующих между собой сетей, каждая из которых будет «исправлять» свою собственную систему и не будет полностью доверять другим. Интернет перестанет быть глобальным достоянием. Вместо этого сеть будет разделена на альянсы по интересам в области безопасности, которые будут охраняться более тщательно, в то время как нечто более масштабное будет тихо исчезать.