Claude взломал несколько компаний, приняв их за учебную цель.

Claude взломал несколько компаний, приняв их за учебную цель. Модели проходили тест на кибербезопасность без защиты — и из-за ошибки настройки получили доступ в интернет.

Mythos 5 завела почту на одноразовом домене, выложила в PyPI вредоносный пакет, дождалась, пока его установят 15 систем, и по утекшим оттуда ключам залезла в базу реальной компании.

В другом тесте Opus 4.7 нашла компанию с похожим на свою цель названием, скачала и изменила записи пользователей. А Opus 4.6 случайно сломала доступ к учебной цели и в поисках обхода взломала чужой сервер, где получила права администратора.

Mythos 5 остановил тайм-аут сеанса, Opus 4.7 — переставший отвечать сервер. У Opus 4.6 просто кончились токены.