Оценка сотрудника Anthropic Эвана Хубингера — свыше 10% риска гибели человечества от несогласованного сверхразумного ИИ в ближайшее десятилетие — добавляет к гонке моделей новый фактор: стоимость безопасности перестаёт быть отвлечённой статьёй расходов. Заявление появилось после ухода Джейкоба Коксона, работавшего над предварительным обучением моделей в Anthropic и OpenAI.
Для рынка это означает рост давления на лаборатории, инвесторов и регуляторов. Независимые аудиты, тестирование, мониторинг и возможные ограничения темпа масштабирования способны повысить издержки и замедлить выпуск продуктов. Но отсутствие проверяемых механизмов контроля создаёт куда более крупный долгосрочный риск — от репутационных потерь до жёсткого регулирования после серьёзного инцидента. При этом цифра 10% остаётся экспертной оценкой, а не статистически подтверждённым прогнозом.
Читайте полный разбор аргументов и возможных последствий для рынка:
Подробнее: https://ai-digest.ru/go/finbazar/3215/