Anthropic предложила замедлять рост возможностей передовых ИИ-моделей и допустить независимых оценщиков к внутренним процессам контроля риска. Компания обещает начать с себя, а затем хочет распространить обязательные проверки на других лидеров отрасли.
Для рынка последствия вполне приземлённые: внешние проверки и обязательная отчётность могут увеличить расходы поставщиков на соответствие требованиям и повлиять на сроки выпуска новых моделей. Одновременно прозрачный контроль способен снизить вероятность инцидентов и связанные с ними потери корпоративных клиентов. Есть и обратный риск — дорогие процедуры укрепят крупнейшие компании и повысят барьер входа для конкурентов.
B2B-заказчикам уже сейчас полезно включать в закупочные требования сведения о независимых аудитах, сообщении об инцидентах и политике обновления моделей. Это поможет сравнивать не только цену сервиса, но и потенциальную стоимость сбоя или срочной миграции. Читайте разбор и проверьте свои критерии выбора ИИ-поставщика:
Подробнее: https://ai-digest.ru/go/finbazar/3282/