Исследование OpenAI выявило компромисс между прозрачностью ИИ и вычислительными…

По данным исследователей OpenAI, прозрачность рассуждений зависит не только от мощности ИИ, но и от архитектуры, этапов обучения и выбора модели-учителя. Эти решения влияют на то, какие промежуточные шаги остаются доступны проверяющим.

У компромисса есть вычислительная сторона: меньшая модель с более длинными рассуждениями во многих сценариях может сравняться с крупной моделью с короткими записями и оставаться удобнее для контроля. Однако длинные рассуждения требуют больше вычислений при использовании. Конкретных денежных оценок приведённые данные не дают.

Высокая способность менять черновик по команде пока не означала более частого успешного обмана в практических тестах.

Подробнее о результатах OpenAI и границах этого компромисса: https://ai-digest.ru/go/finbazar/4928/