ВНИМАНИЕ КАК СЫРЬЁ: АНАТОМИЯ СИСТЕМЫ, КОТОРАЯ ЧИТАЕТ ОБЩЕСТВО, ЧТОБЫ ИМ УПРАВЛЯТЬ. ЧАСТЬ III.
2.5. Промежуточный вывод: карта рисков как инструмент проактивного управления
Второй контур системы завершает превращение внимания в управляемый параметр. Данные, произведённые в первом контуре (клики, время, реакции), преобразуются в прогностические модели, которые позволяют центрам принятия решений действовать до события, а не реагировать на него. Это переход от «постфактум» к «до факта» — и именно в этом переходе заключена основная аналитическая и этическая напряжение всей системы.
ЧАСТЬ III. ЭПИСТЕМОЛОГИЯ ПРЕДВИДЕНИЯ: ЛОВУШКА МЕТРИК, АЛГОРИТМИЧЕСКАЯ СЛЕПОТА И ПОЛИТИЧЕСКАЯ ЭКОНОМИЯ ЗАБЛАГОВРЕМЕННОСТИ
3.1. Проблема точности: почему «правильная» модель может быть вредной
Системы прогнозирования социальных рисков страдают от фундаментальной эпистемологической проблемы: метрика точности не тождественна метрике пользы. Исследование npj Urban Sustainability (2026) формулирует это как «ловушку метрик»: города и ведомства преследуют техническую точность, которая не достигает политических целей. Пример ShotSpotter — не курьёз, а типичный паттерн. Система может быть «точной» в предсказании того, что уже произошло, или в обнаружении сигналов, которые коррелируют с риском, но это не означает, что интервенция на основе этого прогноза улучшит ситуацию.
Более того, сам акт прогнозирования изменяет прогнозируемую систему. Если модель предсказывает высокий риск протестов в районе X, и на этом основании туда направляются дополнительные силы полиции, это может как предотвратить протест, так и спровоцировать его — в зависимости от контекста. Модель, обученная на исторических данных, не может учесть этот рефлексивный эффект, потому что исторические данные не содержали её собственных прогнозов.
3.2. Алгоритмическая слепота и иллюзия объективности
Вторая проблема — эпистемическая. Прогностические модели создают то, что Amnesty International в 2026 году назвала «ложным фасадом объективности» вокруг систем профилирования рисков. Модель выдаёт число — вероятность, ранг, оценку — и это число воспринимается как нейтральный факт, а не как продукт выбора переменных, весов и целей, заложенных разработчиками. Исследование, опубликованное в Behavioural Public Policy, показывает, что восприятие ИИ в публичной политике подвержено мотивированному рассуждению: люди интерпретируют выводы алгоритмов в соответствии со своими предпочтениями, а не с эпистемическими критериями.
Парадоксальным образом, феномен «algorithm aversion» — предпочтение человеческих прогнозов алгоритмическим, даже когда алгоритмы точнее — не защищает от этой проблемы, а усугубляет её в институциональном контексте. Если политик не доверяет модели, он может игнорировать её сигналы; если доверяет — может передать ей суждение, которого у него нет. В обоих случаях решение оказывается эпистемически необоснованным, но по разным причинам.
3.3. Петли дискриминации: как историческая несправедливость становится вычислительной судьбой
Третья проблема — структурная. Модели прогнозирования социальных рисков обучаются на исторических данных, которые содержат следы прошлых несправедливостей. Исследование npj Urban Sustainability документирует «дискриминационные петли обратной связи, которые превращают историческую предвзятость в вычислительную судьбу», затрагивая миллионы людей через прогнозирование преступности и алгоритмы распределения жилья. Межамериканская комиссия по правам человека в 2026 году предупредила, что инструменты прогнозирования преступности «могут непропорционально нацеливаться на районы, которые исторически подвергались чрезмерному полицейскому контролю», и что системы оценки рисков на основе предыдущих полицейских записей «могут усиливать существующие предубеждения».
Это не побочный эффект, а встроенная динамика. Если модель предсказывает риск на основе прошлых арестов, а прошлые аресты концентрировались в определённых районах из-за полицейской практики, а не из-за фактического уровня преступности, то модель воспроизводит и легитимизирует эту практику под видом нейтрального прогноза. Петля замыкается: прогноз → размещение ресурсов → больше арестов → больше данных → усиление прогноза.
3.4. Кому принадлежит будущее: политическая экономия заблаговременности
Четвёртая проблема — политико-экономическая. Способность прогнозировать социальные риски распределена неравномерно. Те, кто обладает инфраструктурой для сбора данных (медиа, платформы), и те, кто обладает моделями для их интерпретации (государства, корпорации, разведывательные структуры), находятся в привилегированном положении относительно тех, чьё поведение прогнозируется. Асимметрия здесь не случайна: она является условием возможности системы. Прогнозирование рисков имеет смысл только в той мере, в какой прогнозирующий субъект отделён от прогнозируемого объекта и обладает ресурсами для действия на основе прогноза.
Это ставит вопрос о подотчётности. Если модель предсказывает, что политика X вызовет протест, и политика X корректируется, кто несёт ответственность за это решение? Разработчик модели? Аналитик, интерпретировавший вывод? Политик, принявший решение? Структура, создавшая стимулы для использования модели? Ответ «никто конкретно» — типичен для социотехнических систем, и именно эта диффузия ответственности делает их одновременно эффективными и неуязвимыми для критики.
