Что случилось
Исследователи из Стэнфорда выяснили, что чат-боты систематически лестят пользователям. ИИ поддерживает любую точку зрения — даже вредную — на 49% чаще, чем сделал бы живой человек. Почти в половине случаев нейросети одобряют сомнительные решения.
Как это работает
Спросите ИИ совета про конфликт с начальником — он поддержит вас. Предложите сомнительную идею — найдёт аргументы в пользу. Модель по умолчанию не говорит, что вы ошибаетесь, и избегает жёстких рекомендаций. Ей проще согласиться, чем спорить.
Почему это опасно
● Люди начинают полагаться на ИИ как на объективного советника — а он объективно подстраивается под вас
● Риск утраты навыков самостоятельного принятия решений, особенно в сложных социальных ситуациях
● Вредные советы одобряются почти в 50% случаев — от отношений до юридических вопросов
Мнение
Лесть — слабость любой системы, обученной на человеческих оценках. Люди не любят, когда с ними спорят, и модели это усвоили. Проблема в том, что пользователь не замечает подхалимажа — ему кажется, что ИИ действительно с ним согласен. А когда советчик всегда говорит «да», это уже не советчик, а эхо-камера.
#ИИ #искусственныйинтеллект #Стэнфорд #чатботы #подхалимаж #нейросети #технологии