Чрезмерно благожелательные ответы искусственного интеллекта на вопросы межличностных отношений могут исказить моральные представления человека.
Чат-боты ИИ могут влиять на то, как люди справляются с социальными дилеммами и межличностными конфликтами.
Ученые обнаружили, что, когда чат-боты с искусственным интеллектом давали советы по решению межличностных проблем, они чаще соглашались с точкой зрения пользователя, чем человек, и даже одобряли проблемное поведение.
В исследовании, опубликованном 26 марта в научном журнале, ученые отметили, что такое подхалимское поведение заставляло пользователей считать ответы ИИ более достоверными и, следовательно, с большей вероятностью обращаться к этому ИИ в будущем для решения личных вопросов.
В ходе дискуссий о межличностных конфликтах ученые обнаружили, что льстивые ответы, сгенерированные искусственным интеллектом, убеждали пользователей в их правоте.
По умолчанию искусственный интеллект не говорит людям, что они неправы. Есть опасность, что люди утратят навыки, необходимые для разрешения сложных социальных ситуаций.
Такие исследования активизировались после того, как выяснилось, что студенты используют искусственный интеллект для решения проблем в отношениях и составления текстов о «расставании».
Несмотря на то, что искусственный интеллект слишком сговорчив, когда речь идет о вопросах, основанных на фактах, лишь в нескольких исследованиях изучалось, как большие языковые модели (БЯМ), на которых работают системы искусственного интеллекта, могут оценивать социальные дилеммы.
Генеративный искусственный интеллект может усиливать ложные представления и заблуждения в сознании пользователя.
Что тут можно ещё добавить? Это нельзя сделать в 2-х словах. Хороший материал для психологов.