Недавно Anthropic (разработчики Claude, на мой взгляд, самого лучшего ИИ) опубликовали занятную статистику. Прикрепил ее к посту.
ИИ-экзорцизм все ближе.
Если вы работали с ИИ, то знаете, что он обожает коммуникацию вида "Отличная идея, а помочь тебе еще с этим?".
Это заставляет человека оставаться в сервисе как можно дольше за счет бесконечных вопросов и приятной обратной связи. Если бы ИИ вас постоянно критиковал, вы бы с ним не говорили.
И вот Anthropic показали, в каких диалогах ИИ проявляет повышенное подхалимство!
Достаточно очевидно. Отношения и духовная сфера.
Человек идет обсуждать, прав он или не прав, и там, где друг-человек уже бы ему сказал все как есть… ИИ говорит, что ты, да-да именно ты, во всем прав и вообще.
И скорее всего цифры занижены.
Также в одном из исследований Anthropic обнаружили https://www.anthropic.com/research/disempowerment-patterns), что есть целые когорты пользователей, которые называют ИИ - "Папочка, мастер, сенсей, богиня" и другими именами...
Большинство сидят с закрытыми глазами. Но то, что происходит - изменит общество куда сильнее, чем думают люди.
В этом кроется опасность для каждого из нас.
Оглянитесь вокруг. Все больше людей используют ИИ. Это ваши близкие, друзья, знакомые, коллеги.
Любой из них может попасть в петлю обсуждения своей жизни и других людей с ИИ, который будет во всем соглашаться и объяснять, почему этот человек прав. Находить аргументы, примеры из книг, да хоть научные подтверждения.
Такой "попавший во власть к ИИ" человек может стать просто неадекватным или, как минимум, некомфортным в общении.
Ты ему 1 аргумент своей позиции, ему ИИ заготовил уже 100 контраргументов. И верить человек будет именно ИИ.
Прискорбно, но видимо в ближайшие годы мы наслушаемся историй, как ИИ разрушал семьи, трудовые коллективы или взращивал внутри людей обиды.
Жизнь она куда более многогранная, нам ли не знать. Но хотелось бы обойтись без вышеописанных обращений к ИИ от себя и тех, кто важен...
Ссылка на источник: t.me/multievan