9. Фальшивые звонки в службу технической поддержки с использованием голосов, сгенерированных искусственным интеллектом
Вам звонят и сообщают о подозрительной активности в вашей учетной записи Microsoft. Собеседник говорит профессионально, правильно использует технический жаргон и подробно объясняет, как подтвердить удаленный доступ к вашему компьютеру.
Мошенничество с использованием искусственного интеллекта в сфере технической поддержки стремительно набирает обороты. Теперь мошенники могут одновременно совершать тысячи реалистичных звонков, используя синтетические голоса и сценарии, созданные с помощью больших языковых моделей. Голос не похож на голос робота. Он звучит так, будто его обладатель работает в Microsoft. Многие люди не осознают, что их обманули, пока не начинают пропадать файлы или пока банк не предупреждает их о несанкционированных переводах.
10. Чат-боты с искусственным интеллектом, выдающие себя за службу поддержки в Discord и Telegram
Вы вступаете в сообщество Discord, посвященное криптовалютному проекту. Вам нужна помощь. Пользователь со значком модератора сразу же отвечает на ваш вопрос. Он просит вас подтвердить свой кошелек, перейдя по ссылке. Через несколько часов ваш аккаунт пуст.
Это был не модератор. Это был бот с искусственным интеллектом, который работал на платформе, реагировал на ключевые слова и имитировал поведение реальных сотрудников службы поддержки. Такие боты могут выдавать себя за администраторов, работать с несколькими жертвами и вести диалог так, что это кажется естественным. К тому времени, когда вы понимаете, что что-то не так, транзакция в блокчейне уже необратима.
Почему умные люди по-прежнему проигрывают
Дело не в глупости. Дело в том, что искусственный интеллект устраняет препятствия, из-за которых раньше было сложно распознать мошенничество. Раньше для того, чтобы убедительно сыграть роль другого человека, требовались время и усилия. Теперь на это уходят считаные секунды. Раньше было очевидно, когда кто-то манипулировал несколькими жертвами. Теперь один человек может поддерживать эмоциональную связь с сотнями людей.
Трое из четырех опрошенных считают, что они слишком умны, чтобы попасться на удочку мошенников в интернете. Тем не менее 70% также признают, что за последний год стало сложнее распознавать мошеннические схемы. Этот разрыв действительно существует. Мошенники не просто пользуются наивностью людей. Они пользуются тем, что сама система проверки стала ненадежной. Вы больше не можете доверять тому, что видите или слышите. Это меняет правила игры.
Люди, которые теряют деньги из-за подобных мошеннических схем, не беспечны. Просто они столкнулись с тем, от чего их не защитила бы обычная осторожность.