Как мы можем помешать технологиям искусственного интеллекта использовать его в своих целях?
Голоса содержат бесчисленное множество сигналов о своих владельцах, и, согласно новым исследованиям, компьютеры могут использовать их для поощрения различных форм деструктивного поведения.
Если знать, на что обращать внимание, по голосу человека можно судить о его уровне образования, эмоциональном состоянии и даже о профессии и финансовом положении — и даже больше, чем вы можете себе представить. Теперь ученые утверждают, что технология преобразования речи в текст может использоваться для завышения цен, несправедливого профилирования, домогательств и преследования.
В то время как люди могут улавливать более очевидные сигналы, такие как усталость, нервозность, радость и т. д., компьютеры могут делать то же самое, но с гораздо большим количеством информации и гораздо быстрее. Согласно новому исследованию, интонация и выбор слов могут рассказать о многом — от политических взглядов до состояния здоровья.
Исследование, опубликованное в журнале Proceedings of the IEEE, вызывает серьёзную обеспокоенность по поводу того, как эта технология влияет на конфиденциальность и несправедливое профилирование.
Несмотря на то, что технологии обработки и распознавания речи открывают новые возможности, исследователи считают, что они могут нести в себе серьезные риски и причинять вред. Например, если корпорация по вашему голосу определит ваше экономическое положение или потребности, это может привести к завышению цен, например на страховые взносы.
А когда по голосу можно определить такие детали, как эмоциональная уязвимость, пол и другие личные данные, киберпреступники или сталкеры могут идентифицировать жертв и отслеживать их перемещения по разным платформам, подвергая их риску вымогательства или преследования. Все эти детали мы передаем неосознанно, когда говорим, и на них мы реагируем неосознанно в первую очередь.
Дженналин Понрадж, основательница компании Delaire, футуролог, работающая в области регуляции нервной системы человека с учетом новых технологий, рассказала изданию Live Science: «Физиологии слушания уделяется очень мало внимания. В кризисной ситуации люди в первую очередь реагируют не на язык. Они реагируют на тон, ритм, и дыхание, зачастую еще до того, как включается когнитивная функция».
Технология пока не используется, почва для этого уже подготовлена.
Мы также должны помнить, что наши голоса повсюду. Каждый раз, когда мы оставляем голосовое сообщение, и каждый раз, когда оператор службы поддержки сообщает нам, что звонок записывается в учебных целях и для контроля качества, наши голоса сохраняются в цифровом виде в том же объеме, что и наш цифровой след, включающий публикации, покупки и другую активность в интернете.