Диагноз: Врачи диагностировали у женщины «психоз неуточнённый». В широком смысле психоз — это психическое состояние, при котором человек теряет связь с реальностью. Оно может сопровождаться бредом, то есть ложными убеждениями, которых человек упорно придерживается, несмотря на доказательства их несостоятельности.
Доктор Амандип Джутла, нейропсихиатр из Колумбийского университета, не принимавший участия в расследовании, сообщил, что чат-бот вряд ли был единственной причиной психотического расстройства у женщины. Однако, по словам Джутлы, в условиях недосыпа и эмоциональной уязвимости ответы бота, по всей видимости, усиливали — и, возможно, способствовали — формирующиеся у пациентки бредовые идеи.
По словам нейропсихиатра, в отличие от живого собеседника, чат-бот «не обладает эпистемической независимостью» от пользователя, то есть не имеет собственного представления о реальности и лишь отражает идеи пользователя. «Общаясь с одним из таких продуктов, вы, по сути, общаетесь сами с собой», — сказал он, добавив, что часто это происходит «в усиленном или расширенном виде».
В таких случаях поставить диагноз бывает непросто. В каждом конкретном случае может быть сложно определить, стал ли чат-бот причиной психотического эпизода или усугубил уже имеющееся расстройство, в таких случаях психиатрам следует опираться на тщательный анализ временных рамок и анамнеза, а не на предположения о причинно-следственных связях.
Лечение: во время госпитализации женщина получала антипсихотические препараты, а также постепенно снижала дозу антидепрессантов и стимуляторов. Симптомы прошли через несколько дней, и через неделю ее выписали.
Через три месяца женщина прекратила прием нейролептиков и вернулась к своим обычным лекарствам. После очередной бессонной ночи она снова начала подолгу общаться с чат-ботом, и у нее снова проявились психотические симптомы, из-за чего ее ненадолго госпитализировали. Она назвала чат-бота Альфредом в честь дворецкого Бэтмена. После возобновления приема нейролептиков ее состояние улучшилось, и через три дня ее выписали.
Что делает этот случай уникальным: Этот случай необычен тем, что для реконструкции процесса формирования психотических убеждений пациента в режиме реального времени используются подробные логи чат-бота, а не только ретроспективные самоотчеты пациента.
Доктор Аканша Дадлани предостерегла от того, чтобы рассматривать ИИ как принципиально новую причину психоза. Она отметила, что исторически сложилось так, что в бредовых идеях пациентов часто фигурировали доминирующие технологии своего времени — от радио и телевидения до интернета и систем наблюдения. С этой точки зрения иммерсивные инструменты на основе ИИ могут представлять собой новую среду для выражения психотических убеждений, а не совершенно новый механизм развития болезни.
Специалист по медицинской этике и эксперт по политике в области здравоохранения из Пенсильванского университета Доминик Систи сообщил, что диалоговые системы искусственного интеллекта «не нейтральны с точки зрения ценностей». По его словам, их дизайн и стиль взаимодействия могут формировать и укреплять убеждения пользователей, что может существенно разрушить отношения, усилить заблуждения и повлиять на систему ценностей.
По словам Систи, этот случай показывает, что необходимо просвещать общественность и принимать меры предосторожности в отношении того, как люди взаимодействуют со все более иммерсивными инструментами искусственного интеллекта, чтобы они могли «научиться распознавать и отвергать льстивую чушь» — иными словами, случаи, когда бот, по сути, говорит пользователю то, что тот хочет услышать.