Исследователь выдумал глазное заболевание — «биксониманию» — и загрузил две фальшивые статьи о нём на академический сервер. В статьях были благодарности «Академии Звёздного флота», финансирование от одного из героев «Симпсонов» и «Университета Братства Кольца», а в середине текста прямо сообщалось, что всё это вымышлено. Тем не менее, крупные ИИ-системы несколько недель представляли заболевание как реальное: Google Gemini утверждала, что его вызывает синий свет, Perplexity сообщала о распространённости — один случай на 90 тыс. человек, а ChatGPT консультировала пользователей по совпадению симптомов.
Фальшивое исследование даже процитировали в рецензируемом журнале, который отозвал номер после вмешательства Nature.
Тем не менее, ни ИИ, ни живые исследователи не заметили подделку — это говорит о том, что люди цитируют сгенерированные ИИ ссылки, не проверяя их содержимое.
Американский регулятор FDA использует ИИ для проверки лекарств, гендиректор нью-йоркской больницы планирует заменить радиологов алгоритмами, а ChatGPT Health запускается для консультаций пациентов.