Как нейросети лгут и выдумывают факты. Инструкция против фейков и галлюцинаций ИИ
Можно провалиться под землю, когда всю вашу работу называют слопом только из-за одной ошибки. Чтобы такой каверзы не возникло, узнайте больше о лжи ИИ и как с ней бороться.
Почему нейросеть лжёт?
Галлюцинации возникают, потому что обучение и оценка поощряют угадывание, а не признание неопределённости. Если тест засчитывает только правильные ответы, а «не знаю» приравнивает к нулю, то выгоднее угадать, чем промолчать.
Пример из статьи показателен: на вопрос о дате рождения автора модель трижды назвала разные даты, и все три оказались неверными. Цифры по тесту SimpleQA ещё нагляднее. Модель gpt-5-thinking‑mini воздерживалась в 52% случаев, ошибалась в 26%, а её точность составила 22%. Модель o4-mini воздерживалась всего в 1% случаев, ошибалась в 75%, а точность составила 24%.
Суд из-за ошибки ИИ
Бывало даже такое, когда ошибка нейросети вызвало юридическое разбирательство. В деле Mata v. Avianca (2023) адвокатов оштрафовали на $5 000 за выдуманные ссылки на несуществующие решения. С тех пор история стала массовой: в базе Дамьена Шарлотена к сентябрю 2 026 года более 2 000 дел по всему миру. Счётчик растёт ежедневно, и в него входят в том числе дела, где использование ИИ только заявлено.
Типы ошибок и как их вычислить
Чек-лист для проверки
Вам нужно всего 10 минут, чтобы защитить себя от ошибки.
Оцените цену ошибки. Если ошибка стоит дёшево, проверка может быть поверхностной. Если речь о договоре, отчёте или публичном заявлении, нужна полная.
Вытащите утверждения. Попросите модель перечислить все фактические утверждения из ответа списком и пометить, какие проверяемы по первоисточнику.
Проверьте источники вручную. Откройте каждую ссылку и найдите в тексте то, что приписывает ей модель. Существование источника ещё не значит, что он подтверждает вывод.
Сверьте числа с первоисточником. Цифры, даты, суммы и цитаты проверяйте отдельно: именно здесь модели ошибаются чаще всего.
Повторите вопрос. Задайте его в новом чате или другой модели и сравните ответы. Несовпадение служит сигналом, что нужна проверка. Совпадение доказательством не является: две модели могут ошибаться одинаково.
Если хотите ещё глубже разобраться, как формулировать запросы к текстовым моделям так, чтобы они реже ошибались, почитайте наш гайд «Как выжать 1000% из текстовых нейросетей».
А чтобы проверить свои новые знания на практике, попробуйте SpeShu.AI — это 300+ нейросетей, 1000+ пресетов, ИИ-агенты и многое другое в одном окне. Без VPN, с оплатой в рублях и годной скидкой в -50% для новичков. А промокод BAZAR15 дополнительно умножит ваш баланс на 115%.