Что это простыми словами
ИИ говорит гладко, уверенно, без колебаний. Ты автоматически веришь, потому что в человеческом общении уверенность = компетентность.
Но ИИ всегда говорит уверенно, даже когда несёт полную чушь. Он не умеет сомневаться, если его специально не попросить.
❌ Уверенный тон — не признак истины.
❌ ИИ не чувствует неуверенности.
❌ Галлюцинации произносятся так же убедительно, как факты.
Как это выглядит в диалоге
Пример 1 (история):
Вы: «Кто изобрёл радио?»
ИИ: «Александр Попов, 7 мая 1895 года». (уверенно)
Вы: «Ок, записал». А на самом деле есть и Маркони, и приоритет спорный.
🧠 Реальность: ИИ выбрал самый частотный ответ, не разбираясь в нюансах. Вы не проверили.
Пример 2 (медицина):
Вы: «Помогает ли аскорбинка от простуды?»
ИИ: «Исследования показывают, что регулярный приём витамина С сокращает длительность простуды на 8% у взрослых». (цифры, ссылка не настоящая)
Вы: «О, научно, значит, надо пить».
🧠 Реальность: Цифра красивая, но она может быть галлюцинацией или вырвана из контекста. ИИ может придумать любые проценты.
Пример 3 (техника):
Вы: «Как настроить роутер XYZ?»
ИИ: «Зайдите в 192.168.0.1, логин admin, пароль 1234». (уверенно)
Вы делаете — не работает. Оказывается, у вашей модели пароль другой.
🧠 Реальность: ИИ взял стандартные настройки для 80% роутеров, но не знает вашего конкретного.
Почему мы так легко верим
Эволюционно: если в племени кто-то говорил уверенно, ему верили — это экономило время. Сомневающихся ели тигры.
Сейчас этот механизм работает против нас: ИИ пользуется нашей доверчивостью, сам того не осознавая.
Как поймать себя на чрезмерной доверчивости
Симптомы:
Вы не просите источники.
Вы не проверяете факты хотя бы быстрым поиском.
Вы говорите «ну да, логично» и идёте дальше.
Вы удивляетесь, когда потом оказывается, что ИИ наврал.
Проверочный вопрос:
«Как бы я отнёсся к этому ответу, если бы его дал незнакомец в интернете без ссылок?»
Если бы вы не поверили незнакомцу — не верьте и ИИ.
Что делать вместо слепой веры
Требуйте неуверенности явно:
«Если не уверен в факте — скажи "не знаю" или "возможно"». ИИ может это сделать, если попросить.
Просите источник, а потом проверяйте сами:
«Дай ссылку на исследование с этими 8%». (ИИ может выдумать ссылку — тогда вы убедитесь в галлюцинации.)
Перепроверяйте важные факты в другом месте:
Даже быстрый поиск в поисковике займёт минуту, но спасёт от ошибки.
Используйте Chain of Thought (шаги рассуждения):
«Объясни, как ты пришёл к этому выводу, по шагам». Если шаги нелогичны или противоречивы — доверие падает.