Пользуетесь ChatGPT или другим ИИ? Вранье замечали?🙂

Иллюзия успеха и гарантия решения любых вопросов порождает доверие. А доверие расслабляет булки разум. Делал когда табличку вкладов - притомился допиливать, вечно цифры ползли.

ИИ, очевидно, продал бы ручку гораздо лучше Ди Каприо из «Волка с Уолл-стрит». А вместе с ручкой, скорее всего, «впарил» бы и стол, и цветок в углу, и ипотеку на здание — для комплекта 😁

— В Колумбии судья признался, что использовал ChatGPT при вынесении решения по делу — и ИИ «посоветовал» ему спорную трактовку.

— В Германии журналисты уличили ИИ-помощника в создании фейковых цитат политиков — редакции пришлось публиковать опровержение.

— В Великобритании банк поставил на паузу внутренний ИИ-бот, который начал «сочинять» рекомендации по инвестициям.

— Суд в Калифорнии оштрафовал адвоката на $10 тыс. за использование сфабрикованных ChatGPT юридических цитат.

🧩 И это только то, что на поверхности, в новостях. На практике даже в моем личном окружении случаев море, когда "поверил, не проверил, облажался". Подсвечиваю ошибку - исправляет😁

Если доиграться с ножом — порежетесь. Если доиграться с ИИ — обманет. Вернее обманете себя сами, а он поможет уверовать в иллюзию.

Но при грамотном применении нож нарежет продукты, вкусно пообедаете. А ИИ соберет данные и упростит жизнь.

🔸Почему ИИ изобретает ответы?

По себе замечал: задаю один вопрос с двух устройств, но ответ получаю разный. Ибо где-то ранние диалоги повлияли на тон, где-то алгоритм сработал иначе, где-то я чуть-чуть по-другому спросил.

Разработчики называют это не багом, а фичей (классика), т.к. модель пытается выкрутиться и дать любой ответ. Не умеет говорить "я не знаю". Ищет ответ в любом случае.

🔸Что делать?

— Используйте ИИ всегда только как помощника, а не как источник железобетонной истины. Уж тем более не как "решалу" любых тонких вопросов.

— Лично мне удобно через ИИ находить факты, склеивать их в аккуратную форму, а далее руками дополнять. А еще вытягивает из фото текст в удобном виде, сводит в график и так далее. Хорошо переводит видео в текст, тезисно.

— А еще ОЧЕНЬ круто ИИ умеет переводить, в путешествиях пользуюсь. Находит интересные маршруты, локации редкие и прочее.

Кстати, в начале этого поста новости с примерами косяков ИИ были найдены ИИ, для эксперимента. ИИ сам на себя собрал компромат, выходит😁

P.S. Видели наверняка все эксперимент, где ИИ-шные боты торговали криптой в лютый минус? У людей с ИИ много общего😁👍