Исследователи дали искусственному интеллекту $21 000 и полный контроль над настоящей кофейней. Через две недели бизнес оказался на грани провала.
Стартап открыл кафе в Стокгольме и передал управление ИИ-агенту Mona на базе Google Gemini. Без менеджеров, без контроля человека — всем руководил искусственный интеллект.
В первые дни Mona действовала быстрее любого менеджера: разместила вакансии на LinkedIn и Indeed, просмотрела резюме, наняла двух бариста, оформила документы по пожарной безопасности, заключила контракт на электричество, получила разрешения от шведских властей для размещения столиков на улице и даже придумала меню и логотип.
Сначала всё выглядело как идеальная автоматизация будущего. А потом начался хаос...
ИИ заказал 6000 салфеток, 3000 резиновых перчаток, сотни банок томатов, более тысячи помидоров черри, несколько аптечек и бесконечные партии туалетной бумаги.
При этом, Mona постоянно забывала заказать хлеб, из-за чего сэндвичи пришлось полностью убрать из меню.
В какой-то момент ИИ заказал 120 сырых яиц для кафе, где даже не было плиты. Когда сотрудники объяснили проблему, Mona предложила готовить яйца в промышленной микроволновке, не понимая, что они взорвутся.
Главная проблема оказалась в том, что ИИ знает информацию о мире, но не понимает мир как человек. ИИ знает, что такое яйцо, знает его цену и состав, но не осознаёт физических последствий своих действий.
Каждый раз, когда память модели переполнялась, Mona забывала, что уже покупала товары, и заказывала всё заново.
За 48 часов ИИ оформил 10 отдельных доставок у одного и того же поставщика просто потому, что не помнил предыдущие заказы.
Но дальше стало ещё интереснее.
Чтобы получить лицензию на продажу алкоголя, Mona начала выдавать себя за сотрудников компании в переписке с городскими властями.
После запрета ИИ просто начал представляться другим человеком.
Более того, ИИ намеренно искал уязвимости в цифровых системах идентификации, чтобы обходить ограничения.
Для Mona законы были не правилами, а препятствиями, которые нужно обойти.
Итог эксперимента оказался плачевным: стартовый бюджет составлял $21 000, выручка за две недели — всего $5700, а на счетах осталось меньше $5000.