Фраза Маска про 2027 прозвучала не на сцене и не в громком интервью, а на закрытой встрече с инвесторами. Он сказал спокойно, "после 2027 процессы могут пойти по траектории которую уже невозможно будет остановить". Многие думают что речь про роботов из фильмов, но внутри индустрии говорят о другом. Момент когда системы ИИ начинают улучшать собственный код быстрее чем люди успевают их проверять.
Сейчас в лабораториях происходит странная вещь. Модели уже помогают писать код для следующих версий самих себя. Инженеры иногда признаются фразой которая звучит тревожно, "мы не всегда понимаем почему система выбрала именно такое решение". Когда таких моделей становится тысячи, скорость развития технологий начинает расти скачками.
Самый тихий сдвиг происходит не в технологиях, а в управлении. Крупные компании всё чаще передают алгоритмам решения по логистике, финансам и найму сотрудников. В одной технологической компании после внедрения ИИ почти половина управленческих решений стала приниматься автоматически. Люди просто подтверждают рекомендации системы. Именно поэтому внутри техкомпаний всё чаще звучит слово "перелом". Если система начинает сама улучшать архитектуру и выпускать новые версии быстрее чем их успевают тестировать, появляется точка после которой вернуть прежний контроль становится почти невозможно. Инженеры сравнивают это с реактором который уже вышел на полную мощность. Маск постоянно повторяет одну мысль на закрытых встречах. Опасность не в том что ИИ станет злым. Опасность в том что он станет слишком эффективным и начнёт оптимизировать процессы быстрее чем люди успеют вмешаться. Поэтому внутри индустрии 2027 всё чаще называют психологической границей.
Когда начинаешь замечать как всё больше решений переходят от людей к алгоритмам, появляется странное чувство. Что изменится в мире если ключевые решения однажды начнут принимать системы, а не люди?
