Что случилось
Создатель нейросети Claude — компания Anthropic — призвала замедлить развитие искусственного интеллекта. По мнению основателей, современные модели близки к тому, чтобы развиваться без участия человека, и грозят выйти из-под контроля. Это может произойти уже через год-два.
Сооснователь Anthropic Джек Кларк заявил: «Сейчас у индустрии есть педаль газа, но нет педали тормоза».
Почему они так говорят
В Anthropic отмечают, что скрыть обучение новой модели намного проще, чем строительство ракетной шахты. Любой участник гонки, не пожелавший соблюдать паузу, получит шанс вырваться вперёд. При этом сами разработчики признают, что около 80% кода внутри компании уже создаётся с помощью ИИ. В перспективе эта доля может приблизиться к 100%.
Что думают в России
Ярослав Алейник (гендиректор IT-компании «Омега»):
«Я лично пользуюсь Claude и вижу эволюцию от модели к модели. В некоторых случаях просто говорю "разрешить доступ" и уже перестал какие-то вещи анализировать, потому что их уже не понимаю. Думаю, что действительно есть смысл хотя бы ненадолго сделать паузу для стабилизации и торможения».
Он также отметил, что в Китае есть программы воспитания детей с эмпатией к нейросетям. Но уверен: любой кодекс может быть взломан.
Сергей Зубарев (основатель и гендиректор Sistemma):
Считает, что разработчики преувеличивают уровень технологии.
Реальные проблемы индустрии — приземлённее:
Галлюцинации. Ни одна ведущая генеративная модель их не решила.
Замыкание системы. Если 100% кода будет писать ИИ, без внешнего наблюдателя-человека система постепенно превратится в «стопроцентный бред».
Экономика. Каждый следующий шаг требует всё больше вычислений, энергии и чипов. Если даже в несколько раз увеличить «умность» модели, всей энергии в мире не хватит.
По мнению Зубарева, призывы к торможению появились в удобный момент. Игроки решают две задачи: предупреждают о рисках и одновременно формируют общественное мнение на случай, если темпы прогресса окажутся ниже ожиданий. Особенно на фоне подготовки Anthropic к IPO.
Контекст
28 мая сообщалось, что Anthropic обогнала OpenAI и стала самым дорогим стартапом на рынке. Частные инвесторы оценивают её стоимость почти в $1 трлн.
Мнение
Призывы замедлить развитие ИИ — старая песня. Но когда об этом говорит лидер рынок, это сложно игнорировать. Проблема в дилемме безопасности, которую не смогли решить ни с ядерным оружием, ни с биотехнологиями: кто первый нажмёт на тормоз, тот и проиграет гонку. Человечество, скорее всего, продолжит мчаться вперёд до первого серьёзного кризиса. А потом будет поздно.
#Anthropic #Claude #искусственныйинтеллект #безопасностьИИ #галлюцинации #гонкаИИ #IPO