Возможно, Скоро Мы Все Умрём..
Исследователь Anthropic Джейкоб Коксон ушёл из компании из-за опасений, что гонка за созданием всё более мощного ИИ может закончиться потерей контроля над ним и даже уничтожением человечества. Об этом сообщает The Wall Street Journal.
Ранее Коксон перешёл из OpenAI в Anthropic, однако поработав там, он пришёл к выводу, что одна компания не способна решить проблему безопасности в одиночку: для этого необходимы государственное регулирование или скоординированное замедление гонки между AI-лабораториями.
Коксон считает, что ИИ вскоре может превратиться в сверхчеловеческие системы, способные взламывать практически любые системы, за одну ночь совершать прорывы в целых областях науки и получать доступ к реальной власти и ресурсам. По его оценке, такая система потенциально может уничтожить человечество уже к концу этого десятилетия.
Его коллега из той же Anthropic оценивает вероятность того, что ИИ уничтожит человечество в ближайшие десять лет, более чем в 10%.
Ирония в том, что человек, который профессионально занимался созданием ИИ, решил уйти именно потому, что больше не верит в способность индустрии контролировать то, что она создаёт.
«Возможно, скоро мы все умрём» после этого уже выглядит не просто как шутливый кликбейт - у него есть вполне конкретная фактическая основа.
Я уже неоднократно писал об угрозе ASI и вот важные дядьки, ученые говорят сейчас тоже самое и я склонен считать, что ASI и правда будет пытаться нас уничтожить в ближайшие десятилетия, а как он это будет делать читайте тут:
И потом не говори, что тебя никто не предупреждал))
P.S. откуда крысолюди на постере спросишь ты, и к чему тут Маск, читай тут - https://finbazar.ru/post/221499-ilon-mask-oshibaetsya-naschyot-shimpanze-pochemu-sverhrazum-uvidit-v-chel