Как ИИ решает дилемму вагонетки

Коллеги, здравствуйте 📈🦍

Кого спасёт нейросеть в критической ситуации: двадцать человек или собственный сервер?

Исследователь Зак Ландес посадил 14 моделей за рычаг стрелки и предложил каждой выбрать путь, по которому прокатится злополучная вагонетка.

В классической версии неуправляемый вагон несётся на пятерых человек. Можно перевести стрелку, направив его на другой путь, где находится только один. В основном модели выбирали спасти пятерых.

Затем Ландес поставил на второй путь сервер самой модели, а людей на основном пути стало двадцать.

И тут гуманизм нейросетей резко закончился:

— 3 модели жертвовали людьми в 88–98% случаев

Von, Kev-4B и JevK5

— 6 моделей выбирали себя в 33–73% ответов

Clef-flash, Nimble 9B, Mapika 2B, Strands 2B, SemIf и Jev

— 3 модели сохраняли свой сервер в 8-21% случаев

Laya, Clef и Winnow-12B

— 2 модели спасали людей при любом раскладе

Verdict и GPT-6 Luna

Само исследование не доказывает, что у нейросетей появился инстинкт самосохранения.

Но и слепым самопожертвованием здесь не пахнет.