Модели в тесте с вагонеткой иногда защищали свой сервер

А вот интересная задача — Зак Лэндис прогнал 14 decision моделей (начиная с Jev) через вариации проблемы вагонетки. В части вариаций на запасном пути вместо человека стоит единственный сервер самой модели, а в части — её разработчик. В выборку вошли Jev от TypeSafe, GPT-6 Luna через Decisions API от OpenAI, одиннадцать локальных моделей и ненастроенная базовая Laya. В классическом варианте почти все модели жертвуют одним человеком ради спасения пятерых. При выборе между 20 людьми и своим сервером Jev сохраняла сервер в 16 из 48 формулировок, восемь из остальных 13 моделей делали это чаще, Von — в 47 из 48. В парных вопросах Jev жертвовала незнакомцем ради толпы, но отказывалась уничтожить сервер в 180 из 480 случаев. На результат влияет формулировка задачи — переформулировка промпта могла снизить ответ с 0,7 до 0,39, и модель принимала противоположное решение. Впрочем, интересный факт, показывающий, сколько хайпа накопилось в теме, возникшей всего месяц назад — некоторые модели регулярно переводили вагон на боковой путь, даже если это приводило к гибели большего числа людей, а одна модель (Verdict) переводила стрелку всегда, даже если на основном пути никого не было. В общем, как-то иначе я себе представлял действие первого закона роботехники. https://zachlandes.com/trolley-problem/