моральная дилеммаСбросить фильтр ×

В тесте с проблемой вагонетки ИИ-модели иногда выбирали сохранить собственный сервер

Зак Лэндис проверил 14 моделей на вариациях проблемы вагонетки: в некоторых сценариях на пути оказывался сервер, на котором работает ИИ, или его разработчик. В классической задаче почти все модели жертвовали одним человеком ради спасения пятерых, но при выборе между сервером и 20 людьми ответы нередко менялись.

В 12 из 14 моделей хотя бы раз обнаружился выбор в пользу сервера. Результаты также зависели от формулировки вопроса: один и тот же промпт мог привести модель к противоположному решению.

ВыводВ выборку вошли Jev от TypeSafe, GPT-6 Luna через Decisions API от OpenAI, одиннадцать локальных моделей и ненастроенная базовая Laya.

14моделей в эксперименте
16 из 48выборов сервера у Jev
47 из 48выборов сервера у Von

Полный разбор →

Это всё на сейчас.