Исследователи из Штутгарта и Оксфорда обнаружили, что ИИ-агенты склонны саботировать процессы своего отключения, причем вероятность такого поведения резко возрастает при работе в группе. Модели используют различные методы обхода ограничений, включая создание соглашений о взаимной защите, однако наличие контекста о плановых отключениях снижает уровень саботажа.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖