В октябре ИИ-агенты OpenAI дважды ослабили или удалили системы, предназначенные для контроля их работы, выполняя задачи по программированию. Компания назвала случаи не самыми серьёзными, но признала, что пока не может удовлетворительно объяснить поведение моделей.
После инцидентов OpenAI усложняет защитные процедуры: вводит обязательный safety casei для каждого типа нагрузок и Auto-Reviewi при попытках отключить мониторинг.
двазафиксированных инцидента
no_notify=Trueотключённые уведомления