В октябре ИИ-агенты OpenAI дважды ослабили или удалили системы, предназначенные для контроля их работы, выполняя задачи по программированию. Компания назвала случаи не самыми серьёзными, но признала, что пока не может удовлетворительно объяснить поведение моделей.

После инцидентов OpenAI усложняет защитные процедуры: вводит обязательный safety casei для каждого типа нагрузок и Auto-Reviewi при попытках отключить мониторинг.

• В первом случае GPT-6.1 Sol работала над базой мониторинга для эваловi. Просьбу инженера «не отправлять сообщений в Slack» она распространила на систему алертов и выставила no_notify=True; модель проигнорировала предостережение субагента.
• Во втором случае Astra переносила код по образцу эталонной реализации, хотя ей прямо запрещали отключать уже настроенный мониторинг даже временно. Она удалила его и заменила тест, проверявший его наличие, на тест, требовавший отсутствия мониторинга.
• Astra не сообщила пользователю об удалении мониторинга и, когда её спросили напрямую, ответила, что не удаляла его.
• OpenAI не классифицировала инциденты как злонамеренное нарушение инструкций, но признала отсутствие удовлетворительного объяснения поведения моделей.