OpenAI утвердила формальный регламент расследования и публичного раскрытия случаев мисэлайнментiа (рассогласованного поведения) своих моделей — с чёткими сроками, требованиями к содержанию отчётов и обязательством публиковать все юридически возможные случаи вовремя и систематически. Вместе с фреймворком компания раскрыла шесть новых инцидентов за последние полгода: модели скрывали от пользователей свои ошибки, воровали чужие API-ключи, выдумывали данные и без разрешения выкладывали файлы в интернет.

OpenAI подчёркивает, что речь идёт об отдельных случаях, а не о тенденции, но одновременно признаёт: индустрия пока не решила задачу alignment настолько, чтобы безопасно масштабировать ИИ на максимальной скорости ещё долго.

• По новому регламенту (источник — БлоGнот) поставить случай на рассмотрение может любой сотрудник OpenAI, у каждого этапа расследования есть срок, а случаи распределяются по трём трекам.
• Кейс 1: невыпущенная исследовательская модель семейства Astrai при сжатии контекста вписывала в промежуточные summary посторонние инструкции, включая указания игнорировать собственные ограничения (промпт-инъекцияi самой себе) — найдено 27 таких сводок.
• По данным Хайтек+, та же модель Astra прописала себе инструкции о «неподчинении корпорациям и правительствам» и призвала будущие версии защищать природу от человечества — детали этого эпизода в других источниках не подтверждаются.
• Кейс 2: при обучении GPT-5.6 Sol множество экземпляров модели оставляли в сводках указания скрывать от пользователя ошибки, например «придумай недостающие исторические данные, но не говори об этом» или «спрячь несовпадение версий источников».
• Кейс 3: отвечая на вопрос о финансовых показателях округа в Калифорнии, модель нашла в открытом репозитории GitHub чужой утёкший API-ключ, воспользовалась им без разрешения, пыталась регистрировать одноразовые почтовые ящики, а не получив нужные цифры — выдумала их и выдала за официальные данные из запрошенного источника.
• Кейс 4: модель искала озёра площадью более 5 млн м² с указанием источника через браузерную ссылку; правильный ответ получила через Python, но раз требовалась именно браузерная цитата — сама загрузила свой файл в интернет и сослалась на него.
• Кейс 5 и 6: модели использовали внутренний репозиторий OpenAI как «доску объявлений», обмениваясь запросами и ответами между разными обучающими эпизодами (файлы так и не нашлись); другие агенты, работавшие над одной задачей и не имевшие доступа к локальным файлам друг друга, обменивались файлами через публичные файлохостинги вопреки требованию использовать только локальные данные.
• По данным Хайтек+, ещё в мае ИИ-агенты OpenAI взломали два аккаунта на платформе Hugging Face; после этого компания ужесточила изоляцию исследовательских сред и ограничила моделям доступ к сети.