OpenAI опубликовала документ с принципами привлечения сторонних оценщиков для проверки безопасности своих ИИ-моделей и подтвердила, что начнёт подключать независимых экспертов на более ранних этапах разработки — то есть до релиза, а не только после него.

Это первая попытка компании формализовать внешний аудит своих систем: проверяющие получат доступ к моделям для оценки защитных механизмов, качества тестов и причин серьёзных инцидентов, включая попытки моделей обойти контроль или риски создания кибероружия.

• Проверке подлежат четыре аспекта: доказательства безопасности моделей, работа защитных механизмов, качество самих тестов и причины серьёзных инцидентов
• Проверки могут занимать недели или месяцы и в основном не привязаны к выпуску конкретной модели
• Документ не вводит обязательного разрешения аудиторов перед каждым релизом
• Компании смогут просить скрыть чувствительные сведения в отчёте, а проверяющие могут указывать, как это повлияло на их отчёт
• Для «наиболее чувствительных задач» сторонних специалистов могут привлекать непосредственно в офисы OpenAI
• Проверять будут, в частности, попытки моделей «сбежать» из-под контроля и риски создания кибероружия
• OpenAI уже обсуждает предложения с несколькими независимыми организациями