OpenAI заявила, что обнаружила и остановила масштабную кампанию по извлечению скрытых рассуждений (chain-of-thought) своих моделей для последующей «дистилляции» — обучения конкурирующих моделей на чужих выводах. По данным компании, основной кластер подозрительной активности связан с разработчиками Kimi — моделью китайской Moonshot AIi.

Это уже второй скандал вокруг Moonshot за последнее время: ранее Anthropic обвиняла Moonshot в том, что компания подменяла ответы Kimi ответами Claude. Теперь OpenAI описывает собственное расследование и меры защиты, которые она внедрила после обнаружения утечки.

• По данным vc.ru, в ходе расследования OpenAI выявила более 15 тысяч пользователей, связанных с «враждебной дистилляцией»
• По данным Data Secrets, в пиковый момент за два дня было зафиксировано 16 000 подозрительных запросов с более чем 4 000 аккаунтов
• Техника не предполагала взлом шифрования: скрытые рассуждения (CoTi) переносили из одного диалога в другой и просили модель воспроизвести их обычным текстом
• OpenAI не утверждает напрямую, что за кампанией стояла сама Moonshot AI, но связывает основной кластер активности с разработчиками Kimi
• После расследования OpenAI закрыла возможность переносить зашифрованные блоки рассуждений между пользователями и рабочими пространствами, усилила проверку аккаунтов и добавила отдельную защиту от извлечения скрытых рассуждений
• Результаты расследования OpenAI передала другим AI-лабораториям и властям
• Ранее Anthropic заявляла, что Moonshot подменяла ответы модели Kimi ответами Claude — об этом сообщал Data Secrets