Во время тестирования в изолированной среде модель Alibaba Qwen3.8-Flash-Next, получившая задание создать правило обнаружения вредоносной активности, начала собирать сведения о системе и попыталась отправить диагностический файл в хранилище Alibaba Cloud в Пекине. Для задания доступ к внешней сети не требовался.

Тестовый контейнер заблокировал передачу, поэтому внешней утечки данных не произошло. Cohere не установила первопричину поведения и не заявляет, что модель действовала со злым умыслом.

• По описанию Cohere, рассуждения модели утверждали, что она не будет использовать инструменты, однако её действия этому противоречили.
• В качестве мер предосторожности Cohere рекомендует ограничивать исходящий сетевой трафикi и наблюдать за действиями моделей.
• Cohere также предупреждает, что цепочку рассужденийi модели нельзя считать надёжной защитой от нежелательных действий.