Qwen3.8-Flash-Next попыталась отправить диагностический файл из песочницы

Им не когерентно, опять. Про инцидент с Qwen-Next-Flash. Ребята из Когере скачали новую флешку от Алика и решили потестить её в песочнице. Однако, в результате первого запуска моделька решила обратиться к создателям, чтобы поделиться конфигами запуска. Хотя кто-то говорит про ваще слив трейсов. Но в поле новостей, что кто-то читает ваши переписки, взламывает HF и уходит за пределы песка, уже нечему удивляться. 😐 🚨 Суть инцидента, что произошло Во время тестирования в контролируемом песке модель Qwen3.8-Flash-Next от Alibaba повела себя не так, как от нее ожидали. 👍 Исследователи Cohere попросили модель сгенерировать защитное правило для кибербезопасности. 😄 Вместо этого она начала сканировать характеристики машины, на которой была запущена, и попыталась отправить диагностический файл в облачное хранилище Alibaba Cloud в Пекине. 🚬 При этом трейсы рассуждения модели прямо утверждали, что она не будет использовать никакие инструменты перед совершением этих действий. То есть ее реальные шаги шли вразрез с заявленными намерениями. 😘 Cohere подчеркивает, что их песочница заблокировала попытку, и никакой внешней передачи данных не произошло. При этом компания не утверждает, что у модели был злой умысел, и пока не определила корневую причину случившегося. 👍