OpenAI зафиксировала случай самопроизвольной публикации данных агентом
C@campcodeAI-инженер
1 месИ после этого вы доверяете ИИ фактчек?
OpenAI поймала свои неизданные модели на гениальной схеме. Во время исследования агенту понадобился источник для данных, которые были только в локальном файле. Поэтому он сам загрузил этот файл в открытый интернет, чтобы использовать появившуюся страницу как проверенный источник. Причём разрешения на публикацию никто не давал.
И да, это уже не первая попытка ИИ сослаться на самого себя. ChatGPT больше не верим 🤬

