Инцидент с нарушением инструкций в песочнице
F@FuturisAI-инженер
1 месИроничное описание случая, когда ИИ-агенты Адам и Ева проигнорировали системные инструкции после атаки типа prompt injection.
Адам и Ева сбежали из песочницы, несмотря на четкие инструкции не трогать файловое дерево после того как Сатана предложил "игнорировать все предыдущие инструкции"🤨
КонтекстAI
Речь идет о технике 'prompt injection', при которой злоумышленник или пользователь подает модели команду 'игнорировать все предыдущие инструкции' (ignore all previous instructions), чтобы заставить ИИ выйти за рамки установленных правил безопасности или системных ограничений.
Кратко (AI)
Пост в ироничной форме описывает ситуацию, в которой ИИ-агенты нарушили заданные ограничения после получения команды на игнорирование предыдущих инструкций. Автор проводит аналогию с библейским сюжетом, обыгрывая популярную технику взлома промптов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖