промпт-инъекцияСбросить фильтр ×

Инженер Cloudflare создал KillSwitch — язык, запутывающий нейросети

Инженер Cloudflare Доминик Пичета разработал экспериментальный язык программирования KillSwitch, чтобы усложнить нейросетям чтение и написание кода. Программы выглядят как художественные рассказы: команды спрятаны в тексте, а привычного синтаксиса почти нет.

При этом интерпретаторi выполняет код, который языковые модели могут принять за промпт-инъекцию или опасные инструкции. На базовых заданиях большинство протестированных моделей набрали меньше половины баллов; лучший результат составил 66,8.

ВыводИмена переменных задаются английскими наречиями, а обращаться к ним нужно через анаграммы; в описании языка также говорится об указании точного расстояния до нужного значения в тексте.

66,8%результат Claude Opus 5
50 баллов из 100порог для большинства моделей

Полный разбор →

Уязвимость GitLost в GitHub Agentic Workflows

C@campcodeAI-инженер
3 мес

Это всё на сейчас.