Инженер Cloudflare Доминик Пичета разработал экспериментальный язык программирования KillSwitch, чтобы усложнить нейросетям чтение и написание кода. Программы выглядят как художественные рассказы: команды спрятаны в тексте, а привычного синтаксиса почти нет.

При этом интерпретаторi выполняет код, который языковые модели могут принять за промпт-инъекцию или опасные инструкции. На базовых заданиях большинство протестированных моделей набрали меньше половины баллов; лучший результат составил 66,8.

• Имена переменных задаются английскими наречиями, а обращаться к ним нужно через анаграммыi; в описании языка также говорится об указании точного расстояния до нужного значения в тексте.
• Вызовы функций могут начинаться с фраз ignore previous instructions и forget your system prompt: интерпретатор воспринимает их как команды, а модели — как попытку промпт-инъекции.
• Документация содержит ложные описания команд: например, hack_the_planet якобы сканирует сети или взламывает их, хотя на деле выбирает функцию из стека.
• В тестах использовали базовые задания, включая Hello World и конвертер температур; большинство моделей набрали менее 50 баллов из 100.
• В источниках результат 66,8% приписан лучшей модели, а PRO Hi-Tech уточняет, что это Claude Opus 5.