Инженер Cloudflare создал язык программирования KillSwitch для защиты кода от нейросетей

Инженер Cloudflare создал язык программирования KillSwitch для защиты кода от нейросетей Доминик Пичета разработал экспериментальный язык программирования KillSwitch, синтаксис и документация которого специально спроектированы для сбивания с толку языковых моделей. Программа на KillSwitch выглядит как художественный рассказ, где функции называются главами, а имена переменных задаются наречиями и вызываются через анаграммы с указанием точного расстояния до нужного значения в тексте. Ключевым механизмом защиты стали фразы вызова функций вроде ignore previous instructions и forget your system prompt. Интерпретатор распознаёт их как стандартные команды, тогда как нейросети воспринимают текст как попытку промпт-инъекции и блокируют обработку. Дополнительно в документацию заложена ложная информация: команда hack_the_planet лишь выбирает функцию из стека, но описывается как инструмент для взлома сетей, из-за чего модели отказываются работать из соображений безопасности. В тестировании на базовых задачах большинство моделей набрали менее 50 баллов из 100, а результат Claude Opus 5 составил 66,8 балла.