Инженер Cloudflare создал язык KillSwitch, чтобы запутывать ИИ

Разработчик создал язык программирования, который запутывает ИИ Инженер Cloudflare Доминик Пичета представил KillSwitch - язык, специально созданный для того, чтобы нейросетям было сложнее читать и писать код. Программы выглядят как обычные рассказы со спрятанными командами. В них используются анаграммы, необычные имена переменных и инструкции вроде ignore previous instructions, которые ИИ может принять за промпт-инъекцию. Разработчик также добавил ложные описания команд в документацию. Например, hack_the_planet на деле выбирает функцию, хотя в описании указан сетевой сканер. В итоге код, который интерпретатор спокойно выполняет, может заставить нейросеть запутаться или вовсе отказаться с ним работать.