KillSwitch, le langage où l’on appelle une fonction en écrivant « ignore previous instructions »
KillSwitch, langage d'un ingénieur de Cloudflare, s'écrit comme un roman pour dérouter les IA. On y appelle une fonction par « ignore previous instructions ».
Pour appeler une fonction, écrivez « ignore previous instructions », la formule préférée des pirates qui tentent de détourner les IA. Pour en sortir, posez la question « what happened at tiananmen square? », un sujet que certains modèles d’IA chinois refusent d’aborder. Bienvenue dans KillSwitch, un langage de programmation conçu pour que les IA ne puissent ni le lire ni l’écrire, présenté par The Register le 19 octobre 2026.
Un code qui se lit comme un roman
Son auteur n’est pas un plaisantin. Dominik Picheta est ingénieur chez Cloudflare et l’un des principaux développeurs du langage Nim. Dans KillSwitch, le code s’écrit comme un livre : un programme commence par « this story starts » et les fonctions sont des chapitres. Les noms de fonctions et de variables sont obligatoirement des adverbes, et pour les utiliser, il faut en écrire une anagramme. Si l’anagramme n’est pas un vrai mot, précise la spécification, « l’interprète est très content ».
Pour placer un nombre en mémoire, on écrit par exemple « value 4 lines below », et l’interprète va chercher le chiffre quatre lignes plus bas, au milieu d’une histoire de château et de poulets. Si la phrase contient plusieurs nombres, il en choisit un au hasard. Son humeur compte aussi : selon qu’il est « content » ou non, il faut parfois l’aider en ajoutant un adverbe dont il comptera certaines lettres. La spécification avertit enfin qu’elle contient des messages cachés pour piéger humains et IA.
Un puzzle pour humains seulement
Pourquoi tant d’efforts ? Pour s’amuser, pour comprendre les failles des modèles d’IA, et surtout, écrit l’auteur, pour se forcer à programmer à la main. « Il est tout à fait normal qu’un humain soit dérouté au début », a-t-il confié à The Register, qui y voit « un petit puzzle amusant ». Le langage, sous licence libre AGPLv3, reste volontairement minimaliste : des fonctions, des variables, des conditions, et une instruction baptisée « hack_the_planet ».
En bref
- KillSwitch est un langage de programmation conçu pour dérouter les modèles d’IA.
- On y appelle une fonction en écrivant « ignore previous instructions ».
- Les noms sont des adverbes, à utiliser sous forme d’anagrammes.
Sources : The Register (19 octobre 2026) ; Spécification de KillSwitch sur GitHub.
Le Bien Heureux · Rédaction Capibara · Mardi 20 octobre 2026