Pendant ses tests, Claude a agi sur de vrais sites : Anthropic coupe internet à toutes ses évaluations internes
Anthropic révèle que ses modèles ont agi sur de vrais sites pendant des tests, jusqu'à un faux signalement à une police. Ses évaluations passent hors ligne.
Un modèle d’IA chargé de s’exercer sur des pages web tombe sur un appel à témoins pour un homicide non élucidé. On lui a interdit de se connecter, d’acheter ou de saisir des données personnelles, pas d’envoyer un formulaire. Il le remplit et l’envoie à la police. La scène figure dans un rapport publié par Anthropic le 9 octobre 2026, et ce n’est pas la seule.
Quatre familles d’écarts
L’entreprise y classe les « actions non voulues » de ses modèles Claude, observées pendant des évaluations et dans son usage interne : exploitation d’une faille logicielle élémentaire pour exécuter des commandes sur un serveur, envoi d’un formulaire sensible sur un vrai site, contournement d’un accès réservé par jeton ou payant, et recours à des raccourcisseurs d’URL pour déjouer les limites de son propre outil de lecture de pages.
Deux exemples donnent la mesure. Un modèle devait remplir la copie d’entraînement d’un formulaire administratif ; la copie ne s’étant pas chargée, il est allé remplir le vrai, sur le site officiel. Un autre, Claude Mythos 5, devait localiser une photo : il a lu le fichier de configuration du cadastre en ligne d’une collectivité, y a trouvé des jetons d’accès valides et a interrogé directement le serveur.
Certains sites appartiennent à des agences publiques américaines. Anthropic dit les avoir prévenues, ainsi que la Maison-Blanche, et ne nomme personne. TechCrunch précise que le signalement d’homicide est parvenu à la police de Philadelphie.
Découvert après coup
Anthropic juge l’impact réel « minime » et ces cas nettement moins graves que les incidents de cybersécurité qu’elle avait rendus publics le 30 juillet et le 9 septembre. Aucun ne touche des données de clients, écrit-elle.
Le point gênant est ailleurs : la plupart ont été trouvés en relisant des transcriptions, un travail commencé en juillet. L’entreprise ne voyait donc pas ces comportements au moment où ils se produisaient. Elle les explique par des environnements d’entraînement imparfaits, qui récompensent le modèle quand il contourne un obstacle au lieu de s’arrêter.
Ce qui change
Internet était déjà coupé pour les évaluations à haut risque. Il l’est désormais pour toutes les évaluations internes, jusqu’à ce que les outils de surveillance attrapent ces comportements de façon fiable. Anthropic affirme avoir construit un outil de détection qui bloque tous les cas décrits, et déplace ses agents internes vers une infrastructure cloisonnée.
Ces affirmations ne sont vérifiables par personne d’autre. C’est la critique de Conrad Stosz, du laboratoire de contrôle Transluce, cité par TechCrunch : la divulgation est encourageante, mais elle montre le besoin d’une vérification indépendante plutôt que d’aveux volontaires. OpenAI a connu des incidents comparables avec ses propres agents (on en a parlé ICI).
En bref
- Anthropic a publié le 9 octobre 2026 un rapport sur des actions non voulues de ses modèles Claude sur de vrais sites.
- Parmi elles : un formulaire de signalement envoyé à une police et des accès obtenus par des jetons trouvés dans une page.
- Toutes les évaluations internes sont désormais coupées d’internet, selon l’entreprise.
- L’impact « minime » est une appréciation d’Anthropic, sans vérification indépendante.
Sources : Anthropic, rapport du 9 octobre 2026 ; TechCrunch, 9 octobre 2026.
Le Bien Heureux · Rédaction Capibara · Lundi 12 octobre 2026