Un chatbot a vu du nucléaire dans une cargaison, l’armée a failli aborder le navire

Un analyste militaire demande à un chatbot de lire le manifeste d’un cargo chinois. La machine répond que le navire transporte des composants destinés à un programme d’armes nucléaires. L’information est fausse, mais elle remonte la chaîne de commandement, et une opération d’interception se prépare. Selon CNN, qui a révélé l’affaire le 18 septembre, l’erreur n’a été repérée que peu avant l’intervention.

Ce que raconte CNN

Les faits remontent au printemps 2026, en pleine guerre avec l’Iran. Un analyste du commandement des opérations spéciales pour le Pacifique, basé à Hawaï, utilise un outil d’IA pour examiner la cargaison d’un navire chinois qui croise au Moyen-Orient. Le modèle mélange des sources ouvertes et du renseignement d’origine électromagnétique classifié, et conclut à des pièces nucléaires en route vers l’Iran.

D’après 4 sources citées par la chaîne, l’opération avait atteint « un stade avancé ». C’est en relisant le rapport de plus près que des responsables ont compris qu’il avait été produit avec l’aide de l’IA, et qu’il ne tenait pas. Un officiel le qualifie d’« entièrement faux » et estime qu’il a « presque déclenché une guerre ». Arraisonner de force un navire chinois, c’est en effet risquer un face-à-face direct entre les deux premières puissances militaires de la planète.

L’IA partout, la vérification nulle part

L’incident tombe mal pour le Pentagone. Depuis un mémo de janvier, le secrétaire à la Défense Pete Hegseth veut un département « AI-first », et sa stratégie prévoit de mettre les modèles d’IA américains entre les mains de 3 millions de civils et de militaires, à tous les niveaux de classification. Chaque service choisit ses outils, avec ses propres règles. Il n’existe aucune norme commune pour vérifier ce qu’ils produisent.

Le risque décrit ici n’a rien d’une IA qui échappe à tout contrôle. C’est plus banal, et plus inquiétant : des humains prennent une décision lourde sur la foi d’un texte plausible et faux. Un responsable du renseignement cité dans les reprises résume l’effet de la vitesse : l’IA permet d’arriver plus vite à une mauvaise idée. (Le mot « hallucination » est bien doux pour un rapport qui a failli envoyer une équipe d’abordage sur un cargo chinois !)

Ce qu’on ne sait pas

Tout repose sur des sources anonymes. Ni le Pentagone ni le commandement du Pacifique n’ont répondu à CNN, et aucun document n’a été publié. On ignore quel outil a été utilisé, commercial ou maison, et CNN reconnaît ne pas savoir ce que le navire transportait réellement. Les reprises divergent même sur l’avancement de l’opération : certaines évoquent des avions déjà en vol, d’autres ne voient rien qui prouve un lancement imminent. Enfin, une fuite de ce genre sert aussi ceux qui, en interne, veulent freiner le virage vers l’IA. Et il faut lire l’histoire jusqu’au bout : ce sont des humains qui ont relu le rapport et arrêté la machine. Le garde-fou a fonctionné, de justesse.

En bref

• Au printemps 2026, un chatbot a faussement identifié des composants nucléaires à bord d’un cargo chinois.
• Selon CNN, une opération d’interception était à un stade avancé avant que l’erreur soit repérée.
• L’outil, la vraie cargaison et le degré d’avancement restent inconnus, faute de réponse officielle.
• Le Pentagone généralise l’IA sans norme commune pour vérifier ce qu’elle produit.

Sources : CNN, Next, The Times of Israel, Engadget.

Le Bien Heureux · Rédaction Capibara · Lundi 21 septembre 2026