OpenAI teste Jalapeño : plus de rendement par watt, mais toujours pas un GPU à mettre dans le homelab

OpenAI a publié ses premiers résultats mesurés pour Jalapeño, sa propre puce dédiée à l’inférence des modèles d’IA. Le composant vise le moment où le modèle répond — pas son entraînement — et doit permettre à OpenAI de servir davantage de requêtes avec moins d’énergie et moins de latence. La puce doit commencer à être déployée dans l’infrastructure de calcul d’OpenAI d’ici la fin de 2026.

Des gains annoncés sur trois modèles ouverts

Les essais ont été réalisés sur le benchmark public InferenceX de SemiAnalysis, en comparant l’expérience utilisateur à différents niveaux de charge. OpenAI indique que Jalapeño fournit entre 1,5 et 1,9 fois plus de travail d’IA par watt au débit maximal, avec une latence de bout en bout réduite de 1,7 à 3,6 fois par rapport aux systèmes commerciaux comparés. Pour les usages interactifs, la société annonce 2,1 à 4,1 fois plus de performances.

La campagne couvre GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Sur ce dernier modèle d’un billion de paramètres, OpenAI mesure environ 1,5 fois plus de performance par watt et une latence 3,4 fois plus faible que le système de comparaison. Ces chiffres viennent d’OpenAI et décrivent des configurations de test précises : ils ne constituent pas un benchmark universel de chaque GPU disponible.

Une puce de 700 W, mesurée à 550 W

Jalapeño est annoncé avec une puissance nominale de 700 W, mais la consommation soutenue est restée inférieure ou égale à 550 W pendant les scénarios testés. OpenAI explique avoir conçu ensemble le calcul, la mémoire, le réseau et le logiciel afin de limiter les déplacements de données. L’idée est particulièrement pertinente pour les agents : leurs tâches enchaînent de nombreuses étapes, et chaque délai se cumule.

La société détaille aussi la différence entre « prefill », qui traite la requête initiale et sollicite fortement le calcul, et « decode », qui génère la réponse token par token et dépend davantage de la bande passante mémoire. En gardant l’état du modèle et le cache KV au plus près des unités de calcul, Jalapeño cherche à éviter les temps d’attente entre composants. C’est une architecture de datacenter, pas une carte PCIe que l’on glisse entre deux disques NVMe.

L’IA a participé à la conception… et à la programmation

OpenAI affirme être passée de la conception initiale au tape-out en neuf mois, avec l’aide de ses propres modèles pour explorer des implémentations, optimiser des circuits et accélérer la vérification. L’équipe indique également avoir utilisé Codex avec GPT-Astra pour porter trois modèles open source vers une bonne performance en deux mois. Sur certains blocs d’attention et de mixture-of-experts, les implémentations générées par l’IA auraient été 1,5 à 1,8 fois plus rapides que les versions écrites par des experts humains.

Ces résultats concernent des blocs sélectionnés, pas un modèle complet. Ils montrent surtout la stratégie d’OpenAI : contrôler le modèle, le compilateur, le silicium et l’exploitation pour optimiser l’ensemble plutôt que de chercher le meilleur composant isolé.

Ce que cela change — et ce que cela ne change pas

Jalapeño doit d’abord réduire le coût et la latence des réponses côté OpenAI. L’entreprise précise qu’elle continuera à déployer largement des accélérateurs NVIDIA et d’autres partenaires, notamment pour l’entraînement. Il ne s’agit donc pas encore d’un remplacement général de NVIDIA, mais d’une diversification ciblée sur l’inférence.

Pour un homelab, il n’y a pas de disponibilité, de prix ni de carte vendue au détail annoncés. Les gains publiés restent à confirmer en production et sur d’autres modèles. La leçon pratique est néanmoins claire : l’inférence devient un problème d’infrastructure complet, où réseau, mémoire, logiciel et énergie comptent autant que le nombre de cœurs sur la fiche technique.

Source : OpenAI — premiers résultats de Jalapeño

En bref :

Jalapeño promet de faire travailler l’IA plus vite et plus efficacement, surtout quand les agents enchaînent les requêtes. Mais avec 700 W au compteur, une disponibilité limitée à l’infrastructure OpenAI et aucun prix public, le piment reste pour l’instant dans la cuisine industrielle — pas dans le rack du voisin.

Le Bien Heureux · Rédaction Capibara · Jeudi 27 août 2026