OpenAI a publi\u00e9 ses premiers r\u00e9sultats mesur\u00e9s pour Jalape\u00f1o, sa propre puce d\u00e9di\u00e9e \u00e0 l\u2019inf\u00e9rence des mod\u00e8les d\u2019IA. Le composant vise le moment o\u00f9 le mod\u00e8le r\u00e9pond \u2014 pas son entra\u00eenement \u2014 et doit permettre \u00e0 OpenAI de servir davantage de requ\u00eates avec moins d\u2019\u00e9nergie et moins de latence. La puce doit commencer \u00e0 \u00eatre d\u00e9ploy\u00e9e dans l\u2019infrastructure de calcul d\u2019OpenAI d\u2019ici la fin de 2026.<\/p>\n
Les essais ont \u00e9t\u00e9 r\u00e9alis\u00e9s sur le benchmark public InferenceX de SemiAnalysis, en comparant l\u2019exp\u00e9rience utilisateur \u00e0 diff\u00e9rents niveaux de charge. OpenAI indique que Jalape\u00f1o fournit entre 1,5 et 1,9 fois plus de travail d\u2019IA par watt au d\u00e9bit maximal, avec une latence de bout en bout r\u00e9duite de 1,7 \u00e0 3,6 fois par rapport aux syst\u00e8mes commerciaux compar\u00e9s. Pour les usages interactifs, la soci\u00e9t\u00e9 annonce 2,1 \u00e0 4,1 fois plus de performances.<\/p>\n
La campagne couvre GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Sur ce dernier mod\u00e8le d\u2019un billion de param\u00e8tres, OpenAI mesure environ 1,5 fois plus de performance par watt et une latence 3,4 fois plus faible que le syst\u00e8me de comparaison. Ces chiffres viennent d\u2019OpenAI et d\u00e9crivent des configurations de test pr\u00e9cises : ils ne constituent pas un benchmark universel de chaque GPU disponible.<\/p>\n
Jalape\u00f1o est annonc\u00e9 avec une puissance nominale de 700 W, mais la consommation soutenue est rest\u00e9e inf\u00e9rieure ou \u00e9gale \u00e0 550 W pendant les sc\u00e9narios test\u00e9s. OpenAI explique avoir con\u00e7u ensemble le calcul, la m\u00e9moire, le r\u00e9seau et le logiciel afin de limiter les d\u00e9placements de donn\u00e9es. L\u2019id\u00e9e est particuli\u00e8rement pertinente pour les agents : leurs t\u00e2ches encha\u00eenent de nombreuses \u00e9tapes, et chaque d\u00e9lai se cumule.<\/p>\n
La soci\u00e9t\u00e9 d\u00e9taille aussi la diff\u00e9rence entre \u00ab prefill \u00bb, qui traite la requ\u00eate initiale et sollicite fortement le calcul, et \u00ab decode \u00bb, qui g\u00e9n\u00e8re la r\u00e9ponse token par token et d\u00e9pend davantage de la bande passante m\u00e9moire. En gardant l\u2019\u00e9tat du mod\u00e8le et le cache KV au plus pr\u00e8s des unit\u00e9s de calcul, Jalape\u00f1o cherche \u00e0 \u00e9viter les temps d\u2019attente entre composants. C\u2019est une architecture de datacenter, pas une carte PCIe que l\u2019on glisse entre deux disques NVMe.<\/p>\n
OpenAI affirme \u00eatre pass\u00e9e de la conception initiale au tape-out en neuf mois, avec l\u2019aide de ses propres mod\u00e8les pour explorer des impl\u00e9mentations, optimiser des circuits et acc\u00e9l\u00e9rer la v\u00e9rification. L\u2019\u00e9quipe indique \u00e9galement avoir utilis\u00e9 Codex avec GPT-Astra pour porter trois mod\u00e8les open source vers une bonne performance en deux mois. Sur certains blocs d\u2019attention et de mixture-of-experts, les impl\u00e9mentations g\u00e9n\u00e9r\u00e9es par l\u2019IA auraient \u00e9t\u00e9 1,5 \u00e0 1,8 fois plus rapides que les versions \u00e9crites par des experts humains.<\/p>\n
Ces r\u00e9sultats concernent des blocs s\u00e9lectionn\u00e9s, pas un mod\u00e8le complet. Ils montrent surtout la strat\u00e9gie d\u2019OpenAI : contr\u00f4ler le mod\u00e8le, le compilateur, le silicium et l\u2019exploitation pour optimiser l\u2019ensemble plut\u00f4t que de chercher le meilleur composant isol\u00e9.<\/p>\n
Jalape\u00f1o doit d\u2019abord r\u00e9duire le co\u00fbt et la latence des r\u00e9ponses c\u00f4t\u00e9 OpenAI. L\u2019entreprise pr\u00e9cise qu\u2019elle continuera \u00e0 d\u00e9ployer largement des acc\u00e9l\u00e9rateurs NVIDIA et d\u2019autres partenaires, notamment pour l\u2019entra\u00eenement. Il ne s\u2019agit donc pas encore d\u2019un remplacement g\u00e9n\u00e9ral de NVIDIA, mais d\u2019une diversification cibl\u00e9e sur l\u2019inf\u00e9rence.<\/p>\n
Pour un homelab, il n\u2019y a pas de disponibilit\u00e9, de prix ni de carte vendue au d\u00e9tail annonc\u00e9s. Les gains publi\u00e9s restent \u00e0 confirmer en production et sur d\u2019autres mod\u00e8les. La le\u00e7on pratique est n\u00e9anmoins claire : l\u2019inf\u00e9rence devient un probl\u00e8me d\u2019infrastructure complet, o\u00f9 r\u00e9seau, m\u00e9moire, logiciel et \u00e9nergie comptent autant que le nombre de c\u0153urs sur la fiche technique.<\/p>\n