Open AI lancia Jalapeño, il chip disegnato con Broadcom in soli 9 mesi e che arriverà nei data center entro fine 2026

Cos’è successo

OpenAI e Broadcom hanno presentato Jalapeño, il primo chip custom disegnato da OpenAI per l'inferenza degli LLM — la fase in cui un modello già addestrato risponde agli utenti. I campioni ingegneristici girano già in laboratorio a frequenza e consumi target, anche su workload massicci (GPT-5.3-Codex-Spark, ad esempio). Le prime installazioni sono attese entro fine 2026; i volumi su scala arriveranno il prossimo anno.

Il chip mette a terra l'accordo da 10GW annunciato con Broadcom a ottobre, con una roadmap che punta a completare il deployment entro il 2029. In meno di un anno, OpenAI dice di essere passata dall'annuncio al tape-out usando i propri modelli in alcune fasi di design e ottimizzazione. Broadcom contribuisce con l’implementazione del silicio e con la sua linea di chip networking Ethernet ad alta capacità, Tomahawk; un’altra azienda, Celestica, seguirà l’assemblaggio e l'integrazione dei sistemi.

Perché conta

Jalapeño sposta la lunga caccia al compute su una delle parti meno appariscenti dell'AI, cioè l'inference (quella che si paga ogni volta che qualcuno usa il prodotto). I prodotti agentici moltiplicano le risposte servite, e dunque il crescente costo unitario entra con prepotenza nella strategia industriale.

• Alla scala di ChatGPT e Codex, anche pochi punti di efficienza diventano margine. VentureBeat cita documenti finanziari secondo cui nel 2025 OpenAI avrebbe generato $13,1B di ricavi contro $34B di costi operativi, con $19,2B assorbiti da R&D e infrastruttura. Jalapeño lavorerà proprio dove l'uso quotidiano dei modelli rischia di allargare il conto a cifre non sostenibili;
• Un chip ASIC di fascia alta come Jalapeño (cioè uno progettato appositamente per l’inferenza) progettato dall’architettura al tape-out — la fase immediatamente precedente alla manifattura — in appena nove mesi è già una notizia. Che in quel processo siano entrati i modelli di OpenAI, però, rende tutto molto più interessante, anche nei limiti di una modesta “accelerazione di alcune fasi” (non di un chip progettato quasi interamente dall'AI). È comunque compounding industriale; lo stesso movimento che finora abbiamo discusso soprattutto sui modelli, e che contribuisce alla compressione delle tempistiche;
• L’ingegnere di Google Patrick Toulme — che lavora sulle TPU — porta il discorso fino a CUDA, il framework di programmazione proprietario di Nvidia con cui oggi si programmano la maggior parte delle GPU per l’AI. In un post su X, Toulme suggerisce che OpenAI “spinge il serving fino al livello dell’ISA” — cioè scrive lo strato di esecuzione del modello (il runtime) direttamente nel linguaggio macchina di Jalapeño anziché passare da CUDA — una fetta dei workload interni più ripetitivi potrebbe uscire dallo stack Nvidia, con conseguenze massicce. La tesi va presa come lettura tecnica, non come fatto dimostrato; coglie però l'ambizione vera del progetto, cioè controllare abbastanza stack da poterla piegare sui propri modelli e affrancarsi progressivamente da uno dei provider (Nvidia) da cui l’azienda dipende maggiormente.

Adesso

• Il report tecnico promesso per i prossimi mesi dovrà mettere numeri dietro alle prestazioni per watt "sostanzialmente migliori" rispetto allo stato dell'arte. Per ora mancano benchmark indipendenti e un confronto esplicito con Blackwell, TPU o alternative comparabili;
• Google e AWS hanno aperto la strada ai chip AI interni, Microsoft e Meta hanno seguito, mentre in Cina gli export control spingono verso alternative locali. OpenAI ci entra da un'altra direzione: ha un prodotto la cui domanda rende l'inferenza troppo grande per restare solo una voce di costo comprata da altri;
• Una piattaforma proprietaria per l'inferenza lascia Nvidia al centro del training e rende meno obbligato ogni rinnovo di capacity. I 30GW indicati nel tracker entro il 2030 richiedono anche questo: comprare compute dove esiste già e costruirsene una parte quando il mercato non basta.