■ OpenAI’s eerste benchmarks voor Jalapeño zijn veel sterker dan verwacht. Op drie grote inferentiemodellen levert de chip volgens OpenAI 1,5 tot 1,9 keer meer prestaties per watt en 1,7 tot 3,6 keer lagere end-to-end latency dan de vergeleken NVIDIA GB200- en GB300-systemen.
■ Voor Broadcom is dit strategisch zeer belangrijk. OpenAI ontwerpt de architectuur, maar Broadcom verzorgt onder meer de silicon implementation, networking en connectivity. Jalapeño bevestigt daarmee dat custom AI-accelerators een structurele miljardenmarkt worden.
■ Voor NVIDIA is Jalapeño nog geen reden om bearish te worden. NVIDIA blijft dominant in training, software en het totale AI-platform, maar grote klanten bouwen steeds geloofwaardiger eigen alternatieven voor inference. Dat kan op termijn vooral pricing power en het marginale inferencevolume raken.
■ De memory- en packagingketen blijft juist profiteren. Iedere Jalapeño-chip gebruikt 216 GiB HBM4 en een rack met 128 chips bevat 27,5 TB HBM4. Custom accelerators vervangen dus mogelijk NVIDIA-silicon, maar niet de enorme vraag naar high-end memory, networking en advanced packaging.
■ OpenAI gebruikte zijn eigen AI ook om Jalapeño te ontwerpen en te programmeren. De eerste generatie ging in negen maanden naar tape-out en AI-gegenereerde kernels waren op geselecteerde onderdelen 1,5 tot 1,8 keer sneller dan expertgeschreven code. Dat kan de ontwikkeling van Gen 2 en Gen 3 aanzienlijk versnellen.
■ Onze beleggersconclusie: zeer positief voor Broadcom, structureel positief voor HBM en advanced packaging en een eerste serieuze waarschuwing voor NVIDIA binnen inference. Jalapeño is nog geen NVIDIA-killer, maar bewijst wel dat NVIDIA’s grootste klanten steeds minder afhankelijk hoeven te blijven van standaard-GPU’s.

Wil je alle artikelen kunnen lezen en elke podcast beluisteren? Neem dan een abonnement en krijg toegang tot alle artikelen en de database met duizenden berichten.

Inleiding

OpenAI heeft met de eerste echte benchmarks van zijn Jalapeño-chip een veel belangrijker signaal afgegeven dan alleen dat het bedrijf zelf een snelle AI-accelerator kan ontwerpen. De eerste generatie presteert volgens de gepubliceerde InferenceX-tests op verschillende grote modellen duidelijk beter per watt en met veel lagere latency dan de vergeleken NVIDIA GB200- en GB300-systemen. Bij DeepSeek R1 liep het verschil in interactieve snelheid zelfs op tot ongeveer 700 tokens per seconde per gebruiker voor Jalapeño tegenover 169 voor GB300. De echte beleggersvraag ligt echter een niveau hoger: OpenAI laat zien dat een van NVIDIA’s grootste klanten inmiddels in staat is een eigen inferenceplatform te ontwikkelen dat specifiek voor zijn workloads is geoptimaliseerd, terwijl Broadcom een cruciale partner blijkt bij het industrialiseren van die architectuur.

Daarmee ontstaat een veel bredere ontwikkeling binnen AI-infrastructuur. De grootste AI-bedrijven hoeven niet langer uitsluitend te kiezen tussen NVIDIA en AMD, maar kunnen hun eigen silicon ontwerpen en gespecialiseerde partijen als Broadcom gebruiken om die architectuur op grote schaal naar datacenters te brengen. Jalapeño is daarom veel meer dan een nieuwe chip of een interessante benchmark. Het is een concreet voorbeeld van hoe de machtsverhoudingen binnen AI-infrastructuur kunnen veranderen wanneer de grootste afnemers van GPU’s zelf steeds meer controle krijgen over hun hardware.

Investment view — Broadcom

Voor Broadcom vinden wij Jalapeño zeer positief, omdat het precies bevestigt waar de onderneming de komende jaren een tweede enorme AI-groeimotor naast networking kan bouwen: custom accelerators voor hyperscalers en frontier AI-bedrijven. OpenAI heeft Jalapeño zelf vanuit de eigen workloads ontworpen, maar een chiparchitectuur bedenken is iets anders dan een geavanceerde accelerator daadwerkelijk produceren en op grote schaal in een datacenter laten functioneren. Broadcom helpt met de fysieke silicon implementation, connectivity en high-performance networking, terwijl Celestica de expertise rond boards, racks en systeemintegratie levert. Daarmee neemt Broadcom een positie in die veel moeilijker te vervangen is dan die van een gewone componentenleverancier.

Het aantrekkelijke van dit model is dat Broadcom niet met NVIDIA hoeft te concurreren door zelf één universele GPU te bouwen. Het bedrijf kan juist profiteren van iedere grote klant die een eigen accelerator wil ontwikkelen. De klant behoudt controle over de architectuur, terwijl Broadcom verdient aan het omzetten van die architectuur in productiesilicon en vervolgens aan een deel van de infrastructuur waarmee duizenden chips met elkaar communiceren. Dat model is inmiddels veel breder dan OpenAI alleen. Meta heeft zijn samenwerking met Broadcom verlengd voor meerdere generaties custom AI-chips en Broadcom werkt al jaren in de custom-AI-keten van grote hyperscalers. De onderneming behaalde in het tweede fiscale kwartaal van 2026 al $10,8 miljard AI-semiconductoromzet, 143% meer dan een jaar eerder, en verwachtte voor het derde kwartaal $16 miljard.

Jalapeño maakt daarmee iets zichtbaar dat voor de waardering van Broadcom belangrijk is: custom silicon is geen experimentele niche meer, maar begint een volwaardige tweede architectuur naast merchant GPUs te worden. Dat betekent niet dat iedere klant automatisch voor Broadcom kiest en ook in deze markt neemt de concurrentie toe. De totale opportunity groeit echter zo snel dat Broadcom niet iedere opdracht hoeft te winnen om hier een zeer grote onderneming binnen de onderneming van te maken. Onze richting voor Broadcom blijft daarom positief. Jalapeño is niet alleen een design win, maar vooral bewijs dat het custom-ASICmodel op frontier-AI-schaal werkt.

Investment view — NVIDIA

Voor NVIDIA is de conclusie genuanceerder. Wij zouden Jalapeño nadrukkelijk niet gebruiken als reden om nu bearish op NVIDIA te worden, omdat OpenAI zelf aangeeft grote hoeveelheden NVIDIA-systemen te blijven inzetten voor zowel training als inference en de totale computevraag nog altijd zo hard groeit dat meerdere architecturen naast elkaar kunnen groeien. Bovendien vergelijkt OpenAI zijn eerste generatie inferencechip met GB200 en GB300, terwijl NVIDIA technologisch verder beweegt met Vera Rubin en daaropvolgende generaties. Een benchmark waarin Jalapeño vandaag Blackwell verslaat, bewijst dus niet dat OpenAI NVIDIA structureel heeft ingehaald.

Toch vinden wij de ontwikkeling belangrijk, omdat NVIDIA’s grootste toekomstige risico mogelijk minder van AMD komt dan van klanten die een deel van hun workloads zelf gaan uitvoeren. Google heeft TPU, Amazon heeft Trainium en Inferentia, Meta bouwt MTIA verder uit, Microsoft ontwikkelt Maia en OpenAI heeft nu Jalapeño. Ook Anthropic bouwt eigen siliconexpertise op. Daarmee ontstaat een situatie waarin een steeds groter gedeelte van toekomstige AI-compute niet automatisch naar een merchant GPU hoeft te gaan.

Vooral inference is daarvoor geschikt. Training van frontiermodellen verandert snel en vraagt maximale flexibiliteit, softwareondersteuning en enorme schaal, gebieden waarop NVIDIA met CUDA, networking en complete racksystemen nog altijd uitzonderlijk sterk staat. Inference is voorspelbaarder. Wanneer een onderneming precies weet welke modellen en workloads zij dagelijks miljarden keren moet uitvoeren, kan een speciaal daarvoor ontworpen ASIC veel efficiënter zijn dan een general-purpose accelerator. Voor NVIDIA hoeft het bestaande volume daardoor niet eens te dalen voordat deze ontwikkeling financieel relevant wordt. Wanneer OpenAI de groei van zijn toekomstige inferencecapaciteit gedeeltelijk met eigen chips opvangt, hoeft het simpelweg minder extra NVIDIA-systemen te kopen dan anders het geval zou zijn geweest. De eerste potentiële druk ligt daarom eerder bij pricing en de marginale inferencegroei dan bij NVIDIA’s huidige technologische leiderschap.

Wat Jalapeño technisch werkelijk laat zien

De kracht van Jalapeño zit juist in wat de chip niet probeert te zijn. OpenAI heeft geen universele GPU gebouwd waarmee iedere mogelijke workload moet kunnen worden uitgevoerd, maar een architectuur die vanaf het begin is ontworpen voor moderne large-language-model inference. Een algemene accelerator moet flexibiliteit bieden voor verschillende modellen, training, inference en veranderende algoritmen, terwijl een custom ASIC veel harder kan worden geoptimaliseerd voor de workloads die de eigenaar daadwerkelijk uitvoert. OpenAI rapporteert daardoor een combinatie die normaal moeilijk tegelijk te bereiken is: hoge throughput én lage latency.

Op GPT-OSS 120B kwam Jalapeño uit op ongeveer 1,9 keer de peak performance per watt van GB200 en ongeveer 1,7 keer lagere end-to-end latency. Bij DeepSeek R1 bedroeg het voordeel ongeveer 1,7 keer performance per watt en 3,6 keer lagere end-to-end latency tegenover GB300, terwijl bij Kimi K2.5 de peak performance per watt ongeveer 1,5 keer hoger lag en de latency ongeveer 3,4 keer lager. Voor agentic AI kan juist die latency steeds belangrijker worden, omdat een normale chatbot één antwoord genereert terwijl een agent achter elkaar tientallen of honderden modelstappen kan uitvoeren. Iedere vertraging wordt dan door de volledige keten vermenigvuldigd, waardoor een architectuur die specifiek op snelle inference is gebouwd economisch steeds interessanter wordt.

De benchmark verdient wel nuance

De cijfers zijn indrukwekkend, maar moeten professioneel worden gelezen. OpenAI heeft de tests zelf uitgevoerd met InferenceX, een publieke benchmark van SemiAnalysis. Dat maakt de resultaten veel betekenisvoller dan een volledig interne marketingbenchmark, maar het blijven resultaten die door de fabrikant zelf zijn gepubliceerd. Bovendien worden systemen onder specifieke modellen, precisies en workloadprofielen met elkaar vergeleken. Daaruit kan niet worden geconcludeerd dat Jalapeño onder alle omstandigheden sneller of beter is dan NVIDIA.

Ook de vergelijking per watt verdient nuance. OpenAI normaliseert op de gepubliceerde package power rating van 700 watt voor Jalapeño tegenover 1.200 watt voor GB200 en 1.400 watt voor GB300, terwijl Jalapeño bij de geteste workloads maximaal ongeveer 550 watt sustained power gebruikte. Dat is voor OpenAI economisch zeer relevant omdat elektriciteit en cooling inmiddels enorme kostenposten zijn, maar een lagere TDP vertelt niet automatisch hoeveel totale racks, netwerkswitches en datacenterinfrastructuur nodig zijn om dezelfde complete workload uit te voeren. De juiste conclusie is daarom niet dat Jalapeño NVIDIA definitief heeft verslagen, maar dat OpenAI met Gen 1 meteen een geloofwaardig alternatief heeft gebouwd voor specifieke grootschalige inferenceworkloads.

Broadcom verdient niet alleen aan de chip

De schaal van Jalapeño maakt duidelijk waarom Broadcom zo belangrijk is in deze investment case. Iedere chip beschikt over 216 GiB HBM4 en 15,4 TB per seconde geheugenbandbreedte. Een lokale configuratie bestaat uit 128 chips en levert ongeveer 1,7 exaflops MXFP4-rekenkracht met gezamenlijk 27,5 TB HBM4, terwijl een volledige pod kan bestaan uit 2.048 accelerators en richting 27 exaflops kan gaan. Moderne grote modellen moeten daardoor over tientallen of honderden chips worden verdeeld, waardoor networking bijna net zo belangrijk wordt als de accelerator zelf.

Dat is precies waar Broadcom opnieuw verschijnt. Een AI-datacenter bestaat economisch niet uit duizenden losse accelerators; de waarde ontstaat wanneer processors, memory en storage snel genoeg met elkaar kunnen communiceren om als één systeem te functioneren. Naarmate clusters groter worden, stijgt het belang van networking binnen de totale infrastructuur. Broadcom kan daardoor in een custom-ASICwereld aan meerdere kanten verdienen: het helpt klanten hun acceleratorarchitectuur naar productiesilicon te brengen en kan tegelijkertijd technologie leveren waarmee die accelerators in enorme clusters worden gekoppeld. Dat maakt de positie veel sterker dan wanneer Broadcom uitsluitend een custom chip zou produceren.

Custom silicon wordt een structurele trend

De belangrijkste concurrent voor NVIDIA hoeft daarom niet één ander chipbedrijf te zijn. Het kan een hele groep klanten worden die ieder hun eigen accelerator voor specifieke workloads ontwikkelt. Google heeft dat met TPU al bewezen, Amazon ontwikkelt Trainium en Inferentia, Microsoft heeft Maia en Meta blijft zijn MTIA-platform uitbreiden. OpenAI voegt daar nu een frontier AI-lab aan toe waarvan inference rechtstreeks aan de kern van het bedrijfsmodel raakt.

Dat maakt Jalapeño belangrijker dan wanneer één cloudbedrijf een interne accelerator voor een beperkt workloadsegment had ontwikkeld. OpenAI heeft directe kennis van zijn modellen, servingsoftware en gebruikerspatronen en kan de hardware daardoor precies ontwerpen rond wat toekomstige ChatGPT-, API- en agentworkloads nodig hebben. Wanneer dat model werkt, zullen andere frontier AI-bedrijven dezelfde route willen onderzoeken. De structurele concurrentiestrijd verschuift daardoor van NVIDIA tegenover andere chipproducenten naar NVIDIA tegenover zowel andere chipproducenten als de eigen silicon van zijn grootste klanten.

HBM4 is een van de stille winnaars

Een van de interessantste gevolgen is dat custom accelerators de HBM-boom niet noodzakelijk verzwakken. Iedere Jalapeño bevat 216 GiB HBM4 en een rack met 128 chips komt daarmee op ongeveer 27,5 TB high-bandwidth memory. Wanneer OpenAI in de toekomst een gedeelte van zijn NVIDIA-inferencecapaciteit vervangt door Jalapeño, verdwijnt de behoefte aan HBM dus niet. Alleen de accelerator waaraan dat geheugen wordt gekoppeld verandert.

Dat is belangrijk voor SK hynix, Samsung en Micron. De opkomst van Google TPU, Meta MTIA, Amazon Trainium en nu OpenAI Jalapeño kan de HBM-markt juist verbreden doordat naast NVIDIA en AMD steeds meer custom processors grote hoeveelheden high-bandwidth memory nodig hebben. Welke geheugenproducent Jalapeño precies belevert, zouden wij zonder harde bevestiging niet aan één partij toeschrijven, maar voor de sector als geheel blijft de richting duidelijk positief.

Advanced packaging en TSMC blijven cruciaal

Hetzelfde geldt voor advanced packaging. Een chip met honderden gigabytes HBM4 en tientallen terabytes geheugenbandbreedte vraagt een extreem geavanceerde package, waardoor custom silicon de behoefte aan foundrycapaciteit, packaging, substrates, bonding en thermisch management niet vermindert. Het verandert vooral welke accelerator centraal in die package staat.

Voor TSMC blijft de structurele AI-case daardoor sterk. Een wereld waarin NVIDIA minder dan honderd procent van de acceleratorgroei pakt, betekent niet automatisch minder leading-edge wafers. Google, Meta, OpenAI, Amazon en andere hyperscalers moeten hun custom chips eveneens laten produceren. Dat is een belangrijk onderscheid voor de semiconductor investment case: de strijd om accelerator-marktaandeel kan veel feller worden terwijl de totale vraag naar leading-edge silicon, HBM en advanced packaging tegelijkertijd blijft groeien.

AI helpt nu zijn eigen volgende generatie chips te bouwen

Misschien is het meest verrassende onderdeel van Jalapeño dat OpenAI zijn eigen modellen actief heeft gebruikt bij het ontwerpen en programmeren van de chip. Van eerste ontwerp tot tape-out duurde ongeveer negen maanden, waarbij AI werd ingezet om implementaties te onderzoeken, ontwerp- en verificatielussen te verkorten en rekenblokken te optimaliseren. Dat is relevant omdat het ontwerpen van een moderne accelerator normaal gesproken jaren kost en enorme gespecialiseerde engineeringteams vereist.

Ook aan de softwarekant is de ontwikkeling interessant. OpenAI gebruikte Codex samen met GPT-Astra om drie open modellen die oorspronkelijk niet voor Jalapeño waren gepland binnen ongeveer twee maanden naar hoge performance te brengen. Op geselecteerde attention- en mixture-of-expertsblokken waren AI-gegenereerde kernels 1,5 tot 1,8 keer sneller dan bestaande implementaties van menselijke experts. Die cijfers gelden nadrukkelijk niet voor het complete model, maar laten wel zien dat AI inmiddels kan helpen bij het optimaliseren van de softwarelaag waarmee nieuwe hardware daadwerkelijk efficiënt wordt gebruikt.

Gen 2 en Gen 3 kunnen belangrijker worden dan Gen 1

Een van NVIDIA’s historische voordelen is de snelheid waarmee software, hardware en nieuwe generaties elkaar opvolgen. Een klant die zelf chips ontwikkelt, loopt normaal gesproken het risico jaren achter te raken tegen de tijd dat zijn eerste ASIC beschikbaar is. AI-assisted chip design kan dat probleem verkleinen. Wanneer OpenAI nieuwe architecturen sneller kan ontwerpen, simuleren, verifiëren en programmeren, wordt het realistischer om regelmatig een eigen generatie accelerator uit te brengen die nauw aansluit op de nieuwste modellen en workloads.

Daarom kunnen Gen 2 en Gen 3 uiteindelijk belangrijker worden dan de absolute prestaties van Jalapeño Gen 1. Gen 1 bewijst dat het concept werkt; de volgende generaties moeten bewijzen dat OpenAI ook een herhaalbare siliconroadmap kan bouwen. Wanneer dat lukt, ontstaat bovendien een krachtige feedbackloop waarin betere AI helpt betere chips te ontwerpen, die chips inference goedkoper maken, lagere kosten meer AI-gebruik mogelijk maken en de data uit dat gebruik vervolgens weer kunnen worden benut bij het ontwerpen van de volgende generatie hardware. Dat is verticale integratie op een schaal die binnen AI-infrastructuur grote economische gevolgen kan krijgen.

NVIDIA heeft tegelijkertijd een sterk verdedigingswapen

De andere kant van het verhaal mag niet worden onderschat, omdat NVIDIA veel meer verkoopt dan alleen een GPU. CUDA vormt een compleet software-ecosysteem, NVLink koppelt accelerators, networkingproducten verbinden racks en NVIDIA levert complete systemen waarin hardware en software samen zijn geoptimaliseerd. Voor ondernemingen zonder de schaal van OpenAI, Google, Amazon of Meta blijft het daardoor veel eenvoudiger om NVIDIA-systemen te kopen dan zelf jarenlang een eigen semiconductorplatform te ontwikkelen.

Custom ASICs vereisen bovendien enorme volumes om economisch aantrekkelijk te worden. Een chip die honderden miljoenen of miljarden kost om te ontwikkelen is alleen rationeel wanneer hij vervolgens op zeer grote schaal wordt ingezet. Dat beperkt deze bedreiging voorlopig vooral tot de grootste hyperscalers en AI-labs. Juist die klanten zijn echter verantwoordelijk voor een groot gedeelte van de mondiale AI-capex, waardoor de trend ondanks het beperkte aantal spelers financieel zeer relevant kan worden.

De echte strijd gaat om de marginale inference-dollar

Dat is volgens ons de juiste manier om de NVIDIA-impact te bekijken. De vraag is niet of OpenAI morgen alle NVIDIA-systemen uitschakelt, want dat gaat niet gebeuren. De vraag is waar de volgende miljard dollar aan inferencecapex terechtkomt. Wanneer OpenAI zonder Jalapeño bijvoorbeeld tien nieuwe NVIDIA-clusters nodig zou hebben en dankzij eigen silicon een deel daarvan zelf kan invullen, blijft NVIDIA nog altijd een enorme leverancier, maar verdwijnt wel een gedeelte van de marginale omzetgroei.

Hetzelfde mechanisme kan bij Google, Meta, Amazon en Microsoft spelen. Custom silicon vormt daarom op langere termijn vooral een risico voor het incrementele marktaandeel en de pricing power van NVIDIA en niet noodzakelijk voor de huidige geïnstalleerde basis. Dat onderscheid is voor beleggers cruciaal, omdat een aandeel uiteindelijk niet alleen wordt gewaardeerd op bestaande omzet maar vooral op de omvang en winstgevendheid van toekomstige groei.

Broadcom staat precies aan de andere kant van die verschuiving

Wat voor NVIDIA een risico is, kan voor Broadcom juist de structurele opportunity zijn. Iedere hyperscaler die minder afhankelijk wil worden van merchant GPUs heeft expertise nodig in chiparchitectuur, physical design, high-speed interfaces, networking en massaproductie. Slechts een handvol ondernemingen ter wereld kan dergelijke technologie betrouwbaar op frontier scale leveren en Broadcom heeft zich precies in die laag gepositioneerd.

Broadcom hoeft NVIDIA daarom niet te vervangen om een grote winnaar te worden. Het bedrijf verkoopt juist technologie waarmee NVIDIA’s grootste klanten een gedeelte van hun acceleratorbehoefte zelf kunnen invullen. Naarmate custom silicon een groter deel van de totale AI-infrastructuurmarkt verovert, kan Broadcom daardoor aan precies de andere kant van dezelfde verschuiving staan die voor NVIDIA op termijn druk kan veroorzaken. Dat maakt Broadcom voor ons een van de interessantste second-order winners van de hele custom-silicontrend.

Wat beleggers nu moeten volgen

De belangrijkste volgende stap is de daadwerkelijke deployment. Jalapeño moet eind 2026 in eerste volumes worden uitgerold en daarna in 2027 verder opschalen. De benchmarks laten zien wat technisch mogelijk is, maar de komende periode moet duidelijk maken hoeveel compute OpenAI werkelijk naar het eigen platform verplaatst en hoeveel NVIDIA-capaciteit het daarnaast blijft toevoegen. Dat is uiteindelijk veel relevanter dan één benchmarkwedstrijd tussen twee architecturen.

Voor Broadcom worden nieuwe custom-acceleratorwins en de groei van networking minstens zo belangrijk. Wanneer na bestaande grote hyperscalers en OpenAI meer frontierklanten volgen, wordt steeds duidelijker dat Broadcom een structurele positie heeft opgebouwd in een markt die zeer groot kan worden. Voor NVIDIA moeten beleggers vooral letten op pricing, Rubin-adoptie, inference-efficiency en de verhouding tussen training en inference. Wanneer NVIDIA zijn eigen performance per watt snel genoeg blijft verbeteren, kan de totale AI-markt groot genoeg blijven om zowel NVIDIA als custom silicon jarenlang sterk te laten groeien.

Conclusie

Jalapeño is geen NVIDIA-killer. NVIDIA’s positie in training, software, networking en complete AI-systemen is daarvoor veel te sterk en OpenAI’s eigen chip staat nog aan het begin van zijn deployment. Het nieuws is echter wel structureel belangrijk, omdat OpenAI met zijn eerste generatie custom inferencechip laat zien dat een frontier AI-bedrijf een gespecialiseerde accelerator kan bouwen die op relevante workloads overtuigende voordelen in performance per watt en latency laat zien. Daarmee ontstaat voor het eerst een veel tastbaarder beeld van hoe de grootste afnemers van NVIDIA in de toekomst een gedeelte van hun compute zelf kunnen produceren.

Voor Broadcom is dat zeer positief. Jalapeño bevestigt dat custom AI-silicon op enorme schaal een echte markt wordt en dat Broadcom een cruciale partner kan zijn voor ondernemingen die hun eigen accelerators willen ontwerpen. Voor NVIDIA is het vooral een waarschuwing richting inference, omdat de grootste klanten steeds meer mogelijkheden krijgen om een gedeelte van hun toekomstige groei zelf op te vangen. Voor HBM, TSMC en advanced packaging blijft de ontwikkeling juist sterk, omdat custom accelerators nog altijd leading-edge wafers, enorme hoeveelheden HBM4, complexe packaging en snelle networking nodig hebben.

Misschien is het belangrijkste punt uiteindelijk dat Jalapeño pas Gen 1 is. OpenAI heeft niet alleen laten zien dat AI op nieuwe chips kan draaien, maar ook dat AI kan helpen om die chips sneller te ontwerpen en programmeren. Wanneer Gen 2 en Gen 3 die feedbackloop verder versnellen, kan de custom-silicontrend veel sneller gaan dan enkele jaren geleden voor mogelijk werd gehouden. De volgende grote strijd in AI-silicon gaat daarom waarschijnlijk niet alleen tussen NVIDIA en AMD, maar steeds vaker tussen NVIDIA en de eigen accelerators van zijn grootste klanten. Broadcom kan juist aan die verschuiving verdienen.

English version

OpenAI’s Jalapeño puts custom AI silicon on the map — Broadcom could be the major winner

■ OpenAI’s first Jalapeño benchmarks are substantially stronger than expected. Across three large inference models, OpenAI reports 1.5 to 1.9 times more performance per watt and 1.7 to 3.6 times lower end-to-end latency than the NVIDIA GB200 and GB300 systems used for comparison.
■ For Broadcom, this is strategically significant. OpenAI designed the architecture, while Broadcom provides silicon implementation, networking and connectivity. Jalapeño confirms that custom AI accelerators are becoming a structural multibillion-dollar market.
■ For NVIDIA, Jalapeño is not yet a reason to turn bearish. NVIDIA remains dominant in training, software and complete AI platforms, but its largest customers are building increasingly credible alternatives for inference. Over time, that could pressure pricing power and incremental inference share.
■ Memory and advanced packaging remain beneficiaries. Every Jalapeño chip contains 216 GiB of HBM4 and a 128-chip rack contains 27.5 TB. Custom accelerators may replace some NVIDIA silicon, but they do not remove the enormous requirement for high-end memory, networking and packaging.
■ OpenAI also used its own AI to help design and program Jalapeño. Gen 1 moved from design to tape-out in nine months, while AI-generated kernels ran 1.5 to 1.8 times faster than expert-written implementations on selected blocks. That could accelerate Gen 2 and Gen 3 development.
■ Our investment conclusion is clear: highly positive for Broadcom, structurally positive for HBM and advanced packaging and a serious warning for NVIDIA within inference. Jalapeño is not an NVIDIA killer, but it proves that NVIDIA’s largest customers increasingly have alternatives to relying exclusively on merchant GPUs.

Introduction

OpenAI’s first real Jalapeño benchmarks send a much more important signal than simply demonstrating that the company can design a fast AI accelerator. The first generation delivers materially better performance per watt and lower latency than the compared NVIDIA GB200 and GB300 systems across several large inference models, with DeepSeek R1 reaching roughly 700 tokens per second per user versus 169 on GB300. The real investment question sits one level higher: OpenAI has demonstrated that one of NVIDIA’s largest customers can develop an internal inference platform specifically optimised for its own workloads, while Broadcom is proving to be a critical partner in industrialising that architecture.

This creates a much broader shift within AI infrastructure. The largest AI companies no longer need to choose solely between NVIDIA and AMD, because they can increasingly design proprietary silicon and use specialised companies such as Broadcom to turn those architectures into production-scale data-center platforms. Jalapeño is therefore much more than a new chip or an interesting benchmark. It provides a concrete example of how power within AI infrastructure could shift as the largest GPU customers gain greater control over their own hardware.

Investment view — Broadcom

For Broadcom, we view Jalapeño as highly positive because it confirms exactly where the company can build another enormous AI growth engine alongside networking: custom accelerators for hyperscalers and frontier AI companies. OpenAI designed the architecture around its own workloads, but designing an accelerator is very different from manufacturing and operating it at data-center scale. Broadcom contributes physical silicon implementation, connectivity and high-performance networking, while Celestica provides board, rack and system-integration expertise. This gives Broadcom a position that is much harder to replace than that of an ordinary component supplier.

The attraction of this business model is that Broadcom does not need to beat NVIDIA by developing a universal GPU of its own. Instead, it can benefit from every major customer that decides to develop a proprietary accelerator. The customer retains architectural control while Broadcom monetises the process of turning that architecture into production silicon and potentially part of the infrastructure connecting thousands of those processors. OpenAI is not an isolated example. Meta has extended its Broadcom relationship across multiple generations of custom AI chips, while Broadcom has worked inside the custom-AI supply chains of major hyperscalers for years. The company generated $10.8 billion of AI semiconductor revenue in fiscal Q2 2026, up 143% year on year, and expected $16 billion in Q3.

Jalapeño therefore demonstrates something important for Broadcom’s valuation: custom silicon is no longer an experimental niche but is beginning to become a genuine second architecture alongside merchant GPUs. That does not mean every customer will automatically choose Broadcom, and competition within custom silicon is increasing. The overall opportunity, however, is expanding so rapidly that Broadcom does not need to win every programme for this business to become enormous. Our direction on Broadcom therefore remains positive, with Jalapeño representing not merely another design win but evidence that the custom-ASIC model works at frontier-AI scale.

Investment view — NVIDIA

For NVIDIA, the conclusion is more nuanced. We would explicitly not use Jalapeño as a reason to become bearish today because OpenAI says it intends to continue deploying substantial amounts of NVIDIA hardware for both training and inference, while aggregate compute demand remains strong enough for multiple architectures to grow simultaneously. The comparison also uses GB200 and GB300 systems while NVIDIA continues moving forward with Vera Rubin and subsequent generations, meaning that beating Blackwell on selected inference benchmarks today does not demonstrate that OpenAI has permanently overtaken NVIDIA.

Nevertheless, the development matters because NVIDIA’s largest long-term threat may be less about AMD and more about customers internalising part of their workloads. Google has TPU, Amazon has Trainium and Inferentia, Meta is expanding MTIA, Microsoft is developing Maia and OpenAI now has Jalapeño, while Anthropic is also building internal silicon expertise. An increasing portion of future AI compute therefore no longer automatically needs to flow to merchant GPUs.

Inference is particularly suitable for this shift. Frontier training changes rapidly and demands enormous flexibility, software support and scale, areas where NVIDIA remains exceptionally strong through CUDA, networking and complete rack systems. Inference is more predictable. When a company knows exactly which workloads it will execute billions of times every day, a purpose-built ASIC can become more efficient than a general-purpose accelerator. NVIDIA’s existing volume therefore does not need to decline before this trend becomes financially relevant. If OpenAI absorbs part of its future inference growth with proprietary silicon, it simply needs fewer incremental NVIDIA systems than it otherwise would have purchased, making pricing and marginal inference growth the first areas where pressure could eventually appear.

What Jalapeño actually demonstrates

The power of Jalapeño lies partly in what it does not attempt to be. OpenAI did not build a universal GPU for every possible workload but an architecture designed from the beginning for modern large-language-model inference. A general accelerator needs flexibility across different models, training, inference and changing algorithms, while a custom ASIC can be aggressively optimised around the workloads its owner actually operates. OpenAI therefore reports an unusual combination of high throughput and low latency.

Across GPT-OSS 120B, DeepSeek R1 and Kimi K2.5, Jalapeño showed materially better throughput per watt and latency than the comparison systems. This could become particularly important for agentic AI because a conventional chatbot produces one response while an agent may execute tens or hundreds of model steps sequentially. Every additional delay can therefore be multiplied across the entire process, making an architecture optimised specifically for fast inference increasingly attractive economically.

The benchmarks require professional caution

The results are impressive but need to be interpreted carefully. OpenAI performed the testing itself using SemiAnalysis’ public InferenceX benchmark, making the results more meaningful than a completely proprietary marketing test but still leaving them as manufacturer-published results. The comparisons also use specific models, precisions and workload profiles and therefore do not establish that Jalapeño is universally faster or superior to NVIDIA hardware.

The power comparison requires similar nuance. OpenAI normalises performance using package power ratings of 700 watts for Jalapeño versus 1,200 watts for GB200 and 1,400 watts for GB300, while measured sustained Jalapeño power remained at or below roughly 550 watts on the tested workloads. That is highly relevant economically because electricity and cooling have become enormous cost items, but lower package power alone does not determine how much total rack, switching and data-center infrastructure is required to execute an entire workload. The correct conclusion is therefore not that Jalapeño has definitively defeated NVIDIA, but that OpenAI has built a credible Gen 1 alternative for selected large-scale inference workloads.

Broadcom earns on more than the accelerator

The scale of Jalapeño explains why Broadcom is so important to the investment case. Each chip carries 216 GiB of HBM4 and 15.4 TB per second of memory bandwidth, while a 128-chip configuration provides roughly 1.7 exaflops of MXFP4 compute and 27.5 TB of HBM4. A complete pod can scale to 2,048 accelerators and roughly 27 exaflops. Modern large models therefore need to operate across tens or hundreds of chips, making networking almost as important as the accelerator itself.

This is where Broadcom appears again. An AI data center does not create economic value from thousands of isolated processors; the value emerges when processors, memory and storage communicate quickly enough for the cluster to operate as one system. As clusters grow, networking becomes increasingly important within total infrastructure spending. Broadcom can therefore monetise custom AI in multiple places by helping customers turn proprietary accelerator architectures into production silicon while also providing technology that connects those accelerators at enormous scale. That is structurally more valuable than simply manufacturing a custom ASIC.

Custom silicon becomes structural

The most important competitor to NVIDIA may therefore not be one other chip company but a collection of its own customers developing specialised accelerators. Google has already proven the model through TPU, Amazon is developing Trainium and Inferentia, Microsoft has Maia and Meta continues expanding MTIA. OpenAI now adds a frontier AI lab whose business model is directly tied to inference.

That gives Jalapeño particular significance because OpenAI knows its models, serving software and user behaviour directly and can optimise hardware around those workloads. If that approach works, other frontier AI companies are likely to investigate the same route. The competitive structure therefore begins shifting from NVIDIA against other semiconductor companies toward NVIDIA competing simultaneously against traditional chipmakers and the proprietary silicon developed by its largest customers.

HBM4 is one of the quiet winners

Custom accelerators do not necessarily weaken the HBM boom. Every Jalapeño contains 216 GiB of HBM4 and a 128-chip rack carries roughly 27.5 TB. If OpenAI replaces part of its future NVIDIA inference capacity with Jalapeño, the requirement for HBM does not disappear; only the accelerator attached to that memory changes.

That is structurally important for SK hynix, Samsung and Micron. Google TPU, Meta MTIA, Amazon Trainium and OpenAI Jalapeño can broaden the HBM market by creating multiple large accelerator ecosystems alongside NVIDIA and AMD. Without firm confirmation, we would not attribute Jalapeño’s HBM supply to any single manufacturer, but the direction for the overall memory market remains clearly positive.

Advanced packaging and TSMC remain critical

The same applies to advanced packaging. A processor containing hundreds of gigabytes of HBM4 and delivering enormous memory bandwidth requires extremely sophisticated packaging, meaning custom silicon does not remove demand for foundry capacity, substrates, bonding, thermal management and advanced packaging. It primarily changes which accelerator sits at the centre of the package.

The structural AI case for TSMC therefore remains strong. A world in which NVIDIA captures less than all incremental accelerator growth does not automatically mean fewer leading-edge wafers, because Google, Meta, OpenAI, Amazon and other hyperscalers still need their proprietary processors manufactured. This distinction is crucial for the semiconductor investment case: competition for accelerator market share can intensify while aggregate demand for leading-edge silicon, HBM and advanced packaging continues to rise.

AI is helping build its own next generation of chips

Perhaps the most surprising aspect of Jalapeño is that OpenAI actively used its own models during chip development and programming. The first generation moved from initial design to tape-out in roughly nine months, with AI used to explore implementations, shorten design and verification loops and optimise computing blocks. That matters because developing a modern accelerator traditionally requires years and enormous teams of specialised engineers.

The software side is equally interesting. OpenAI used Codex together with GPT-Astra to bring three additional open models that had not originally been planned for Jalapeño to strong performance in roughly two months. On selected attention and mixture-of-experts blocks, AI-generated kernels ran 1.5 to 1.8 times faster than existing human-expert implementations. Those numbers apply to selected components rather than complete models, but they demonstrate that AI can increasingly help optimise the software layer required to make new hardware efficient.

Gen 2 and Gen 3 could matter more than Gen 1

One of NVIDIA’s historic advantages is the speed at which its hardware and software roadmap progresses. A customer developing proprietary silicon traditionally risks falling years behind before its first ASIC reaches production, but AI-assisted chip development could reduce that disadvantage. If OpenAI can design, simulate, verify and program new architectures more quickly, it becomes increasingly realistic to launch successive custom accelerators closely aligned with the company’s newest models and workloads.

That is why Gen 2 and Gen 3 may ultimately matter more strategically than the absolute performance of Jalapeño Gen 1. Gen 1 proves that the concept works, while future generations need to demonstrate that OpenAI can build a repeatable silicon roadmap. If it succeeds, a powerful feedback loop emerges in which better AI helps design better chips, those chips lower inference costs, lower costs enable more AI usage and the resulting workload data helps optimise the next hardware generation. That form of vertical integration could have major economic consequences across AI infrastructure.

NVIDIA still has a formidable defence

The other side of the story should not be underestimated because NVIDIA sells far more than a GPU. CUDA provides a mature software ecosystem, NVLink connects accelerators, networking products link racks and NVIDIA delivers complete systems in which hardware and software are jointly optimised. For companies without OpenAI, Google, Amazon or Meta scale, buying NVIDIA remains dramatically easier than building a proprietary semiconductor platform.

Custom ASICs also require enormous deployment volumes to justify development costs. A processor costing hundreds of millions or even billions to develop only makes economic sense when deployed at very large scale, limiting the threat primarily to the largest hyperscalers and AI labs. Those same companies, however, account for a substantial proportion of global AI capital expenditure, making the trend financially significant despite the limited number of players capable of pursuing it.

The real fight is for the marginal inference dollar

That is the correct framework for NVIDIA investors. The question is not whether OpenAI will shut down its NVIDIA systems tomorrow, because it will not. The relevant question is where the next billion dollars of inference capex will be spent. If proprietary silicon allows OpenAI to internally satisfy part of the capacity that otherwise would have required additional NVIDIA clusters, NVIDIA can remain an enormous supplier while still losing part of its marginal growth opportunity.

The same mechanism applies to Google, Meta, Amazon and Microsoft. Custom silicon therefore represents a long-term threat primarily to incremental market share and pricing power rather than NVIDIA’s existing installed base. That distinction matters because equity valuations ultimately depend not only on current revenue but on the size and profitability of future growth.

Broadcom sits on the opposite side of that shift

What represents a risk to NVIDIA can become a structural opportunity for Broadcom. Every hyperscaler seeking less dependence on merchant GPUs requires expertise in physical design, high-speed interfaces, networking and mass production, and only a small number of companies can provide those capabilities reliably at frontier scale. Broadcom has positioned itself directly within that layer.

Broadcom therefore does not need to replace NVIDIA to become a major winner. It can sell the technology that enables NVIDIA’s largest customers to internalise part of their accelerator requirements. As custom silicon captures a larger share of total AI infrastructure spending, Broadcom could increasingly sit on the opposite side of the same shift that creates longer-term pressure for NVIDIA. That makes Broadcom one of the most interesting second-order beneficiaries of the custom-silicon transition.

What investors should watch next

The most important next step is actual deployment. Jalapeño is expected to enter initial deployment in late 2026 and scale further during 2027. The benchmarks demonstrate what is technically possible, but the coming period needs to show how much compute OpenAI actually moves to its proprietary platform and how much NVIDIA capacity it continues to add alongside it. That will ultimately matter much more than any single benchmark competition.

For Broadcom, new custom-accelerator wins and continued networking growth will be equally important. If additional frontier customers follow existing hyperscalers and OpenAI, it will become increasingly clear that Broadcom has established a structural position in what could become an enormous market. For NVIDIA, investors should focus on pricing, Rubin adoption, inference efficiency and the balance between training and inference. If NVIDIA continues improving performance per watt rapidly enough, the overall AI market may remain large enough for both NVIDIA and custom silicon to grow strongly for years.

Conclusion

Jalapeño is not an NVIDIA killer. NVIDIA’s position in training, software, networking and complete AI systems remains far too strong, while OpenAI’s proprietary accelerator is still at the beginning of its deployment. The development is nevertheless structurally important because OpenAI has demonstrated with its first-generation inference chip that a frontier AI company can build a specialised accelerator delivering compelling performance-per-watt and latency advantages on relevant workloads. That provides a much clearer picture of how NVIDIA’s largest customers could eventually internalise part of their compute requirements.

For Broadcom, that is highly positive. Jalapeño confirms that custom AI silicon at frontier scale is becoming a genuine market and that Broadcom can occupy a critical role for companies designing proprietary accelerators. For NVIDIA, it is primarily a warning within inference because the largest customers increasingly have the ability to absorb part of their future compute growth internally. For HBM, TSMC and advanced packaging, the trend remains strong because custom accelerators still require leading-edge wafers, enormous quantities of HBM4, sophisticated packaging and high-speed networking.

Perhaps most importantly, Jalapeño is only Gen 1. OpenAI has demonstrated not merely that AI can run on new chips, but that AI itself can increasingly help design and program the chips that will power future AI. If Gen 2 and Gen 3 accelerate that feedback loop, the custom-silicon transition could move much faster than investors previously assumed. The next major battle in AI silicon may therefore no longer be only NVIDIA versus AMD. Increasingly, it will be NVIDIA versus the proprietary accelerators of its largest customers, with Broadcom positioned to profit from that shift.