Geen tijd om het hele artikel te lezen? Dit zijn de belangrijkste punten:
■ De mogelijke 192GB HBM4-configuratie voor NVIDIA Rubin Ultra is relevant, maar de kern van het verhaal is oud. Eind juli en begin augustus werd door andere partijen al gemeld dat NVIDIA lagere HBM-configuraties onderzocht vanwege structurele DRAM- en HBM-schaarste.
■ SemiAnalysis brengt die ontwikkeling nu opnieuw met alarmlichten en termen als “massive content downgrade”, alsof er plotseling een compleet nieuw probleem is ontdekt. Dat is wat ons betreft vooral sensatiezucht rond informatie waarvan de essentie al eerder door anderen was gemeld.
■ De vergelijking van circa 1 TB naar 192 GB klinkt spectaculair, maar vergelijkt verschillende Rubin Ultra-architecturen. Het reguliere Rubin heeft officieel 288 GB HBM4. Tegenover dat product zou 192 GB ongeveer een derde minder zijn.
■ De belangrijkste boodschap is precies het tegenovergestelde van “memory wordt minder belangrijk”. NVIDIA onderzoekt minder HBM per GPU omdat HBM zo schaars blijft dat maximale content per accelerator het totale aantal leverbare AI-systemen kan beperken.
■ Voor NVIDIA kan dat economisch rationeel zijn: minder HBM per accelerator kan meer GPU-volume mogelijk maken, terwijl waarde verschuift naar compute, NVLink, switching, networking en complete racksystemen.
■ Voor SK hynix en Micron is lagere HBM-content per accelerator wel degelijk een directe tegenvaller voor bits per GPU en mogelijk voor premium HBM4E-mix. Dat zegt echter nog niets over de totale HBM-vraag.
■ Samsung kan relatief profiteren wanneer minder complexe HBM4-configuraties belangrijker worden, terwijl Broadcom en andere networkingnamen juist kunnen profiteren van meer rack-scale interconnect.
■ De memorycase blijft fundamenteel sterk zolang HBM-bit demand sneller groeit dan supply. Het echte bearish scenario ontstaat pas wanneer AI-capex vertraagt én nieuwe DRAM/HBM-capaciteit op grote schaal beschikbaar komt.

Daar gaan we weer

Wil je alle artikelen kunnen lezen en elke podcast beluisteren? Neem dan een abonnement en krijg toegang tot alle artikelen en de database met duizenden berichten.

Daar gaan we weer. SemiAnalysis trekt opnieuw de alarmbel en zet “HBM MASSIVE CONTENT DOWNGRADE ALERT” boven een verhaal over NVIDIA Rubin Ultra, alsof de markt plotseling met een nieuwe en onverwachte geheugencrisis wordt geconfronteerd. De mogelijke 192GB HBM4-configuratie is relevant, maar de kern van deze ontwikkeling is helemaal niet nieuw. Andere partijen hadden eind juli en begin augustus al gemeld dat NVIDIA verschillende lagere HBM4- en HBM4E-configuraties onderzocht omdat de supply van DRAM en HBM structureel te krap blijft.

Dat is precies waarom wij moeite hebben met de framing. Een bestaande supply-chainontwikkeling, die al eerder door anderen was gesignaleerd, wordt opnieuw verpakt als groot nieuws en vervolgens maximaal opgeblazen. Dat levert aandacht op, maar maakt de analyse voor beleggers niet beter. De 192GB-specificatie kan een nieuwe concretisering zijn van welke configuratie uiteindelijk wordt gekozen, maar het onderliggende probleem — onvoldoende memorycapaciteit om iedere accelerator maximaal uit te rusten — was al bekend.

De term “massive content downgrade” suggereert bovendien dat NVIDIA plotseling vier vijfde van het geheugen uit hetzelfde product heeft gesloopt. Dat is simpelweg te makkelijk. De oorspronkelijke circa 1TB-versie hoorde bij een veel ambitieuzere Rubin Ultra-architectuur. Als de architectuur zelf verandert, kun je de oude en nieuwe memoryconfiguratie niet één-op-één naast elkaar zetten alsof alleen de HBM-capaciteit is aangepast.

De 1TB-headline klinkt veel dramatischer dan de werkelijkheid

De vergelijking van circa 1 TB naar 192 GB is perfect clickbait. Ruim 80% minder geheugen klinkt vernietigend, maar voor een serieuze beleggersanalyse is het belangrijker om te kijken naar wat er feitelijk met de architectuur is gebeurd. Het oorspronkelijke Rubin Ultra-concept draaide om een veel zwaardere multi-dieconfiguratie met veel meer HBM-stacks. Wanneer NVIDIA dat ontwerp zelf aanpast, verandert automatisch ook de hoeveelheid geheugen die logisch in het systeem past.

De betere vergelijking is daarom met het reguliere Rubin, dat officieel maximaal 288 GB HBM4 gebruikt. Tegenover 288 GB zou 192 GB ongeveer een derde minder zijn. Dat is nog steeds opvallend, zeker voor een product dat als Ultra boven Rubin wordt gepositioneerd, maar het is iets totaal anders dan de suggestie dat NVIDIA plotseling 80% van zijn geplande geheugen heeft weggegooid.

Daar komt bij dat memory capacity niet hetzelfde is als memory bandwidth en al helemaal niet hetzelfde als totale systeemperformance. Voor bepaalde workloads is lokale HBM-capaciteit cruciaal, maar NVIDIA bouwt steeds grotere scale-up systems waarin NVLink, switching en rack-level architecture een groter deel van de performance bepalen.

Het echte verhaal is niet minder memoryvraag, maar te weinig memory

Dit is het punt dat in de paniekheadline bijna volledig verloren gaat. NVIDIA onderzoekt minder HBM per accelerator niet omdat de markt ineens minder memory nodig heeft. NVIDIA doet dat juist omdat memory zo schaars is geworden dat maximale HBM-content per GPU de totale acceleratorproductie kan beperken.

HBM gebruikt enorme hoeveelheden wafercapaciteit en vraagt ingewikkelde stacking, packaging en thermal management. Hoe hoger de stacks en hoe geavanceerder de generatie, hoe zwaarder de druk op yield en productiecapaciteit. Wanneer iedere high-end GPU maximaal met HBM wordt gevuld, daalt automatisch het aantal GPU’s dat uit dezelfde beschikbare hoeveelheid memory kan worden gebouwd.

NVIDIA kijkt dus naar een klassiek allocatieprobleem: gebruik je extreem veel HBM per accelerator, of verdeel je dezelfde schaarse memory over meer accelerators en verkoop je uiteindelijk meer complete AI-systemen? Dat is geen zwakte in de memorymarkt. Dat is juist een teken van extreme schaarste.

De memorymarkt blijft structureel hard nodig

Dat sluit aan bij het bredere beeld uit de memorysector. SK hynix verwacht dat 2027 uitzonderlijk krap blijft en ziet vraag en aanbod ook daarna nog lang uit balans. De fundamentele bottleneck zit niet alleen bij HBM zelf, maar ook bij wafercapaciteit, packaging, yields en power.

Het idee dat een lagere Rubin Ultra-memoryconfiguratie bewijs zou zijn dat HBM-demand begint te verzwakken, is daarom moeilijk vol te houden. De veel logischere conclusie is dat NVIDIA zijn ontwerp probeert aan te passen aan een supply-chain die simpelweg niet snel genoeg kan leveren wat de AI-sector wil gebruiken.

Dat is waarom we deze SemiAnalysis-framing zo zwak vinden. Dezelfde feiten kunnen namelijk tot vrijwel de tegenovergestelde conclusie leiden. Minder HBM per individuele accelerator betekent niet automatisch minder totale HBM-vraag. Als NVIDIA daardoor veel meer accelerators kan produceren, kan de totale hoeveelheid verkochte memorybits nog steeds fors groeien.

Voor NVIDIA kan minder HBM zelfs positief zijn

Voor NVIDIA draait de economische vergelijking niet om gigabytes HBM per accelerator, maar om dollars aan brutowinst per systeem en hoeveel systemen kunnen worden verscheept. Stel dat NVIDIA met dezelfde beschikbare hoeveelheid HBM één miljoen extreem geheugenrijke accelerators kan bouwen, of anderhalf miljoen accelerators met iets minder geheugen. Wanneer de performance voldoende blijft en de prijsstelling grotendeels overeind blijft, kan de tweede optie economisch veel aantrekkelijker zijn.

Meer GPU’s betekent bovendien meer dan alleen meer acceleratoromzet. Het betekent ook meer networking, meer switches, meer NVLink, meer rackinfrastructuur, meer power management en uiteindelijk meer software en services rond het complete systeem. Daarmee kan NVIDIA een deel van de waarde die uit HBM-content verdwijnt elders in het rack terugverdienen.

NVIDIA verkoopt steeds minder een GPU en steeds meer een systeem

Dat is essentieel om Rubin Ultra goed te begrijpen. NVIDIA beweegt al jaren weg van het model waarin één GPU de centrale economische eenheid is. De onderneming verkoopt steeds nadrukkelijker volledige AI-systemen waarin GPU’s, CPU’s, NVLink, switches, networking, cooling, power en software worden geïntegreerd tot één platform.

De vraag wordt daardoor niet meer alleen hoeveel geheugen één accelerator heeft, maar hoeveel bruikbare compute het totale rack levert. Wanneer NVIDIA lokaal minder HBM gebruikt maar grotere scale-up domains bouwt, kan een deel van de functionaliteit op systeemniveau worden gecompenseerd. Dat is niet zonder grenzen en sommige workloads blijven zeer gevoelig voor lokale capacity, maar het maakt de simpele conclusie “192 GB is slechter dan 288 GB dus Rubin Ultra is zwakker” veel te kort door de bocht.

Gross margin is veel belangrijker dan de kale memoryspecificatie

Voor NVIDIA ligt het echte risico daarom bij de brutomarge. Minder HBM verlaagt mogelijk de BOM, maar andere componenten worden juist duurder. Advanced packaging, networking, cooling en powerinfrastructuur lopen eveneens fors in kosten op. De relevante vraag is dus of NVIDIA de totale systeemprijs sneller kan verhogen dan de totale systeemkosten stijgen.

Wanneer NVIDIA minder HBM gebruikt, meer accelerators kan bouwen en zijn pricing power grotendeels behoudt, kan de brutowinst per systeem zelfs verbeteren. Wanneer klanten echter weerstand bieden tegen hogere prijzen terwijl packaging en andere componenten duurder blijven worden, kan de marge alsnog onder druk komen. Voor NVIDIA kijken wij daarom veel liever naar gross margin, datacenter-ASP, systeem-BOM en commentaar rond Rubin dan naar één headline over 192 GB.

Investment view NVIDIA

Voor NVIDIA verandert onze visie door deze melding nauwelijks. Het verhaal dat Rubin Ultra mogelijk minder HBM krijgt, is in essentie geen nieuw fundamenteel risico en kan economisch zelfs rationeel zijn. Zolang NVIDIA voldoende performance behoudt, pricing power houdt en door lagere HBM-content meer accelerators kan verschepen, kan het effect neutraal tot positief zijn.

Het echte bearish scenario ontstaat pas wanneer klanten de lagere memorycontent als echte productverslechtering ervaren, de ASP niet overeind blijft en de totale BOM tegelijkertijd verder stijgt. Daar zien wij op dit moment onvoldoende bewijs voor.

SK hynix voelt de downgrade wel directer

Voor SK hynix ligt het anders. Het bedrijf verdient juist aan de hoeveelheid en complexiteit van HBM per accelerator. Wanneer NVIDIA van 12-Hi naar 8-Hi gaat, verdwijnen er DRAM-dies per stack. Wanneer HBM4E plaatsmaakt voor HBM4, kan bovendien een deel van de premium productmix verdwijnen.

Dat is op productniveau duidelijk negatief. Minder HBM per Rubin Ultra betekent minder HBM-bits per verkochte accelerator en mogelijk een lagere omzetbijdrage per GPU. Dat moeten we niet verbloemen.

Maar lagere content per GPU is niet hetzelfde als lagere totale HBM-vraag

De fout ontstaat wanneer die eerste stap direct wordt doorgetrokken naar een bearish conclusie voor de hele HBM-markt. Als NVIDIA dankzij lagere content veel meer GPU’s kan bouwen, kan de totale vraag naar HBM alsnog stijgen. Stel dat de content per accelerator met een derde daalt maar het aantal accelerators met 50% groeit, dan ligt de totale bitvraag alsnog hoger.

Daarbovenop komt pricing. Wanneer supply structureel krap blijft, kan een hogere prijs per bit een aanzienlijk deel van de lagere content per accelerator compenseren. Voor SK hynix moeten we daarom vooral kijken naar totale HBM-bit shipments, pricing en mix, niet alleen naar de hoeveelheid HBM in één Rubin Ultra.

8-Hi versus 12-Hi is voor SK hynix belangrijker dan de headline

Er zit ook een technologisch element in. SK hynix heeft veel waarde gecreëerd met zijn voorsprong in steeds complexere HBM-stacks. Hogere stacks betekenen meer bits, hogere ASP’s en een aantrekkelijkere mix. Wanneer NVIDIA structureel meer nadruk legt op 8-Hi HBM4 en minder snel naar 12-Hi of 16-Hi HBM4E gaat, wordt die premium opportunity kleiner.

Dat is voor SK hynix het echte negatieve element. Daar staat tegenover dat lagere stackhoogtes de productie-efficiëntie kunnen verbeteren. Het bedrijf kan mogelijk meer stacks produceren uit dezelfde capaciteit en bepaalde complexiteitsproblemen langer uitstellen. Daarmee blijft het netto-effect veel genuanceerder dan “Rubin Ultra downgrade = SK hynix bearish”.

Investment view SK hynix

Wij zouden SK hynix op basis van deze melding niet ineens bearish beoordelen. De lagere content per Rubin Ultra is een tegenvaller voor de maximale productmix, maar de bredere markt blijft uitzonderlijk krap. Zolang vrijwel iedere beschikbare HBM-bit tegen sterke prijzen kan worden verkocht, blijft de economische positie van SK hynix sterk.

Wij zouden wel scherper kijken naar de toekomstige verhouding tussen HBM4 en HBM4E, 8-Hi en 12-Hi en vooral naar totale bitgroei.

Micron heeft hetzelfde contentprobleem, maar een veel bredere AI-memoryhefboom

Voor Micron geldt grotendeels dezelfde rekensom. Minder HBM4E of lagere stackhoogtes per Rubin Ultra zijn negatief voor de hoeveelheid premium memory per accelerator. Maar Micron profiteert van veel meer dan HBM alleen. AI-datacenters vragen enorme hoeveelheden gewone server-DRAM, nieuwe memoryarchitecturen en NAND.

De groei van inference, agents en grotere contextwindows kan bovendien juist extra reguliere memory buiten de GPU zelf vereisen. Daarmee is de totale AI-memoryvraag veel breder dan Rubin Ultra alleen.

Voor Micron draait het om prijs maal bits

Een lagere hoeveelheid HBM per GPU is alleen echt negatief wanneer het aantal verkochte GPU’s gelijk blijft en de prijs per bit niet stijgt. Wanneer NVIDIA door lagere content meer accelerators kan verschepen, verandert de rekensom. Voeg daar een structureel krappe DRAM-markt en hoge prijzen aan toe en de totale omzetimpact kan veel positiever uitvallen dan de headline suggereert.

Voor Micron kijken wij daarom vooral naar totale HBM-bit shipments, waferallocation, pricing en de ontwikkeling van de datacentermix.

Investment view Micron

Ook voor Micron zien wij deze melding niet als reden om de structurele memorycase los te laten. De relevante vraag is of Micron zijn beschikbare wafercapaciteit tegen aantrekkelijke prijzen kan verkopen. Zolang dat het geval is, is de exacte HBM-capaciteit van één NVIDIA-accelerator veel minder belangrijk dan het totale volume en de prijs.

Samsung kan relatief juist profiteren

Samsung is misschien de interessantste relatieve case. De onderneming heeft de afgelopen jaren achter SK hynix aangelopen in de meest geavanceerde HBM-configuraties. Juist bij extreem complexe stacks, packaging en qualification was de technologische achterstand het duidelijkst.

Wanneer NVIDIA meer nadruk legt op minder complexe 8-Hi HBM4-configuraties, wordt die technische drempel iets lager. Dat kan Samsung helpen om sneller meer volume te winnen en de achterstand in de supply-chain te verkleinen.

Minder premium content kan Samsung competitief helpen

Dat klinkt paradoxaal. Minder HBM per accelerator is ook voor Samsung op contentniveau niet positief, maar relatief kan het juist gunstiger zijn. SK hynix verdient veel aan zijn voorsprong in de moeilijkste en meest geavanceerde stacks. Wanneer NVIDIA minder extreme configuraties nodig heeft, wordt die voorsprong iets minder belangrijk.

Samsung beschikt bovendien over enorme DRAM-productiecapaciteit. In een structureel krappe markt kan dat steeds waardevoller worden.

Investment view Samsung

Voor Samsung zien wij daarom een gemengde maar relatief interessante read-through. Minder HBM per accelerator is niet positief, maar minder complexe configuraties kunnen de kans vergroten om marktaandeel te winnen. Wanneer NVIDIA bovendien meer accelerators kan produceren, kan Samsung via volume alsnog sterk profiteren.

Broadcom kan via networking juist winnen

Een minder voor de hand liggende implicatie ligt bij Broadcom. Wanneer NVIDIA minder lokaal geheugen per accelerator gebruikt en meer waarde naar het complete rack verschuift, wordt communicatie tussen accelerators nog belangrijker. Grotere scale-up domains vragen meer switching, meer interconnect en meer networking.

NVIDIA pakt daar zelf uiteraard een groot gedeelte van via NVLink en zijn eigen networkingportfolio. Maar de structurele trend naar grotere AI-clusters blijft eveneens gunstig voor andere networkingleveranciers. Broadcom is daar interessant omdat het zowel custom AI silicon als networkingtechnologie levert.

Minder HBM per accelerator betekent dus niet noodzakelijk minder semiconductorcontent per rack. De mix verandert.

Investment view Broadcom

Wij zien de Rubin Ultra-discussie daarom als neutraal tot licht positief voor Broadcom. Wanneer de nadruk steeds sterker verschuift van individuele acceleratorcontent naar complete rack-scale architectures, stijgt de waarde van switching en interconnect. Dat past uitstekend bij Broadcoms positie.

TSMC: minder complex per accelerator, mogelijk veel meer accelerators

Voor TSMC is de conclusie gemengd. Lagere HBM-stacks en een minder extreme Rubin Ultra-architectuur kunnen sommige advanced-packagingvereisten per individuele accelerator verlagen. Daar staat tegenover dat NVIDIA juist probeert meer accelerators uit dezelfde hoeveelheid memory te produceren.

Als dat lukt, zijn er meer compute-dies en meer packages nodig. Voor TSMC kan een lagere packagingcontent per unit daarom ruimschoots worden gecompenseerd door een hoger volume. Ook hier is totale throughput belangrijker dan content per accelerator.

De echte memory-bearcase ligt veel verder naar voren

Geen van deze argumenten betekent dat memory niet meer cyclisch is. Uiteindelijk komt er nieuwe capaciteit online en kan er weer overaanbod ontstaan. Dat zou voor SK hynix, Micron en Samsung veel gevaarlijker zijn dan Rubin Ultra met 192 GB HBM.

De echte bearish memorycase ontstaat wanneer drie zaken tegelijk gebeuren: AI-capex vertraagt duidelijk, nieuwe HBM- en DRAM-capaciteit komt op grote schaal beschikbaar en klanten hebben minder bits nodig dan de industrie kan produceren. Dan verdwijnt pricing power. Dat scenario zien we vandaag nog niet.

De markt vertelt momenteel juist het tegenovergestelde

De huidige signalen passen veel beter bij structurele krapte. AI absorbeert HBM, server-DRAM en steeds meer NAND. Nieuwe fabs hebben jaren nodig om relevante volumes te leveren en HBM vraagt uitzonderlijk veel waferinput.

Dat verklaart waarom memoryleveranciers steeds meer werken met meerjarige supply agreements, vooruitbetalingen en andere manieren om toekomstige capaciteit vast te leggen. Dat gedrag past niet bij een industrie die denkt dat de vraag op korte termijn wegvalt. Het past bij een industrie die verwacht dat capacity voorlopig schaars blijft.

Conclusie

De mogelijke 192GB HBM4-configuratie voor Rubin Ultra is inhoudelijk relevant. Maar de manier waarop SemiAnalysis dit nu opnieuw als “massive content downgrade alert” verkoopt, vinden wij vooral een voorbeeld van hoe informatie die in essentie al eerder door anderen was gemeld met genoeg hoofdletters opnieuw als crisis kan worden gepresenteerd.

De kern was eind juli en begin augustus al bekend: NVIDIA onderzocht lagere HBM-configuraties omdat memory structureel schaars blijft. De huidige 192GB-melding maakt die mogelijke eindconfiguratie concreter, maar verandert de onderliggende investment thesis nauwelijks.

En juist daar draait de conclusie om. NVIDIA probeert niet minder HBM te gebruiken omdat memory minder belangrijk wordt. NVIDIA onderzoekt minder HBM per accelerator omdat de AI-industrie zoveel memory vraagt dat de beschikbare supply het aantal leverbare GPU’s begint te beperken.

Voor NVIDIA kan dat rationeel zijn en zelfs economisch gunstig uitpakken wanneer meer GPU-volume, hogere systeemwaarde en pricing power de lagere HBM-content compenseren. Voor SK hynix en Micron is minder content per accelerator een reële tegenvaller, maar zolang totale bitvraag sneller groeit dan supply en pricing sterk blijft, blijft de brede memorycase intact. Samsung kan relatief profiteren van minder complexe stacks, terwijl Broadcom voordeel kan halen uit de verdere verschuiving naar networking en rack-scale architecture.

Dus nee, dit is geen nieuw HBM-alarm. Het is vooral een opgeblazen herverpakking van een ontwikkeling die anderen al eerder hadden gemeld. De echte boodschap blijft veel belangrijker: memory is niet minder nodig, maar juist zo hard nodig dat NVIDIA zijn productarchitectuur moet aanpassen aan de grenzen van de supply-chain.

English version

Here we go again: SemiAnalysis is blowing old Rubin Ultra news into an HBM alarm even though others reported the core story much earlier and memory remains structurally scarce

No time to read the full article? These are the key points:
■ The possible 192GB HBM4 configuration for NVIDIA Rubin Ultra is relevant, but the core story is old. Other parties had already reported in late July and early August that NVIDIA was evaluating lower HBM configurations because of structural DRAM and HBM shortages.
■ SemiAnalysis is now repackaging that development with alarm language such as “massive content downgrade”, as if an entirely new problem had suddenly emerged. In our view, that is mainly sensational framing around information whose essence had already been reported elsewhere.
■ The comparison between roughly 1TB and 192GB sounds dramatic, but it compares different Rubin Ultra architectures. Regular Rubin officially carries 288GB of HBM4. Against that product, 192GB would be roughly one-third lower.
■ The key message is almost the opposite of “memory is becoming less important”. NVIDIA is considering less HBM per GPU because HBM remains so scarce that maximum content per accelerator can limit the total number of AI systems it can ship.
■ For NVIDIA, that can be economically rational: less HBM per accelerator can enable higher GPU volumes while more value shifts towards compute, NVLink, switching, networking and complete rack-scale systems.
■ For SK hynix and Micron, lower HBM content per accelerator is a real direct negative for bits per GPU and potentially premium HBM4E mix. That still says very little about total HBM demand.
■ Samsung could benefit relatively if less complex HBM4 configurations become more important, while Broadcom and other networking names could benefit from greater rack-scale interconnect.
■ The memory case remains fundamentally strong as long as HBM bit demand grows faster than supply. The real bearish scenario only arrives when AI capex slows and new DRAM/HBM capacity becomes available at scale.

Here we go again

Here we go again. SemiAnalysis is once again ringing the alarm bell and placing “HBM MASSIVE CONTENT DOWNGRADE ALERT” above a story about NVIDIA Rubin Ultra, as if the market had suddenly been hit by a new and unexpected memory crisis. The potential 192GB HBM4 configuration is relevant, but the core development is not new at all. Other parties had already reported in late July and early August that NVIDIA was evaluating several lower HBM4 and HBM4E configurations because DRAM and HBM supply remained structurally tight.

That is exactly why we object to the framing. An existing supply-chain development that had already been identified elsewhere is being repackaged as major news and then amplified as aggressively as possible. That may generate attention, but it does not improve the investment analysis. The 192GB specification may be a new indication of which configuration ultimately gets chosen, but the underlying problem — insufficient memory capacity to equip every accelerator at the maximum level — was already known.

The phrase “massive content downgrade” also suggests that NVIDIA suddenly ripped four-fifths of the memory out of the same product. That is far too simplistic. The original roughly 1TB version belonged to a much more ambitious Rubin Ultra architecture. If the architecture itself changes, you cannot simply compare the old and new memory configurations one-for-one as if only the HBM capacity had changed.

The 1TB headline sounds far more dramatic than the reality

The comparison between roughly 1TB and 192GB is perfect clickbait. More than 80% less memory sounds devastating, but serious investment analysis requires looking at what actually changed in the architecture. The original Rubin Ultra concept revolved around a much heavier multi-die configuration with far more HBM stacks. When NVIDIA changes that architecture, the amount of memory that logically belongs in the system changes as well.

A better comparison is therefore regular Rubin, which officially uses up to 288GB of HBM4. Against 288GB, 192GB would be roughly one-third lower. That is still notable, particularly for a product positioned above Rubin, but it is very different from suggesting that NVIDIA suddenly threw away 80% of the memory it had planned.

Memory capacity is also not the same thing as memory bandwidth, and it certainly is not the same thing as total system performance. Local HBM capacity is crucial for certain workloads, but NVIDIA is building ever-larger scale-up systems in which NVLink, switching and rack-level architecture account for a growing share of performance.

The real story is not weaker memory demand but insufficient memory supply

This is the point that almost disappears inside the alarmist headline. NVIDIA is not considering less HBM per accelerator because the market suddenly needs less memory. NVIDIA is doing so because memory has become so scarce that maximum HBM content per GPU can constrain total accelerator production.

HBM consumes enormous amounts of wafer capacity and requires complex stacking, packaging and thermal management. The higher the stacks and the more advanced the generation, the greater the pressure on yield and manufacturing capacity. If every high-end GPU is filled with the maximum amount of HBM, the number of GPUs that can be built from the same available memory supply automatically falls.

NVIDIA is therefore facing a classic allocation problem: do you use extreme amounts of HBM per accelerator, or spread the same scarce memory across more accelerators and ultimately sell more complete AI systems? That is not weakness in the memory market. It is evidence of extreme scarcity.

Memory remains structurally in strong demand

This fits the broader picture across the memory industry. SK hynix expects 2027 to remain exceptionally tight and sees demand and supply staying out of balance well beyond that. The fundamental bottleneck is not only HBM itself, but also wafer capacity, packaging, yields and power.

The idea that a lower Rubin Ultra memory configuration proves HBM demand is beginning to weaken is therefore difficult to sustain. The more logical conclusion is that NVIDIA is adapting its design to a supply chain that simply cannot deliver enough memory fast enough to satisfy what the AI industry wants to consume.

That is why we find the SemiAnalysis framing so weak. The same facts can actually lead to almost the opposite conclusion. Less HBM per individual accelerator does not automatically mean less total HBM demand. If NVIDIA can produce many more accelerators as a result, total memory bits sold can still rise sharply.

Less HBM could even be positive for NVIDIA

For NVIDIA, the economic comparison is not about gigabytes of HBM per accelerator, but dollars of gross profit per system and the number of systems that can be shipped. Suppose NVIDIA can use the same available HBM supply to build one million extremely memory-rich accelerators or 1.5 million accelerators with somewhat less memory. If performance remains sufficient and pricing broadly holds, the second option can be economically much more attractive.

More GPUs also mean more than just accelerator revenue. They mean more networking, more switches, more NVLink, more rack infrastructure, more power management and ultimately more software and services around the complete system. NVIDIA can therefore recover part of the value that disappears from HBM content elsewhere in the rack.

NVIDIA is selling less of a GPU and more of a complete system

This is essential to understanding Rubin Ultra. NVIDIA has been moving away for years from a model in which one GPU is the central economic unit. The company increasingly sells complete AI systems in which GPUs, CPUs, NVLink, switches, networking, cooling, power and software are integrated into a single platform.

The question is therefore no longer only how much memory sits on one accelerator, but how much usable compute the entire rack delivers. If NVIDIA uses less local HBM while building larger scale-up domains, some functionality can be compensated at the system level. That is not without limits and some workloads remain highly sensitive to local capacity, but it makes the simplistic conclusion that “192GB is worse than 288GB so Rubin Ultra is weaker” far too shallow.

Gross margin matters much more than the raw memory specification

For NVIDIA, the real risk therefore sits in gross margin. Less HBM may reduce BOM, but other components are becoming more expensive. Advanced packaging, networking, cooling and power infrastructure are all rising sharply in cost. The relevant question is whether NVIDIA can increase total system pricing faster than total system costs rise.

If NVIDIA uses less HBM, builds more accelerators and retains most of its pricing power, gross profit per system could even improve. If customers resist higher prices while packaging and other components continue becoming more expensive, margins can still come under pressure. That is why we would much rather focus on gross margin, data-center ASP, system BOM and Rubin commentary than on a single 192GB headline.

Investment view NVIDIA

Our view on NVIDIA changes very little because of this report. The idea that Rubin Ultra may use less HBM is not a new fundamental risk and may even represent economically rational optimisation. As long as NVIDIA maintains sufficient performance, retains pricing power and can ship more accelerators because of lower HBM content, the effect can be neutral to positive.

The real bearish scenario only emerges if customers see the lower memory content as a genuine product deterioration, ASPs fail to hold and total BOM continues rising at the same time. We currently see insufficient evidence for that.

SK hynix feels the downgrade more directly

For SK hynix, the analysis is different. The company earns precisely from the amount and complexity of HBM used per accelerator. If NVIDIA moves from 12-Hi to 8-Hi, fewer DRAM dies are used per stack. If HBM4E is replaced by HBM4, part of the premium product mix can also disappear.

That is clearly negative at the product level. Less HBM per Rubin Ultra means fewer HBM bits per accelerator sold and potentially lower revenue contribution per GPU. That should not be glossed over.

But lower content per GPU is not the same as lower total HBM demand

The mistake comes when that first step is immediately extrapolated into a bearish conclusion for the entire HBM market. If NVIDIA can build far more GPUs because of lower content, total HBM demand can still rise. If content per accelerator falls by one-third but accelerator units rise by 50%, total bit demand still increases.

Pricing also matters. If supply remains structurally tight, a higher price per bit can offset a meaningful portion of lower content per accelerator. For SK hynix, total HBM bit shipments, pricing and mix matter far more than the amount of HBM in one Rubin Ultra.

8-Hi versus 12-Hi matters more for SK hynix than the headline

There is also a technology angle. SK hynix has created enormous value from its lead in increasingly complex HBM stacks. Higher stacks mean more bits, higher ASPs and a richer mix. If NVIDIA structurally puts more emphasis on 8-Hi HBM4 and moves more slowly towards 12-Hi or 16-Hi HBM4E, that premium opportunity becomes smaller.

That is the genuinely negative element for SK hynix. On the other hand, lower stack heights can improve manufacturing efficiency. The company may be able to produce more stacks from the same capacity and postpone certain complexity challenges. That keeps the net impact far more nuanced than “Rubin Ultra downgrade = SK hynix bearish”.

Investment view SK hynix

We would not suddenly turn bearish on SK hynix because of this report. Lower content per Rubin Ultra is a setback for maximum product mix, but the broader market remains exceptionally tight. As long as virtually every available HBM bit can be sold at strong prices, SK hynix retains a powerful economic position.

We would, however, watch the future mix between HBM4 and HBM4E, 8-Hi and 12-Hi, and especially total bit growth much more closely.

Micron has the same content problem but much broader AI-memory leverage

For Micron, the calculation is broadly similar. Less HBM4E or lower stack heights per Rubin Ultra are negative for premium memory content per accelerator. But Micron benefits from far more than HBM alone. AI data centers require enormous amounts of conventional server DRAM, new memory architectures and NAND.

The growth of inference, agents and larger context windows may also require more conventional memory outside the GPU itself. Total AI memory demand is therefore far broader than Rubin Ultra alone.

For Micron, the real equation is price multiplied by bits

A lower amount of HBM per GPU is only truly negative if GPU units remain unchanged and the price per bit does not rise. If NVIDIA can ship more accelerators because of lower content, the calculation changes. Add a structurally tight DRAM market and strong pricing and the total revenue impact can be much better than the headline suggests.

For Micron, we therefore focus primarily on total HBM bit shipments, wafer allocation, pricing and the evolution of the data-center mix.

Investment view Micron

We also do not see this report as a reason to abandon the structural memory case for Micron. The relevant question is whether Micron can sell its available wafer capacity at attractive prices. As long as it can, the exact HBM capacity of one NVIDIA accelerator matters much less than total volume and pricing.

Samsung could actually benefit relatively

Samsung may be the most interesting relative case. The company has trailed SK hynix in the most advanced HBM configurations, with its technological disadvantage most visible in extremely complex stacks, packaging and qualification.

If NVIDIA puts more emphasis on less complex 8-Hi HBM4 configurations, that technical hurdle becomes somewhat lower. That could help Samsung win more volume faster and narrow the gap in the supply chain.

Less premium content can improve Samsung's competitive position

That sounds paradoxical. Less HBM per accelerator is not positive for Samsung at the content level either, but relatively it may be beneficial. SK hynix earns heavily from its lead in the most difficult and advanced stacks. If NVIDIA needs less extreme configurations, that lead becomes somewhat less important.

Samsung also has enormous DRAM manufacturing capacity. In a structurally tight market, that can become increasingly valuable.

Investment view Samsung

We therefore see a mixed but relatively interesting read-through for Samsung. Less HBM per accelerator is not positive, but less complex configurations can improve the probability of gaining market share. If NVIDIA can also produce more accelerators, Samsung may benefit strongly through volume.

Broadcom could benefit through networking

A less obvious implication lies with Broadcom. If NVIDIA uses less local memory per accelerator and moves more value towards the complete rack, communication between accelerators becomes even more important. Larger scale-up domains require more switching, more interconnect and more networking.

NVIDIA obviously captures a large part of that through NVLink and its own networking portfolio, but the structural trend towards larger AI clusters also benefits other networking suppliers. Broadcom is particularly interesting because it supplies both custom AI silicon and networking technology.

Less HBM per accelerator therefore does not necessarily mean less semiconductor content per rack. The mix changes.

Investment view Broadcom

We therefore see the Rubin Ultra discussion as neutral to slightly positive for Broadcom. As the focus shifts further from individual accelerator content towards complete rack-scale architectures, the value of switching and interconnect rises. That fits Broadcom's position extremely well.

TSMC: less complexity per accelerator, potentially many more accelerators

For TSMC, the conclusion is mixed. Lower HBM stacks and a less extreme Rubin Ultra architecture could reduce some advanced-packaging requirements per individual accelerator. On the other hand, NVIDIA is specifically trying to produce more accelerators from the same memory supply.

If that works, more compute dies and more packages will be required. For TSMC, lower packaging content per unit can therefore be more than compensated by higher volume. Total throughput once again matters more than content per accelerator.

The real memory bear case lies much further ahead

None of this means memory has stopped being cyclical. Eventually, new capacity will come online and oversupply can return. That would be far more dangerous for SK hynix, Micron and Samsung than a Rubin Ultra with 192GB of HBM.

The real bearish memory case emerges when three things happen simultaneously: AI capex slows materially, new HBM and DRAM capacity comes online at scale and customers require fewer bits than the industry can produce. That is when pricing power disappears. We are not seeing that scenario today.

The market is currently saying the opposite

Current signals fit structural tightness much better. AI is absorbing HBM, server DRAM and increasingly NAND. New fabs take years to deliver meaningful volumes and HBM consumes exceptional amounts of wafer input.

That explains why memory suppliers are increasingly using multi-year supply agreements, prepayments and other mechanisms to lock in future capacity. That behaviour does not fit an industry expecting demand to disappear in the near term. It fits an industry expecting capacity to remain scarce.

Conclusion

The potential 192GB HBM4 configuration for Rubin Ultra is relevant. But the way SemiAnalysis is now repackaging it as a “massive content downgrade alert” is, in our view, a good example of how information whose essence had already been reported by others can be turned into a crisis again simply by adding enough capital letters.

The core story was already known in late July and early August: NVIDIA was evaluating lower HBM configurations because memory remains structurally scarce. The current 192GB report makes a possible final configuration more concrete, but it barely changes the underlying investment thesis.

And that is the key point. NVIDIA is not considering less HBM because memory is becoming less important. NVIDIA is considering less HBM per accelerator because the AI industry needs so much memory that available supply is beginning to constrain the number of GPUs that can be shipped.

For NVIDIA, that can be rational and even economically favourable if higher GPU volumes, greater system value and pricing power compensate for lower HBM content. For SK hynix and Micron, lower content per accelerator is a real negative, but as long as total bit demand grows faster than supply and pricing remains strong, the broader memory case remains intact. Samsung may benefit relatively from less complex stacks, while Broadcom can benefit from the continued shift towards networking and rack-scale architecture.

So no, this is not a new HBM alarm. It is mainly an inflated repackaging of a development that others had already reported. The real message remains much more important: memory is not becoming less necessary; it is so necessary that NVIDIA may have to adapt its product architecture to the physical limits of the supply chain.