🧠 Silicon Data: Tokenprijzen dalen terwijl GPU-rents stijgen: Nieuwe AI inference squeeze

■ Tokenprijzen vinden nog geen bodem: De LLM Token Index van Silicon Data is opnieuw gedaald en staat rond $0,91 per miljoen tokens. De eerder veronderstelde bodem is daarmee niet bevestigd.
■ GPU-rents bewegen juist omhoog: Sinds 31 mei steeg de H100 Rental Index met 6,2%, de B200 met 20,3% en de B300 met 56,2%. Vooral bij de nieuwste hardware blijft direct beschikbare capaciteit schaars en duur.
■ De crunch spread wordt daardoor ongunstiger: Silicon Data berekent hoeveel input- en outputtokens een GPU per seconde moet verwerken om met tokenomzet uitsluitend de on-demand huurprijs van die GPU terug te verdienen. Een hoger break-evenniveau betekent dat meer productieve output nodig is voordat überhaupt andere kosten worden betaald.
■ De huidige drempels zijn fors: Voor alle modellen ligt de break-even throughput rond 881 tokens per seconde voor een H100, 1.966 voor een B200 en 2.297 voor een B300. Voor open-weight modellen loopt dat op naar respectievelijk 1.639, 3.657 en 4.274 tokens per seconde.
■ Sinds mei is de lat duidelijk hoger komen te liggen: Voor open-weight modellen is de benodigde throughput om alleen de GPU-rent terug te verdienen met ongeveer 25% tot 83% gestegen. De verkoopprijs van tokens daalt dus sneller dan de economische ruimte die goedkope compute normaal zou creëren.
■ GPU-eigenaren vangen voorlopig een groter deel van de waarde: Hogere rents geven bezitters van schaarse capaciteit meer prijszettingsmacht, terwijl inference-aanbieders die tegen on-demand tarieven huren hun output veel sneller moeten verhogen om dezelfde rekensom rond te krijgen.
■ Maar de grafiek mist één cruciale variabele: De crunch spread meet de verhouding tussen tokenprijs en GPU-rent, niet hoeveel efficiënter inference serving ondertussen is geworden. Wanneer software, scheduling en modeloptimalisatie veel meer bruikbare tokens uit dezelfde GPU halen, kan de werkelijke kostprijs per token nog steeds dalen.
■ Daarom is dit geen margestaat: On-demand huurprijzen vertegenwoordigen vooral de marginale prijs van capaciteit en niet noodzakelijk de gemiddelde kosten van grote aanbieders. Eigen hardware, langlopende contracten, hogere bezettingsgraden en betere software kunnen de werkelijke economics sterk veranderen.
■ De echte strijd verschuift naar output per dollar: De belangrijkste vraag wordt niet langer alleen hoeveel een GPU kost, maar hoeveel betalende tokenoutput een aanbieder per GPU-uur kan produceren. Daar wordt uiteindelijk bepaald wie de prijsdaling van tokens kan absorberen en wie echte margedruk krijgt.

Investment View