Nvidia-uitdager SambaNova haalt 1 miljard en JPMorgan stapt in

AI-context. In 2021 haalde SambaNova 676 miljoen dollar op bij een waardering van 5,1 miljard. Eerder dit jaar kwam er ruim 350 miljoen dollar binnen, naast de nieuwe SN50-chip. Het Eindhovense Euclyd claimt tot 100 keer meer efficiëntie dan Nvidia’s nieuwste kaart. Bron, General Atlantic, BusinessWire en Bloomberg.

Waarom Nvidia-uitdager SambaNova nu 11 miljard waard is

SambaNova bouwt geen grafische kaarten. Het bedrijf maakt de RDU, een reconfigurable dataflow unit los van het GPU-ontwerp. Die chip draait inference, het uitvoeren van een getraind AI-model, sneller en zuiniger. General Atlantic leidt de nieuwe ronde, zo bevestigt het officiële persbericht. Seligman Ventures, T. Rowe Price en Capital Group legden fors bij. Ook BlackRock, Intel Capital, Vista Equity en het Qatarese staatsfonds QIA doen mee. Een tweede tranche volgt volgens het bedrijf binnen enkele weken. De waardering van 11 miljard dollar toont waar de markt op inzet. De RAISE-top in Parijs bracht durfkapitaal en chipmakers samen, en daar paste deze aankondiging perfect. SambaNova bedient neo-clouds, jonge cloudaanbieders voor AI, en soevereine klanten wereldwijd.

De grootste winst zit in de klant. JPMorgan koos SambaNova voor inference in eigen datacenters, meldt CNBC. De bank zet SN40- en SN50-systemen in voor veilige verwerking. Darrin Alves, CIO Infrastructure Platforms bij JPMorgan, wil de snelheid en de veiligheid testen. Nvidia verliest hier geen klant. SambaNova opent wel een tweede spoor. Banken willen grip op hun rekenkracht en hun data. Zulke on-prem inzet, verwerking in het eigen datacenter, groeit nu snel. TechCrunch noemt het de tweede megaronde in vijf maanden tijd. Voor een private chipmaker is dat een hoog tempo.

Van training naar inference, waar het geld heen schuift

Jarenlang ging het grote geld naar training, het bouwen van modellen. Nu verschuift de uitgave naar het draaien ervan. Elke chatbot-vraag en elke agent-taak leunt op inference. Die kosten lopen op zodra bedrijven de modellen echt gebruiken. Zodra miljoenen gebruikers dagelijks vragen stellen, telt elke fractie van een cent per token op tot een fors bedrag. SambaNova mikt op lage kosten per token, de rekeneenheid van taalmodellen, en precies daar zit de winst. In 2021 haalde het bedrijf 676 miljoen dollar op bij 5,1 miljard waardering, aldus het toenmalige persbericht. Vijf jaar later is die waardering meer dan verdubbeld. Het verhaal veranderde van training naar productie. De honger naar inference stuwt de prijs.

Eerder dit jaar toonde SambaNova de SN50-chip. Toen kwam er ruim 350 miljoen dollar binnen, naast een samenwerking met Intel rond Xeon 6, aldus de Intel-newsroom. Die deal koppelt de RDU aan gewone serverprocessors voor gemengde inference. Zo daalt de rekening per verwerkte vraag. JPMorgan is de eerste grote bank die deze route publiek kiest. Meer instellingen volgen waarschijnlijk, want de vraag loopt voor op het aanbod. Op onze eigen desk zagen we die verschuiving al bij het AtCoder-nieuws over OpenAI.

Wat dit betekent voor Nederland en Europa

Hier wringt het voor Europa. SambaNova sloot in één keer 1 miljard dollar. Het Eindhovense Euclyd zoekt ongeveer 200 miljoen euro in zijn Series A, meldt Bloomberg. Dat is grofweg een vijfde van wat de Amerikaan in één tranche binnenhaalt. Euclyd wordt gesteund door oud-ASML-topman Peter Wennink, schrijft NL Times. Het bedrijf claimt met zijn CRAFTWERK-systeem tot 100 keer meer efficiëntie dan Nvidia’s nieuwste kaart. Toch mikt Euclyd pas op productie in 2028. Het geld en de tijd staan tegen Europa.

De Nederlandse chipketen profiteert wel mee. ASML heeft een feitelijk monopolie op EUV-machines, de apparaten die de kleinste transistors printen. ASML levert de machines voor bijna elke geavanceerde AI-chip, ook voor de makers van SambaNova. Elke geavanceerde chip begint dus deels in Veldhoven. Maar het ontwerp en het kapitaal zitten in de Verenigde Staten. De EU AI Act, de Europese AI-wet, regelt straks het gebruik, niet de chips zelf. Datacenters in Nederland vragen intussen meer stroom voor al die inference. We volgen die stroomvraag ook in ons stuk over MiCA 2.0 en de bredere JPMorgan-strategie. Meer inference betekent ook meer vraag naar technici en netcapaciteit in Nederland, en die druk voelen netbeheerders nu al. Wie de inference-chip bezit, bepaalt straks de marges. Dat is de echte inzet voor Europa.