Hoeveel Nvidia Vera Rubin GPU’s wil Google Cloud inzetten?

AI-context. Nscale meet op Nvidia GB300 NVL72-systemen 37 procent meer GPU’s en bijna 50 procent hogere inferentiedoorvoer binnen hetzelfde energiebudget, meldt Nvidia. Mistral trainde zijn Large 4 model op 3.800 Nvidia Grace Blackwell GPU’s in eigen Europese datacenters. CodeRabbit zag via Baseten de routeernauwkeurigheid stijgen van 75,8 naar 80,7 procent, met 50 procent lagere inferentiekosten per taak. Bron, Nvidia.

Nvidia Vera Rubin wordt algemeen beschikbaar bij Google Cloud

De nieuwe A5X-instances draaien op Vera Rubin NVL72-systemen, met ConnectX-9 SuperNICs en Google’s eigen Virgo-netwerk erbij. Vierde generatie vloeistofkoeling houdt de racks koel. Nvidia noemt het platform nu in volledige productie. Google Cloud wil de infrastructuur opschalen naar mogelijk 960.000 Rubin GPU’s, verspreid over meerdere datacenterlocaties wereldwijd.

Het Londense AI-bedrijf Ineffable Intelligence krijgt als eerste klant toegang. Oprichter David Silver gebruikt de rekenkracht voor reinforcement learning op grote schaal. “We bouwen superlearners die zichzelf blijven verbeteren via hun eigen ervaring,” zei hij volgens Nvidia. Reclamebureau WPP toont intussen een referentiearchitectuur voor creatieve AI-agenten, gebouwd op Nvidia Nemotron-modellen en de OpenShell-runtime.

Confidential computing komt er ook bij. Op G4 VM’s met Nvidia RTX PRO 6000 Blackwell-chips is die functie al algemeen beschikbaar. Klanten zijn onder meer Vertebrae en Polaris Cloud. Later volgt confidential computing op rack-niveau, via bare-metal A4X Max-instances met GB300 NVL72. Huang noemde op zijn keynote in Berlijn ook L’Oréal, Revolut, Spotify en Vodafone als Europese klanten die al met Nvidia-technologie werken.

Europese clouds laten al zien wat Vera Rubin oplevert

Europa blijft bij deze aankondiging niet aan de zijlijn staan. Cloudbedrijf Nscale plant de uitrol van Vera Rubin in vijf Europese markten. Op bestaande GB300 NVL72-systemen meet het bedrijf al 37 procent meer GPU’s per rack. De inferentiedoorvoer ligt daarbij bijna 50 procent hoger, binnen hetzelfde stroombudget. Dat is Nscale’s eigen test, bevestigt Nvidia in zijn aankondiging.

Het Franse Mistral trainde zijn Large 4 model op 3.800 Nvidia Grace Blackwell GPU’s, draaiend in eigen Europese datacenters. Vera Rubin-infrastructuur volgt daar pas in 2027. Dat levert een scherp contrast op. Google Cloud wil opschalen naar tot 960.000 Rubin GPU’s. Dat is ruim tweehonderdvijftig keer de GPU-vloot waarmee Europa’s grootste AI-lab vandaag zijn vlaggenschipmodel bouwt. Het verschil zegt iets over hoeveel kapitaal nodig is om in dezelfde liga te spelen als de Amerikaanse hyperscalers.

Nvidia breidt ook zijn toeleveringsketen uit. De wereldwijde substraatcapaciteit moet de komende drie jaar 2,5 keer groter worden, meldt het bedrijf. Een eerdere stap liet al zien hoe snel die concurrentie om AI-rekenkracht verschuift. Toen werden cloudpartijen minder afhankelijk van Nvidia’s eigen software.

Veelgestelde vragen

Wat is Nvidia Vera Rubin?
Vera Rubin is Nvidia’s nieuwste GPU-platform, opgebouwd rond NVL72-racksystemen. Nvidia noemt het platform nu in volledige productie en levert het via cloudpartners zoals Google Cloud.

Wanneer wordt Vera Rubin bij Google Cloud beschikbaar?
De nieuwe A5X-instances worden volgende maand algemeen beschikbaar. Uitbreiding naar Europa staat gepland, zonder vaste datum.

Hoeveel investeert Nvidia in Europa?
Jensen Huang noemde op de GTC Berlin-keynote van 21 oktober bijna 10 miljard dollar aan nieuwe investeringen. Dat bedrag verspreidt zich over meer dan 12.000 partnerbedrijven in Europa.