| Wat je moet weten |
|---|
| 1Etched komt uit stealth met 800 miljoen dollar en 1 miljard dollar aan orders. |
| 2De Sohu draait alleen transformer-inferentie op TSMC N4P, een 4nm-node. |
| 3Achter de chip staan Peter Thiel, Jane Street, Geoffrey Hinton en Fei-Fei Li. |
| 4Eerste racks gaan deze zomer de deur uit, waardering 5 miljard dollar. |
AI-context. Een server met acht Sohu-chips draait Llama 70B op ruim 500.000 tokens per seconde. Acht Nvidia H100’s halen ongeveer 23.000, een B200-server 43.000 tot 45.000. Elke chip draagt 144 GB HBM3E-geheugen. Etched claimt meer dan 80 procent benutting van de rekenkracht, tegen 30 tot 40 procent bij een GPU. Bron, Tech Times en The Next Web.
Wat de Etched Sohu chip anders doet dan een GPU
Een GPU is een generalist. De chip draait elke taak, maar verspilt rekenkracht op inferentie. Etched koos de andere weg. De Sohu bakt de transformer, de architectuur achter elk groot taalmodel, direct in het silicium. Zo verdwijnt de overhead van kernel-launches en threadplanning. Het bedrijf noemt twee trucs. De eerste, Low Voltage Inference, draait de rekenblokken op minder dan de helft van de normale spanning. Door de lagere spanning stijgt de rekendichtheid fors, terwijl de warmte binnen de perken blijft en de klok niet terugvalt. De tweede deelt geheugen met lage latentie over alle chips.
Een ASIC, een chip voor een taak en niet voor alles, is geen nieuw idee. In bitcoinmijnbouw verdrong vaste hardware de GPU binnen maanden. Etched wedt dat inferentie dezelfde weg gaat. Analisten zien ASIC-leveringen sneller groeien dan GPU’s. De chip draait op TSMC N4P, een 4nm-generatie, met 144 GB snel geheugen. Een server met acht chips herbergt een model van 400 tot 600 miljard parameters. Etched zegt dat een server 160 Nvidia H100’s vervangt. Onafhankelijke tests ontbreken nog.
Het geld, de namen en de orders achter de claim
Etched haalde in totaal 800 miljoen dollar op. De grootste ronde, 500 miljoen dollar onder leiding van Stripes, sloot in december. Die ronde zette de waardering op 5 miljard dollar. Jane Street stak er los meer dan 100 miljoen dollar in, meldt Bloomberg. De namenlijst valt op. Peter Thiel, Hudson River Trading, Two Sigma en Ribbit Capital deden mee. Onder de engelen zitten Geoffrey Hinton en Fei-Fei Li.
Ook Andrej Karpathy en Stanley Druckenmiller tekenden. Die mix zegt iets. Theoretici, bouwers en scherpe beleggers wedden op dezelfde chip. De orderportefeuille telt meer dan 1 miljard dollar aan getekende contracten. Dat zijn toezeggingen, geen omzet. Voor de opschaling opende Etched een eigen fabriek en een datacenter in Taiwan, dicht bij de productielijnen van TSMC. Het bedrijf telt 400 mensen, ruim de helft bij San Jose.
Wat dit betekent voor Nederland en Europa
Volg de keten naar boven. De Sohu draait op TSMC N4P. Die 4nm-node werkt met EUV-lithografie, de machines die alleen ASML in Veldhoven maakt. Zonder ASML geen geavanceerde node, en zonder die node geen Sohu. Zo profiteert ASML van elke serieuze Nvidia-uitdager. Of Etched nu wint of niet, elke order loopt via TSMC en versterkt zo indirect de positie van ASML. En TSMC koopt bij ASML. Eerder maakte de Microsoft Maia 200 hetzelfde punt.
Europa mist zelf een grote inferentiechip. De Britse start-up Fractile haalde 220 miljoen dollar op voor eigen silicium. Dat is klein naast de 800 miljoen van Etched. Nederland zit hoger in de keten, bij de machines zelf. Dat is een sterke plek, maar ook een kwetsbare. Exportregels rond China raken ASML direct. Ondertussen bouwt Europa eigen Europese AI-supercomputers. De chipoorlog om inferentie maakt die inzet alleen groter.
Wat nog niet bewezen is
De cijfers komen van Etched zelf. Geen onafhankelijk lab mat de doorvoer onder productie. De 500.000 tokens gelden bij hoge batches en korte antwoorden. In de praktijk varieert de werklast sterk, met wisselende contextlengtes en batchgroottes, en precies dan slinkt het gemeten verschil. Bij grote batches haalt een H100 al 45.000 tokens. De sprong is dan kleiner dan de kop suggereert. En de overstap kost werk. Wie Sohu kiest, verlaat CUDA, vLLM en TensorRT.
Er speelt een dieper risico. Etched wedt op de transformer. Schuiven modellen naar hybride architecturen, die transformer en andere mechanismen mengen, dan wringt vaste hardware zonder nieuwe revisie. De eerste A0-chips kwamen terug van TSMC en draaien nu bij klanten. Het bedrijf mikt op eerste levering deze zomer. Dan blijkt of 1 miljard dollar aan orders een chip of een presse-papier kocht.
| Sohu tegenover de GPU |
|---|
| 1Doorvoer, ruim 500.000 tokens per seconde op Llama 70B, claim van Etched. |
| 2Nvidia H100, ongeveer 23.000 tokens, een B200 43.000 tot 45.000. |
| 3Benutting, meer dan 80 procent, tegen 30 tot 40 procent bij een GPU. |
| 4Node, TSMC N4P op 4nm, met 144 GB HBM3E per chip. |
| 5Nog open, onafhankelijke tests en de levering van de racks deze zomer. |
