AI Safety Index zet Europa’s Mistral onder China’s DeepSeek

AI-context. Het panel telde zeven experts en woog 37 indicatoren over zes domeinen. Op existentiele veiligheid haalt geen bedrijf meer dan een C-min. Mistral scoort 0,33, ruim acht keer lager dan Anthropic met 2,66. Het bewijs liep tot 3 juni 2026. Bron, Future of Life Institute.

AI Safety Index geeft niemand een voldoende

De AI Safety Index bestaat sinds 2024 en meet hoe serieus AI-labs risico’s aanpakken. Het Future of Life Institute stelt de ranglijst samen. Een panel van zeven wetenschappers gaf cijfers per domein. Ze keken onder meer naar risicobeoordeling en veiligheidskaders. De hoogste score is dit keer 2,66 op 4. Dat cijfer hoort bij Anthropic, dat vijf van de zes domeinen aanvoert. OpenAI volgt met 2,28 en Google DeepMind met 2,01. Onder die top gaapt een groot gat naar de rest. Het verschil is enorm.

Meta klom van de zesde naar de vierde plaats met 1,32. xAI zakte juist van vier naar zeven en kreeg een F. Ook DeepSeek en Mistral zakten voor het examen. Hard oordeel. De onderzoekers noemen existentiële veiligheid, de angst dat mensen de controle over sterke AI verliezen, het zwakste domein. Geen enkel bedrijf komt daar boven een C-min uit. Anthropic probeert het met constitutionele classifiers, filters tegen gevaarlijke output. Het panel noemt zulke pogingen ontoereikend. Detectie is geen preventie, luidt het oordeel.

De methode leunt op openbaar bewijs en een gerichte vragenlijst onder de bedrijven. Zeven onderzoekers gaven per domein een cijfer, van A tot F. Het volledige rapport zet de scores naast elkaar. Voor de Chinese labs weegt het panel ook de lokale wetgeving mee, omdat vrijwillige beloften daar minder gebruikelijk zijn. Z.ai en Alibaba Cloud kregen allebei een D-min. Hun lage cijfer weerspiegelt vooral het ontbreken van een eigen veiligheidskader. Dat telt zwaar. De ranglijst straft dus zwijgen even hard als falen.

Waarom de veiligheidsbeloften afbrokkelen

Het rapport legt een pijnlijke trend bloot. Tussen 2024 en 2026 verwaterden bedrijven hun eigen veiligheidsbeloften. Anthropic, OpenAI, Google DeepMind en Meta lieten toezeggingen los om te pauzeren bij gevaar. Het panel noemt dat het verschuiven van de doelpalen. Slap gedrag. Sommige labs koppelen hun rem nu aan het gedrag van concurrenten. Wie vooroploopt, wil niet als enige stoppen. Zo zakt de hele sector door de bodem. De rem verdwijnt.

Ook de militaire draai baart het panel zorgen. Labs die wapengebruik eerst verboden, zoeken nu contracten bij defensie. Het panel bekritiseert Anthropic om gerapporteerde militaire betrokkenheid. Chinese bedrijven als Alibaba Cloud en Z.ai ontkennen banden met het leger. Stuart Russell van UC Berkeley windt er geen doekjes om. “Companies have backed away from earlier commitments to release new systems only with safety measures appropriate for their capability levels”, zegt hij. De kloof tussen mooie praat en echt gedrag groeit. De lage cijfers bevestigen dat.

Wat dit betekent voor Nederland en Europa

Hier wringt het voor Europa. Brussel bouwde met de EU AI Act, de eerste brede AI-wet ter wereld, aan streng toezicht. Toch scoort het Europese vlaggenschip Mistral wereldwijd het laagst. Met 0,33 blijft de Franse hoop onder DeepSeek en xAI. Dat schuurt. Een van de 37 punten is juist de EU-gedragscode voor algemene AI. Zelfs op dat thuisvoordeel bleef Mistral achter. Dus het echte verhaal is dit. Europa schrijft de regels, maar zijn eigen lab loopt op veiligheid achterop. Punt uit.

Voor Nederland raakt dit twee zenuwen. ASML levert de machines waarmee de chips voor deze modellen worden gemaakt. ASML mag zijn geavanceerde machines niet aan China verkopen, terwijl de Europese vraag naar rekenkracht snel oploopt. Elke nieuwe trainingsronde, het dure bouwen van een model, vergroot de vraag naar die apparatuur. Tegelijk trekken AI-datacenters fors aan het Nederlandse stroomnet. De veiligheidsdiscussie bepaalt straks welke modellen hier mogen draaien. Toezichthouders in Den Haag en Brussel krijgen met dit rapport munitie. Den Haag kijkt mee. Werknemers en bedrijven willen weten of hun systemen wel getest zijn. De index geeft daar een ongemakkelijk antwoord op. Het antwoord stelt niet gerust, zo bevestigt de analyse bij WBUR.

De druk komt van meerdere kanten. China scherpt deze maand nieuwe regels aan, terwijl de DeepSeek chip laat zien hoe hard de wapenwedloop om rekenkracht is. Ook goedkopere Chinese AI-modellen vergroten de haast bij de westerse labs. Max Tegmark van het Future of Life Institute ziet toch een uitweg. Echte vooruitgang komt volgens hem alleen van regelgeving. Hij wijst op de EU AI Act en op de nieuwe Chinese regels. TIME schrijft dat hij voorzichtig optimistisch blijft. Voorlopig blijft het beeld hard. Het best scorende lab ter wereld haalt niet meer dan 2,66 op 4.