Google, OpenAI en Anthropic plannen AI-toezichthouder SAFA

Wat de AI-toezichthouder SAFA moet gaan doen

AI-context. OpenAI’s cyberveiligheidsmodel Astra weigerde begin september 91,5 procent van pogingen tot jailbreaking, tegen 59 procent bij het oudere GPT-5.6 Sol. Google’s Fairwind-programma voor cyberverdedigers werkt inmiddels samen met meer dan 650 partners, van CrowdStrike tot Palo Alto Networks. Anthropic voerde in dezelfde week eigen veiligheidsmaatregelen in onder de naam Enterprise Frontier Safeguards. Bron, Google, OpenAI en Anthropic zelf.

SAFA moet gemeenschappelijke standaarden opstellen om grensverleggende AI-modellen te testen. Het orgaan zou ook benchmarks ontwikkelen waarmee de veiligheid van nieuwe modellen onderling vergelijkbaar wordt. Het plan is nog pril. Er zijn geen leden, geen standaarden en geen handhavingsbevoegdheid bekendgemaakt. De drie bedrijven willen SAFA laten draaien zonder een overheid erbij te betrekken, meldt vakblad BankInfoSecurity.

Het idee komt oorspronkelijk van Demis Hassabis. Hij schreef op 14 juli een essay waarin hij pleitte voor een onafhankelijk orgaan dat modellen test voordat ze uitkomen. Google, OpenAI en Anthropic namen dat voorstel over en zoeken nu naar bestuurders. Naast Krishnan en Rice noemt The Information nog twee namen. Arati Prabhakar was technologieadviseur onder president Biden, Beth Barnes leidt veiligheidsorganisatie Metr.

OpenAI en Anthropic testen straks elkaars modellen

OpenAI en Anthropic bespreken daarnaast een aparte afspraak, los van SAFA. Beide bedrijven zouden elkaars commerciële modellen willen testen op kwetsbaarheden. Zo’n kruistest kan blinde vlekken blootleggen die een bedrijf in zijn eigen model over het hoofd ziet. Het past bij de felle race tussen de grote AI-labs, waarin elk bedrijf zijn eigen veiligheidscijfers publiceert.

Die aanpak wringt met de cijfers van begin september. OpenAI’s Astra weigerde 91,5 procent van de jailbreakpogingen. Google’s Fairwind-partners werken met een heel ander protocol. Anthropic hanteert weer een derde stelsel via Enterprise Frontier Safeguards. Drie bedrijven, drie meetlatten. Dat is precies het probleem dat SAFA zegt te willen oplossen. Zonder handhavingsbevoegdheid blijft onduidelijk of een vrijwillig orgaan bedrijven ooit tot een gedeelde meetlat dwingt.

Sam Altman pleitte eerder dit jaar voor besluitvorming over AI via democratische instituties. Dario Amodei riep op tot internationale afspraken en wereldwijde teststandaarden voor nieuwe modellen. Beide uitspraken wijzen dezelfde kant op, meldde Yahoo News op basis van reporting van The Information. SAFA is de eerste concrete stap om daar samen invulling aan te geven, zonder op een overheid te wachten.

Wat de AI-verordening al regelt in Nederland

Europa wacht niet op een vrijwillig Amerikaans initiatief. De Europese AI-verordening verbood al sinds februari 2025 de zwaarste categorie AI-toepassingen. Sinds 2 augustus 2026 geldt de wet ook voor de meeste overige bepalingen. De zwaarste overtredingen kunnen duur uitpakken, met boetes tot 35 miljoen euro of 7 procent van de wereldwijde omzet.

In Nederland voert de Rijksinspectie Digitale Infrastructuur die wet mede uit, samen met de Autoriteit Persoonsgegevens. Zelf noemt de inspectie toezicht op AI nog vroeg in ontwikkeling. Ze zet in op voorlichting, transparantie en risicoanalyse als instrumenten, en dat sluit aan bij eerdere zorgen over toezicht op AI-modellen in de Nederlandse biotechsector.

Op 17 september boog de Europese AI Board zich over handhaving, meldt vakblad Quasa. Er kwam geen nieuwe deadline uit voort, wel meer afstemming tussen nationale toezichthouders. SAFA kan daar los van bestaan. De verordening blijft de wet, SAFA blijft een keuze van drie bedrijven.

Veelgestelde vragen

Wat is de Standards Authority for Frontier AI?
SAFA is de voorlopige naam voor een zelfregulerend orgaan dat Google, OpenAI en Anthropic willen oprichten. Het orgaan moet gedeelde veiligheidsstandaarden en benchmarks voor krachtige AI-modellen ontwikkelen, zonder wettelijke bevoegdheid.

Wanneer moet SAFA van start gaan?
Een exacte datum ontbreekt. Betrokkenen bij het plan mikken op een start eind 2026 of begin 2027, meldde The Information op 24 september.

Vervangt SAFA de Europese AI-verordening?
Nee. SAFA is een vrijwillig initiatief van drie Amerikaanse bedrijven zonder overheidsbetrokkenheid. De AI-verordening is Europese wet, met boetes tot 35 miljoen euro. In Nederland blijft ze gehandhaafd door de RDI en de Autoriteit Persoonsgegevens.