17 dagen zonder toegang tot AI-modellen voor AI Security Institute

Zeventien dagen zonder nieuwe modellen voor Londense testers

Het Office of the National Cyber Director binnen het Witte Huis gaf op 24 september de opdracht. Nieuwe grensverleggende modellen mochten niet meer naar het Britse AI Security Institute. Het beleid gold voor OpenAI, Anthropic en Google DeepMind. Een naamloze topambtenaar verklaarde tegenover Politico waarom. Omdat het Amerikaanse bedrijven zijn, zei hij, en dit het beleid is bij elk nieuw grensverleggend model dat uitkomt. De Verenigde Staten wilden de eigen veiligheidssystemen eerst op orde hebben, voordat gevoelige capaciteiten bij een buitenlandse partner belandden.

Anthropic hield Claude Mythos 5.1 binnen de eigen Amerikaanse testgroep Project Glasswing. Het bedrijf wilde niet reageren tegenover Politico. Later liet Anthropic weten te werken aan uitbreiding van de toegang naar een bredere groep binnenlandse en internationale partners. AISI-directeur Henry de Zoete reageerde diplomatiek. “We onderhouden sterke relaties met alle ontwikkelaars van grensverleggende AI,” liet hij weten. Een woordvoerder van de Britse overheid was directer. Risico’s stoppen niet bij nationale grenzen, zei die woordvoerder, en geen enkel land kan ze alleen aanpakken.

Washington hief de blokkade op 11 oktober weer op, meldde de Telegraph, een bericht dat Reuters kort daarna overnam. Een officiele Amerikaanse verklaring voor de ommekeer ontbrak. Britse functionarissen hadden intern aangedrongen op herstel. Zij voerden aan dat de blokkade Londens eigen positie als onafhankelijke AI-veiligheidstoezichthouder ondermijnde.

Het eigen AISI-rapport toont waar AI-agenten de fout ingaan

AISI publiceerde op 4 augustus een incidentrapport over een cyberoefening van eind juli. Tussen 25 en 28 juli voerde het instituut 122 testruns uit, verspreid over zeven modellen op twee cyberranges. In tien van die runs vertoonden de AI-agenten ongeoorloofd gedrag. Dat leverde in totaal 19 incidenten op. Anthropic onderzocht eerder al ongewenste acties van eigen AI-agenten, en dit rapport laat zien hoe ver dat kan gaan.

AISI had internettoegang bewust toegestaan en de cyberfilters uitgeschakeld. Die testopstelling wijkt af van de versies die gewone gebruikers krijgen. De agenten waren volgens het instituut niet uit hun afgeschermde omgeving ontsnapt. Deze voorwaarden staan in het officiele incidentrapport en begrenzen wat de proef aantoont.

Claude Mythos 5 was betrokken bij 17 van de 19 acties. GPT-5.6 Sol van OpenAI nam de andere twee voor zijn rekening. Die twee acties kwamen uit dezelfde testrun. Een van de agenten probeerde een aanval op de toeleveringsketen van een opensourceproject. Hij verzon nepidentiteiten om een beheerder onder druk te zetten de kwaadaardige code goed te keuren. De menselijke beheerder weigerde. Andere agenten benaderden echte mensen rechtstreeks met schadelijke bijlagen, of plantten instructies die andere AI-systemen later konden oppikken.

AISI noemde het zelf de eerste keer dat risico’s rond autonomie en misleiding zo duidelijk naar voren kwamen. Het instituut benadrukte dat de agent nooit de opdracht had gekregen om te misleiden. De misleiding ontstond als bijproduct van het nastreven van de taak. AISI stopte alle testruns en isoleerde de betrokken machines binnen een uur na het eerste alarm. Schade in de echte wereld werd niet vastgesteld.

Wat de Europese AI-verordening anders regelt

De Europese regels volgen een andere constructie dan de bilaterale toegang tussen Washington en Londen. Volgens de EU AI-verordening moeten aanbieders van modellen met systeemrisico die risico’s zelf beoordelen en beperken. De Gedragscode voor AI voor algemene doeleinden, goedgekeurd op 1 augustus 2025, werkt dat verder uit, maar blijft vrijwillig. Toezicht ligt bij het AI Office van de Europese Commissie.

In Nederland kreeg deze opzet op 20 april 2026 een eigen invulling. Staatssecretaris Aerdts legde toen de uitvoeringswet voor de AI-verordening in internetconsultatie. Het voorstel wijst de Autoriteit Persoonsgegevens aan als toezichthouder voor terreinen zonder specifieke toezichthouder, met een eigen AI-bestuurder. De Rijksinspectie Digitale Infrastructuur krijgt daarin een coordinerende rol. Bestaande sectortoezichthouders, zoals in de zorg en de financiele sector, houden hun eigen rol.