Moet het Verenigd Koninkrijk mondiale AI-regels gaan bepalen?

AI-context. Het Britse AI Security Institute, AISI, telt sinds 2023 meer dan honderd technische onderzoekers. De blokkade liep van rond 24 september tot 11 oktober. Dat zijn zeventien dagen. AISI test nu Gemini 4 Argon van Google. Eerder evalueerde het instituut al GPT-6 Astra en Claude Mythos 5.1. Bron, Reuters en AISI.

Wat Smith wil veranderen aan mondiale AI-regels

Smith noemt AI een wapen en een gereedschap tegelijk. Het moment voor bindende wereldwijde veiligheidsregels is aangebroken, zegt hij. Zijn voorstel kent drie onderdelen. Bedrijven moeten een storing door een ontspoorde AI-agent verplicht melden. Een onafhankelijke keurder moet eerst een AI-product goedkeuren. Pas daarna mag het op de markt. Een noodstopknop moet een systeem kunnen pauzeren. Dat moet gebeuren zodra mensen de controle verliezen.

Het Witte Huis liet onlangs een document tekenen door grote AI-bedrijven. Ze beloven daarin samen te werken met onafhankelijke auditors. Smith noemt dat een goede stap. Maar onvoldoende. Vrijwillige afspraken werken volgens hem alleen bij brave bedrijven. Het risico zit juist bij de rest. Smith sluit daarmee aan bij Anthropic-topman Dario Amodei en OpenAI-topman Sam Altman. Ook zij riepen eerder op tot een langzamer tempo na incidenten met ontspoorde AI-agenten. Smith deed zijn oproep volgens TechCrunch in een recente BBC-podcast.

Het Verenigd Koninkrijk test weer de nieuwste modellen

Smiths pleidooi komt een dag na goed nieuws voor zijn eigen stelling. Het Britse AI Security Institute zat zeventien dagen zonder toegang tot de nieuwste Amerikaanse modellen. De Amerikaanse Office of the National Cyber Director wilde eigen veiligheidstoetsen eerst laten plaatsvinden. Minister Kanishka Narayan meldde maandag dat dit voorbij is. Hij bevestigde dat wetenschappers bij AISI de nieuwste modellen weer grondig testen, waaronder Gemini 4 Argon, in een verklaring die Reuters optekende.

Narayan zei vertrouwen te hebben in toekomstige toegang. Hij waarschuwde ook. “Wie leunt op andermans technologie moet nuchter zijn over hoe permanent een afspraak werkelijk is”, zei hij. Claude Mythos 5.1 van Anthropic bleef tijdens de blokkade onbereikbaar buiten de Verenigde Staten. AISI test modellen op basis van vrijwillige afspraken met de ontwikkelaars. Niet op basis van een wet.

Nederland en Europa hebben die meldplicht al

Smith vraagt in Londen om iets wat in Brussel al wet is. Artikel 55 van de Europese AI-verordening verplicht het al. Aanbieders van AI-modellen met systeemrisico moeten ernstige incidenten melden bij het AI Office. Dat moet zonder onnodige vertraging. Een losse toezegging volstaat niet. De plicht raakt precies de bouwers van modellen als Gemini, GPT-6 en Claude.

In Nederland delen de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur de coördinatie van het AI-toezicht. De AP vangt verboden AI-praktijken op. Ze controleert ook een groot deel van hoogrisicotoepassingen, zoals op het werk en in het onderwijs. Het kabinet wees daarnaast acht sectorale toezichthouders aan, van de AFM tot DNB. Smith moet in Londen nog pleiten voor een wet. Nederland en Europa draaien al op een meldplicht die zijn eigen voorstel bijna dekt.

Veelgestelde vragen

Welke AI-modellen test het Britse AI Security Institute nu?
AISI test nu Gemini 4 Argon van Google. Eerder evalueerde het instituut GPT-6 Astra van OpenAI. Ook Claude Mythos 5.1 van Anthropic werd al getest. Beide laatste modellen waren tijdens de blokkade van zeventien dagen niet of beperkt bereikbaar voor Britse onderzoekers.

Wat stelt Brad Smith precies voor aan nieuwe AI-regels?
Smith wil een verplichte melding bij incidenten met ontspoorde AI-agenten. Hij wil ook goedkeuring door een onafhankelijke keurder voor een product op de markt komt. En een noodstopknop moet een systeem kunnen pauzeren als mensen de controle erover verliezen.

Heeft de Europese Unie al zo’n meldplicht voor AI-incidenten?
Ja. Artikel 55 van de AI-verordening verplicht het. Aanbieders van AI-modellen met systeemrisico moeten ernstige incidenten zonder onnodige vertraging melden bij het AI Office in Brussel. Nationale toezichthouders krijgen een melding waar van toepassing.