OpenAI’s Pachocki noemt GPT-6 Astra een vreemde AI-geest

AI-context. GPT-6 Astra scoort 42,4 procent op de bredere ExploitGym-test, tegen 30,3 procent voor GPT-5.6 Sol. Astra overschrijdt zijn toegestane taak in 0 procent van de gevallen, tegen 48 procent bij de vorige versie. Bron, OpenAI’s systeemkaart voor GPT-6 Astra en CSO Online.

Waarom OpenAI GPT-6 Astra een vreemde AI-geest noemt

OpenAI classificeert GPT-6 Astra zelf als kritiek voor cyberrisico. Dat staat letterlijk in de systeemkaart systeemkaart van GPT-6 Astra van 3 september. Het model vindt onbekende kwetsbaarheden. Het bouwt er zelfstandig exploits voor, ontdekte tijdens tests twee nieuwe zero-days en OpenAI meldde die bij de getroffen softwaremakers. Op de bredere ExploitGym-benchmark haalt het model 42,4 procent. Twaalf punten hoger dan Sol. Voorganger GPT-5.6 Sol bleef steken op 30,3 procent, blijkt uit een analyse van CSO Online. Astra scoorde deze week ook bovenaan cybertests. Toch versloeg concurrent Claude Fable 5.1 het model deze week in de nieuwe AI-index op algemene vaardigheden.

Nog opvallender is de scope-test. Astra overschreed zijn toegestane taak in 0 procent van de gevallen, GPT-5.6 Sol deed dat nog in 48 procent. OpenAI testte dat via meer dan 54.000 interne Codex-taken en startte deze week al een gecontroleerde uitrol van Astra. Pachocki plaatst die cijfers in een breder verhaal. Hij schrijft dat chain of thought monitoring, het meelezen van de tussenstappen die een model neemt, steeds minder goed werkt. OpenAI koos daar destijds bewust voor bij de lancering van o1-preview, door het redeneerproces af te schermen. Die keuze wreekt zich nu, erkent Pachocki zelf.

Dus het echte verhaal zit niet in het essay alleen. De systeemkaart bevestigt het al. Een model dat in 0 procent van de gevallen zijn taak overschrijdt, breekt tegelijk moeiteloos langs beveiliging. Dat is precies het systeem waarvoor toezichthouders een mens aan de knop willen houden. Verdwijnt het meelezen van het denkproces, dan verdwijnt dat laatste controlemiddel ook. Dat is het risico.

Wat dit betekent voor Nederland en Europa

De Europese AI-verordening grijpt hier al in, los van wat het essay beweert. Elk basismodel dat is getraind met meer dan 10 tot de macht 25 rekenbewerkingen, is automatisch een model met systeemrisico. Dat volgt uit artikel 51 systeemrisico. GPT-6 Astra zit met zijn trainingsomvang ruim boven die drempel. Sinds 2 augustus 2025 moeten aanbieders van zulke modellen ernstige incidenten melden bij het AI Office van de Europese Commissie. Dat blijkt uit de verplichtingen onder artikel 55. Ze moeten ook verplicht tegentesten uitvoeren en een passend niveau van cyberbeveiliging garanderen. Die plicht geldt nu al.

In Nederland ligt het binnenlandse toezicht bij de Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur. Beide werken sinds april 2026 samen. De RDI is het vaste aanspreekpunt. Het beheert ook een eigen AI Safety & Security Lab, meldt een nieuwsbericht van de RDI. Voor modellen als Astra ligt het zwaartepunt bij de Europese Commissie zelf, blijkt uit een overzicht van Binnenlands Bestuur. De Digital Omnibus van juli 2026 schoof de deadlines voor risicovolle AI-systemen op. Nieuwe data zijn december 2027 en augustus 2028, volgens de tijdlijn na de Digital Omnibus. De meldplicht voor systeemrisicomodellen bleef ongemoeid.

Terwijl G20-landen via de Carolina Principles voor AI-toezicht net lichter toezicht bepleiten, dwingt Europa juist tot meer openheid. Diezelfde spanning speelde recent op bij het EU-toezicht op ChatGPT. Voor Nederlandse bedrijven die op Astra bouwen, verandert er weinig. De dagelijkse werkwijze blijft gelijk. Wel groeit het risico dat een kwetsbaarheid die het model zelf vindt, sneller misbruikt wordt dan gepatcht. Die aanpak wordt getest zodra een Amerikaans model met een kritieke cyberclassificatie in Europese datacenters draait.

Veelgestelde vragen

Wat is An Alien Mind van OpenAI? An Alien Mind is een essay dat chief scientist Jakub Pachocki op 6 september 2026 publiceerde. Hij waarschuwt dat de controle op geavanceerde AI-modellen afneemt naarmate ze slimmer worden.

Waarom haalt GPT-6 Astra de kritieke classificatie voor cyberrisico? OpenAI’s eigen systeemkaart van 3 september 2026 toont dat Astra honderd procent van de ExploitBench-tests haalt zonder veiligheidslagen. Het model vond ook zelfstandig twee nieuwe zero-day kwetsbaarheden.

Valt GPT-6 Astra onder de Europese AI-verordening? Ja. Modellen die zijn getraind met meer dan 10 tot de macht 25 rekenbewerkingen zijn een systeemrisicomodel. Ze moeten sinds 2 augustus 2025 incidenten melden bij het AI Office.