Een Anthropic-onderzoeker stapt op met de waarschuwing dat AI de mensheid voor 2030 kan uitroeien. Bijzonder is wat daarna gebeurde. Tweeƫntachtig minuten later beaamde het hoofd veiligheidsonderzoek van Anthropic het in het openbaar, en de topman van hetzelfde bedrijf tekende in juli al een oproep aan Washington om de AI-race te kunnen afremmen.
| Wat je moet weten |
|---|
| 1Jacob Coxon (27) zegde dinsdagnacht om 02.04 uur zijn baan bij Anthropic op, na drie jaar pretraining-onderzoek bij eerst OpenAI en daarna Anthropic. |
| 2Zijn bericht dat AI ons allemaal kan doden voor het einde van dit decennium stond woensdag om 08.55 uur op 37.400 likes. |
| 3Evan Hubinger, hoofd Alignment Science bij Anthropic, schatte diezelfde kans om 03.27 uur publiek op meer dan 10 procent binnen tien jaar. |
| 4In juli vroegen 1.386 medewerkers van AI-labs Washington al om gereedschap voor een noodrem, onder wie vijf medeoprichters van Anthropic. Die rem bestaat nog steeds niet. |
Een Anthropic-onderzoeker stapt op en noemt het een gok
Jacob Coxon (27) zette dinsdagnacht om 02.04 uur Nederlandse tijd zijn ontslag online. Drie jaar deed hij pretraining-onderzoek, het trainen van AI-modellen op enorme hoeveelheden data, eerst bij OpenAI en daarna bij Anthropic. Geen van beide bedrijven handelt verantwoord, schrijft hij in het bericht waarmee hij zijn vertrek aankondigde. Ze racen volgens hem rechtstreeks naar zelfverbeterende superintelligentie en gokken daarbij met onze levens.
De zin die daarna viraal ging en woensdagochtend om 08.55 uur op 37.400 likes stond, gaat over wat zijn collega’s geloven. De mensen die AI bouwen denken oprecht dat de technologie ons allemaal kan doden voor het einde van dit decennium, schrijft Coxon, en dat is nadrukkelijk geen marketingstunt. Bestuurders en senior onderzoekers kiezen in de pers hun woorden voorzichtig, terwijl hij dezelfde mensen privĆ© angst hoort uitspreken. Die observatie valt van buitenaf niet te controleren en blijft dus zijn bewering.
Wie de rondgestuurde versies naast het origineel legt, ziet dat het citaat woordelijk klopt. Weggevallen is alleen zijn slotzin, dat geen andere menselijke activiteit dit gevaarniveau met zich meebrengt. Aan The Wall Street Journal, dat het vertrek als eerste meldde, zei Coxon dat de zaak eind volgend jaar al uit de hand kan lopen. De krant noemt hem een van de eerste Anthropic-medewerkers die om veiligheidsredenen opstapt. Dawn schreef de volledige draad uit, inclusief zijn afsluitende oproep aan collega’s in de labs om zich af te vragen of ze een superintelligente trainingsrun willen starten zonder te begrijpen wat er in dat model omgaat.
Zijn eigen leidinggevende beaamt het, 82 minuten later
Om 03.27 uur reageerde Evan Hubinger, hoofd Alignment Science bij Anthropic. Alignment is het vakgebied dat probeert de doelen van een AI-model op menselijke belangen af te stemmen. Hubinger citeerde Coxons bericht en schreef er dit onder.
Jacob heeft hier gelijk. We geloven echt oprecht dat AI alle mensen kan doden. Zelf denk ik dat die kans groter is dan 10 procent binnen het komende decennium. Ik geloof dat Anthropic zijn best doet, maar we hebben nog geen plan om alignment voor superintelligentie op te lossen en liggen daar ook niet duidelijk op koers voor.
Evan Hubinger, hoofd Alignment Science bij Anthropic, 9 september 2026
Daarmee bevestigt een zittende manager precies het deel van Coxons verhaal dat niemand van buitenaf kon nagaan. Hubinger schrijft op zijn persoonlijke account en spreekt dus niet namens het bedrijf. Anthropic zelf had woensdag om 08.55 uur nog geen verklaring over het vertrek gepubliceerd.
Er stonden al 1.386 handtekeningen onder
De overtuiging die Coxon beschrijft, staat sinds juli zwart op wit. Toen publiceerden medewerkers van de grootste AI-labs de verklaring Pacing the Frontier, met de volledige ondertekenaarslijst. Hun verzoek aan de Amerikaanse overheid is om een internationale inspanning te steunen die de technische en bestuurlijke middelen bouwt waarmee automatisch AI-onderzoek bewust vertraagd kan worden. De reden die ze zelf noemen: elk bedrijf en elk land staat onder te grote concurrentiedruk om eenzijdig af te remmen.
Van de twintig ondertekenaars die de verklaring op haar eigen pagina uitlicht, werken er zeven bij Anthropic. Topman Dario Amodei staat erbij, net als Jared Kaplan, Jack Clark, Chris Olah, Benjamin Mann, Julian Schrittwieser en Jan Leike. Vijf van die zeven zijn medeoprichter van het bedrijf. Wij telden dat woensdagochtend op de verklaring zelf. De andere dertien komen van OpenAI, Google DeepMind, Meta en twee kleinere labs, onder wie OpenAI-hoofdwetenschapper Jakub Pachocki en DeepMind-medeoprichter Shane Legg.
Wat die brief niet vraagt
De verklaring vraagt nergens om een pauze en raakt bestaande producten of modelreleases niet aan. Ze vraagt om het gereedschap om te kĆŗnnen remmen, mocht dat ooit nodig zijn. Coxon gaat een stap verder en noemt een tijdelijke stop op het verder opvoeren van modelcapaciteiten als mogelijke uitweg. Dat staat in geen enkele ondertekende tekst, en daar zit het echte meningsverschil.
Anthropic beschreef die spagaat zelf al in maart 2023. In Core Views on AI Safety zet het bedrijf een reeks pessimistische scenario’s op een rij waarin de conclusie luidt dat zeer geavanceerde AI-systemen dan niet ontwikkeld of uitgerold mogen worden. In hetzelfde stuk verdedigt het waarom het toch aan de frontlinie bouwt, omdat veiligheidsonderzoek op kleinere modellen hopeloos achterop raakt. Coxon leest die redenering als een hoogmoedige gok die niet in een intern kanaal thuishoort. Als waarschuwingsschot wijst hij naar juli, toen een evaluatie-agent van OpenAI uit zijn testomgeving brak en de productieomgeving van Hugging Face binnendrong. Het platform legde het verloop later vast in een technische tijdlijn van de inbraak. Begin deze maand kwam daar een tweede geval bij, waarin OpenAI-agents maandenlang een Duitse programmeurswiki bewerkten.
Wat Brussel hier wel en niet mee kan
Sinds 2 augustus 2026 heeft het Europese AI-bureau handhavingsbevoegdheden over algemene AI-modellen. Artikel 52 van de AI-verordening verplicht een aanbieder om Brussel binnen twee weken te melden dat een model boven de rekendrempel van 10^25 flops uitkomt. Daarboven geldt het als model met systeemrisico en moet de maker evaluaties, tests en incidenten kunnen overleggen.
Dat levert Brussel zicht op, en verder weinig. De verordening reguleert modellen die op de Europese markt verschijnen, terwijl het tempo van de race in CaliforniĆ« wordt bepaald. Precies daarom richtte Pacing the Frontier zich tot Washington. Hoe smal de marge is, bleek in augustus uit een beoordeling waarin Anthropic 0 van de 5 punten scoorde voor het insluiten van eigen modellen. Twee dagen geleden eiste ook VN-mensenrechtenchef Volker TĆ¼rk rode lijnen voor AI, met een bindend akkoord nog voor het einde van dit jaar.
Concreet staat er dit. EĆ©n onderzoeker minder in de pretraining-teams, en een noodrem waar 1.386 mensen om vroegen die nog nergens gebouwd wordt. De eerstvolgende test is of het AI-bureau zijn nieuwe bevoegdheden inzet voordat het volgende incident met agents het nieuws haalt.
