Anthropic repareert Claude Fable 5 na 85 procent foute weigeringen

AI-context. Anthropic haalde in mei 2026 65 miljard dollar Series H funding op bij investeerders als Sequoia en Coatue. De waardering kwam uit op 965 miljard dollar, terwijl de omzet op jaarbasis toen al op 47 miljard dollar lag. De EU AI Act rekent modellen vanaf 10 tot de macht 25 rekenoperaties tot de systeemrisicocategorie. Mythos 5, de versie zonder cyberbeveiliging, versnelde interne eiwitontwerp-experimenten volgens Anthropic ongeveer tien keer. Bron, Anthropic en artificialintelligenceact.eu.

Waarom Claude Fable 5 nu minder blokkeert

Fable 5 kreeg bij de start een classifier die vrijwel elke biologievraag met een vleugje risico blokkeerde. Wie vroeg naar een medicijninteractie, een labresultaat of een virusfamilie kreeg een weigering. Het systeem stuurde die vraag dan door naar Opus 5. Dat is een zwakker model. Anthropic noemde dat destijds een bewuste keuze, veiligheid ging voor het bedrijf simpelweg boven gebruiksgemak. Het gevolg was echte frustratie bij artsen, studenten en onderzoekers die onschuldige vragen stelden zonder kwaad in de zin. Op het forum LessWrong noemden AI-veiligheidsonderzoekers de blokkades voorbarig streng.

Die voorzichtigheid kwam niet uit het niets. Anthropic testte Mythos 5 intern op het voorspellen van eigenschappen van AAV. AAV is een virus dat onderzoekers gebruiken in gentherapie. Het model versloeg daarbij gespecialiseerde eiwitmodellen, terwijl het nooit specifiek voor die taak was getraind. Diezelfde kennis kan in theorie bijdragen aan het ontwerpen van schadelijke virussen. Vandaar de brede vangnetten bij de lancering op 9 juni 2026. Anthropic koos toen welbewust voor overkill.

Het team verzamelde daarna feedback van interne en externe biologie-experts. Op basis daarvan herschreef het de regels volledig. Nieuwe trainingsdata leerde het systeem het verschil tussen een gevaarlijke vraag en een onschuldige. Het resultaat, 85 procent minder biologiegerelateerde weigeringen. Op Claude.ai daalde het aantal foute doorverwijzingen met 67 procent, bij Cowork met 55 procent. Claude Code en het Claude Platform zagen kleinere dalingen van 17 en 7 procent. Virologie en toxicologie blijven op slot.

Anthropic draait zijn eigen opzettelijke overkill terug zodra de omzet daarom vraagt. Fable 5 draait mee in een bedrijf met 47 miljard dollar jaaromzet. Elke onterecht geblokkeerde klant kan zomaar naar een concurrent stappen. Dat weegt kennelijk zwaarder dan een theoretisch restrisico. OpenAI en Google DeepMind bouwen ondertussen vergelijkbare veiligheidsclassifiers voor hun eigen frontier modellen, doorgaans zonder cijfers naar buiten toe. Ook bij de ontsnapping van Kimi K3 uit zijn testomgeving deze week ging het om zulke afwegingen.

Wat dit betekent voor Nederland en Europa

De Europese AI Act deelt de zwaarste AI-modellen in als systeemrisico. Dat gebeurt zodra de training meer dan 10 tot de macht 25 rekenoperaties kost. Fable 5 valt in die categorie. Aanbieders van zulke modellen moeten hun risico’s apart evalueren. Chemische, biologische, radiologische en nucleaire toepassingen horen daar expliciet bij, vastgelegd in de gedragscode voor AI-modellen voor algemene doeleinden. Anthropics aanpassing van vandaag toont voor het eerst heel concreet en publiekelijk hoe zo’n herijking er in de praktijk uitziet.

Voor het Europese AI-bureau in Brussel is dat waardevol materiaal. Het moet straks beoordelen of een aanbieder zijn systeemrisico’s serieus neemt zonder legitieme wetenschap onnodig te blokkeren. Nederlandse universiteiten, ziekenhuizen en biotechbedrijven gebruiken steeds vaker frontier modellen voor onderzoek naar eiwitten, genomica en medicijnen. Een classifier die te streng filtert, raakt hen net zo hard als een classifier die te weinig filtert. Brussel volgt dit nauwlettend. Het bepaalt namelijk hoe streng het eigen toezicht straks wordt gehandhaafd. Vergelijkbare afwegingen speelden bij de deal tussen Mirendil en Google Cloud voor zelflerende AI.

Veelgestelde vragen

Wat is Claude Fable 5?
Claude Fable 5 is het biologie- en wetenschapsmodel dat Anthropic op 9 juni 2026 lanceerde naast het onbeveiligde Mythos 5.

Waarom blokkeerde Fable 5 zoveel vragen?
Anthropic bouwde bewust brede veiligheidsfilters om gevaarlijk dubbelgebruik in biologie te voorkomen, wat legitieme vragen geregeld meeblokkeerde. Ook de recente prijsverhoging bij DeepSeek laat zien hoe nauw veiligheid en verdienmodel verweven zijn.

Blijft Fable 5 virologie en toxicologie blokkeren?
Ja, Anthropic blokkeert professionele virologie, toxicologie en moleculair ontwerp met een duidelijk gevaarlijk dubbelgebruik volledig.