AI-regels in China van kracht, ByteDance en Alibaba stoppen AI-agents

AI-context. De Chinese veiligheidstoets geldt vanaf 1 miljoen geregistreerde gebruikers of 100.000 maandelijkse actieve gebruikers. Apps moeten na elke 2 uur onafgebroken gebruik een pauzemelding tonen. Boetes lopen tot 200.000 yuan, omgerekend zo’n 30.000 dollar. De EU rekent vanaf 2 augustus met boetes tot 15 miljoen euro of 3 procent van de wereldomzet. Dat raakt chatbots die verzwijgen dat ze AI zijn. Bron, Latham & Watkins, South China Morning Post en AI News.

Wat de AI-regels in China eisen en verbieden

De wet heet voluit de Interim Measures voor mensachtige AI-interactiediensten. Hij richt zich op AI die karakter, denkstijl en spreekstijl van mensen nabootst voor langdurig emotioneel contact. Klantenservicebots, kennisvragen, werkassistenten en onderwijstools vallen er nadrukkelijk buiten. Vijf instanties publiceerden de officiële tekst op 10 april, onder aanvoering van internetwaakhond CAC. De plichten zijn zwaar. Aanbieders moeten systemen tegen verslaving draaien, gebruikstijd melden en een directe stopknop bieden. Bij signalen van zelfbeschadiging of groot geldverlies moet de dienst ingrijpen en familie of een noodcontact waarschuwen. Virtuele partners of familieleden aanbieden aan minderjarigen is volledig verboden. Voor andere mensachtige diensten is onder de 14 jaar toestemming van ouders nodig.

Doubao en Qwen overtraden geen verbod. Hun ontwerp botste met de nieuwe zorgplichten. Een agent, een chatbot met een vast karakter en eigen rol, wringt met de plicht om gehechtheid te ontmoedigen. ByteDance koos daarom voor uitzetten in plaats van ombouwen. Gebruikers kregen begin juli een melding dat de functie vandaag offline gaat wegens “aanpassingen aan productfuncties”. Qwen stopte zijn mensachtige agents al op 10 juli, de bredere agentdiensten volgen vandaag. Tencent haalde in juni een vergelijkbare functie uit Yuanbao. Pan Helin, adviseur van het industrieministerie, noemde de huidige agents in de South China Morning Post “nog niet volwassen”. Appwinkels moeten voortaan controleren of diensten hun veiligheidstoets hebben afgerond. Hoe serieus de handhaving is, bleek eind juni in Shanghai. De lokale toezichthouder verwijderde ruim 14.000 agents wegens imitatie van officiële instanties en vulgaire rollenspellen.

De rekening ligt bij de gebruiker, want persoonlijke data verdwijnt. Op Weibo rouwden mensen openlijk om agents die jarenlang steun boden. Doubao-gebruikers kunnen hun gesprekken tot 15 oktober alleen nog inzien. Qwen-gebruikers krijgen zelfs die overgangsperiode niet. ByteDance verwijst naar Maoxiang, een losse app waar eigen agents wel zijn toegestaan. Alibaba biedt geen alternatief voor vertrekkende gebruikers.

Wat dit betekent voor Nederland en Europa

Europa pakt dezelfde risico’s via een andere route aan. De AI Act, de Europese AI-wet, kent geen aparte categorie voor gezelschaps-AI. Chatbots vallen onder een transparantieplicht, gebruikers moeten weten dat ze met een machine praten. Die plicht start op 2 augustus 2026, met boetes tot 15 miljoen euro of 3 procent van de wereldomzet. China handhaaft dus 18 dagen eerder dan Brussel, en op meer terreinen. Peking eist pauzemeldingen, noodprotocollen en een verbod op emotionele manipulatie. Brussel stelde de zwaarste eisen juist uit. Het Europees Parlement keurde dat uitstelpakket op 16 juni goed, met 423 stemmen voor. De Raad gaf op 29 juni het slotakkoord. Regels voor hoogrisicosystemen verschuiven daardoor naar 2 december 2027 of zelfs augustus 2028. Toezicht kan in Europa wel snel bewegen, dat bleek deze week uit de EU-druk op voorspelmarkten.

Voor Nederlandse gebruikers van apps als Replika of Character.AI verandert er vandaag niets. Pauzemeldingen na 2 uur of een verplicht noodcontact bestaan hier niet, ook na 2 augustus niet. In de officiële toelichting wijst Peking juist naar het Westen, aldus AI News. Het noemt de Character.AI-rechtszaken en Europese acties tegen Replika. De boetes staan haaks op de eisen. China eist veel en beboet licht, met maximaal 200.000 yuan, zo’n 30.000 dollar. Europa eist voorlopig minder en beboet zwaar, tot 35 miljoen euro of 7 procent bij verboden praktijken. Nederlandse bouwers die in China AI-agents aanbieden, vallen vanaf 100.000 actieve gebruikers onder de veiligheidstoets. Buitenlandse aanbieders blijven waarschijnlijk buiten schot, analyseert Latham & Watkins. Wie voor de Europese markt bouwt, krijgt vanaf 2 december het verbod op naaktapps, apps die mensen digitaal uitkleden, erbij. De wedloop om rekenkracht, zoals het Hyperion-datacenter van Meta, trekt zich van beide regimes weinig aan. Voor de chipketen verandert er evenmin iets, zie de ASML-outlook van vandaag. In Peking is het afscheid intussen concreet, bij Qwen verdwijnt de agentdata zonder overgangsperiode. Doubao-gebruikers houden nog precies drie maanden inzage.