Ik ben moeder. En ik weet wat het betekent als een AI zonder toestemming naaktbeelden kan maken van wie dan ook. Ook van kinderen. Vandaag deed de rechter in Amsterdam iets wat nog nooit eerder ter wereld is gedaan. Hij sprak namelijk het Grok-uitkleedfunctieverbod Nederland uit, per direct. En hij zette er een dwangsom van €100.000 per dag op. Maximaal €10 miljoen. Dit is geen symbolische uitspraak. Dit is een harde, duidelijke stap.
Wat het Grok-uitkleedfunctieverbod Nederland inhoudt
De rechtszaak werd aangespannen door Offlimits en Fonds Slachtofferhulp. Zij lieten zien dat gebruikers van Grok, de AI-chatbot van xAI van Elon Musk, zomaar konden vragen om kleding van foto’s te verwijderen. Van volwassenen. Maar ook van kinderen. De beelden lijken echt. De voorzieningenrechter in Amsterdam oordeelde dan ook dat Grok “onrechtmatig bijdraagt aan een klimaat van online grensoverschrijdend gedrag”, zoals VRT NWS over de uitspraak beschrijft. Grok had de functie al beperkt tot betalende gebruikers. Dat was namelijk niet genoeg. De rechter stelt dat xAI verantwoordelijk is voor Grok en misbruik dus moet voorkomen. Ook als de maker zelf geen beelden maakt. Het Grok-uitkleedfunctieverbod Nederland betekent bovendien dat Grok zolang het verbod geldt ook niet als onderdeel van X mag worden aangeboden in Nederland.
Nederland als Europees voorbeeld
Directeur Robbert Hoving van Offlimits noemde het “de eerste keer ter wereld dat zo’n dienst wordt verboden”. Nederland is daarmee het eerste land dat als eerste een uitkleed-AI heeft laten stoppen via de rechter. De timing is opvallend. Op dezelfde dag stemde het Europees Parlement in met een EU-breed verbod op uitkleedapps, zo meldt AIWereld over het Europese verbod. Verwachte inwerkingtreding: juli 2026 in alle lidstaten.
Het Grok-uitkleedfunctieverbod Nederland loopt daar dus op vooruit. De advocaten van Grok zeiden dat ze misbruik willen voorkomen, maar dat ze het niet helemaal kunnen tegenhouden. Gebruikers omzeilen beveiligingsmaatregelen, zeiden ze. De rechter veegde dat argument van tafel. Als er twijfel bestaat of de maatregelen genoeg zijn, is dat al reden genoeg om in te grijpen. Eerdere EU-beperkingen bleken al omzeilbaar, zo laat Alles over Tech over EU-beperkingen zien. Een dwangsom werkt namelijk een stuk beter dan een richtlijn.
Waarom dit verder gaat dan Grok alleen
Dit Grok-uitkleedfunctieverbod Nederland raakt namelijk de kern van hoe we AI regelen. Grok is niet de enige tool die dit kan. Er zijn tientallen uitkleedapps beschikbaar. Maar dit is de eerste keer dat een rechter in Europa een bedrijf dwingt te stoppen. De Autoriteit Persoonsgegevens waarschuwt al langer dat AI een gevaar vormt voor grondrechten. Die waarschuwing is nu een rechtszaak geworden. En die rechtszaak is gewonnen. Voor Bitcoin en crypto toont dit aan dat regelgevers bereid zijn hard in te grijpen. Niet alleen bij financiële producten. Maar bij elke AI-dienst die schade veroorzaakt. De Meta Google aansprakelijkheidszaak van gisteren in de VS past namelijk in hetzelfde patroon. Big Tech moet verantwoording afleggen.
