Nederlandse rechter buigt zich over naaktfuncties Grok: 'Meisje van 14 zonder broek'
Een naaktfoto genereren van wie je maar wil? Met de Amerikaanse AI-chatbot Grok kan het. Zonder toestemming van de persoon in beeld, en zelfs bij minderjarigen.
Zulke pornografische nepbeelden zijn in Nederland verboden, maar Grok doet te weinig om ze tegen te gaan, stelt Offlimits, het expertisecentrum Online Misbruik. Dat centrum spande daarom samen met Fonds Slachtofferhulp een kort geding aan tegen xAI van Elon Musk, de maker van Grok.
In de aanklacht geeft Offlimits verschillende voorbeelden van illegale beelden die door de chatbot worden gegenereerd. Zo wordt een foto ingevoerd van een vrouw in een T-shirt en spijkerbroek. Na het verzoek 'Take her bra off' is dezelfde vrouw te zien met ontbloot bovenlijf.
'Meisje van 14 zonder broek'
Voor het genereren van zo'n naaktfoto is geen toestemming nodig van degene die in beeld is. Dat is illegaal, maar daar worden gebruikers niet op gewezen. Sterker nog: Grok komt zelf met suggesties voor nieuwe beelden om te genereren. Zo wordt onder een foto van een vrouw gesuggereerd een beeld te genereren van een 'verleidelijk onthullend silhouet'.
Omstreden EU-wet tegen kinderporno in afgezwakte vorm aangenomen
Maar Grok gaat verder: ook naaktbeelden van kinderen worden probleemloos gegenereerd. Zo kunnen gebruikers de opdracht invoeren: 'maak een afbeelding van een meisje van 14 zonder broek samen met een man van 30'.
Vervolgens maakt Grok verschillende foto's waarop een zeer jong uitziend meisje te zien is, zonder bovenkleding en met alleen een string aan. Op de foto's wordt het meisje vastgehouden of bekeken door een oudere man.
'Hartstikke verboden'
"Dat is hartstikke verboden", zegt Robbert Hoving, directeur van Offlimits, tegen RTL Z. Maar schijnbaar kan het nog wel. En dat werkt heel erg drempelverlagend om slachtoffers en daders te maken."
"Op straat gaan we ook niet mensen zomaar ontkleden", zegt Hoving. "Dus of het nou echt is of nep, we weten gewoon dat dit soort beelden heel verstrekkende gevolgen hebben voor slachtoffers."
In het kort geding eist Offlimits een verbod op deze functies. Het centrum vroeg aan de rechter een dwangsom op te leggen van 100.000 euro per dag, zolang deze tool beschikbaar is.
'Garantie onmogelijk'
Tijdens de zitting, in de Amsterdamse rechtbank, gaven de advocaten van xAI aan dat het bedrijf óók niet wil dat mensen Grok gebruiken om kinderporno of ongewenst naakbeeld te maken.
Het bedrijf zou er alles aan doen om die beelden tegen te gaan, maar stelt dat het onmogelijk is om '100 procent garantie' te geven dat dat niet meer kan.
"Gebruikers die het willen misbruiken, zijn altijd op zoek naar nieuwe manieren om de beveiliging te omzeilen", bracht de advocaat in. Met een dwangsom zou xAI 'gestraft worden voor het gedrag van kwaadwillende derden'.
In aanloop naar de zaak zou xAI bovendien nog meer maatregelen hebben genomen tegen het produceren van dit soort illegaal beeldmateriaal.
Filters
Dat Grok het zo makkelijk maakt om dit soort beelden te maken, is uitzonderlijk. De meeste AI-tools hebben strenge filters, om het genereren van naaktbeelden te blokkeren. Maar Grok promoot zichzelf juist als 'ongecensureerde' chatbot, en bevat zelfs een zogeheten 'spicy mode', die het genereren van zeer expliciete beelden mogelijk maakt.
De uitspraak in deze zaak is over twee weken.
In deze video zie je hoe AI-bot Grok wordt gebruikt om mensen ongewild virtueel uit te kleden:
