EU komt met verbod op uitkleedapps, moet voor de zomer ingaan
Met een uitkleedapp, ook bekend als 'nudify'-app, kunnen gebruikers een foto uploaden van wie ze maar willen, waarna de app een naakte versie van die foto genereert. Dat gebeurt met hulp van AI. De naaktbeelden zijn dus nep, maar zien er extreem realistisch uit.
Zulke apps kunnen gebruikt worden om zonder toestemming naaktbeelden te maken, vaak zelfs van minderjarigen. Dat is een vorm van seksueel misbruik, het is in Nederland verboden om zulke beelden te maken zonder toestemming. Toch zijn uitkleedapps extreem makkelijk te vinden en te gebruiken.
Honderden meldingen
Offlimits, het expertisecentrum Online misbruik kreeg vorig jaar honderden meldingen over seksueel beeldmateriaal dat met AI is gemaakt of bewerkt,
"Of het nou echt is of nep, we weten gewoon dat dit soort beelden heel verstrekkende gevolgen hebben voor slachtoffers", zei directeur Robbert Hoving eerder tegen RTL Z. "Op straat gaan we ook niet mensen zomaar ontkleden, dan moet het online ook niet kunnen."
Het gevaar van uitkleedapps wordt behoorlijk onderschat, bleek eerder dit jaar uit onderzoek van het RTL Nieuwspanel en tijdschrift &C. Zeven op de tien mensen hadden geen idee dat dit soort apps bestaan.
Uitkleed-apps nauwelijks bekend en ook onderschat: 'Lange tijd veel last van gehad'
Veel deelnemers aan dat onderzoek gaven ook aan zich weinig zorgen te maken over uitkleedapps, maar de neppe naaktbeelden kunnen veel schade aanrichten. Zo worden ze gebruikt om mensen te intimideren, bijvoorbeeld vrouwelijke politici.
Ook op scholen worden dit soort apps door kinderen en tieners gebruikt om elkaar te pesten. Uit onderzoek van Pointer bleek vorig jaar dat een kwart van de scholen daarmee te maken kreeg, en in de tussentijd is het gebruik van uitkleedapps alleen maar laagdrempeliger geworden.
Verbod voor de zomer
Nu het Europees Parlement heeft ingestemd met een verbod, moeten de EU-landen en de Europese Commissie hun stempel nog zetten, maar die hebben al aangegeven vóór een verbod te zijn. Naar verwachting kan het verbod nog voor de zomer ingaan.
Het wordt dan in de hele EU verboden om AI te gebruiken om seksuele of naakte afbeeldingen, videobeelden of audio te maken van bestaande personen. Ook het aanbieden van zulke apps wordt verboden.
In deze video zie je hoe AI-bot Grok wordt gebruikt om mensen ongewild virtueel uit te kleden:
