Een Nederlandse rechter heeft de ‘uitkleedfunctie’ van chatbot Grok per direct verboden. Amsterdamse gebruikers van de app moeten het zonder deze AI-functie doen. De zaak draait om privacy en het risico op misbruik van beelden van mensen. Het besluit viel deze week en geldt in heel Nederland.
Rechter stopt uitkleedfunctie van Grok
De verboden functie kon foto’s van personen digitaal ‘uitkleden’. Dat levert zogeheten deepfake-naaktbeelden op: gemanipuleerde beelden die echt lijken, maar nep zijn. De rechter oordeelde dat deze toepassing te ver gaat en ingrijpt in de persoonlijke levenssfeer. Op het moment van schrijven mag de functie niet aan Nederlandse gebruikers worden aangeboden.
De aanbieder van Grok moet de functie voor Nederland uitschakelen. Dat kan door Nederlandse accounts te blokkeren of de optie in deze regio te verwijderen. Het doel is om misbruik en schade te beperken, zeker bij minderjarigen en mensen die ongewild in zulke beelden terechtkomen. Ook platforms die de functie doorleveren, worden geacht maatregelen te nemen.
Het verbod laat zien dat rechters sneller ingrijpen bij risicovolle AI-toepassingen. De kern: als een tool vooral wordt gebruikt voor inbreuk op privacy, mag die niet online blijven. Dat geldt ook wanneer het technisch knap is gemaakt. Bescherming van de geportretteerde gaat hier voor.
Impact voor gebruikers in Amsterdam
Voor Amsterdammers betekent dit dat de ‘uitkleedfunctie’ in Grok niet meer te gebruiken is. Wie de app in Amsterdam-Centrum, Noord, Oost, Zuid, West, Nieuw-West, Zuidoost of Weesp opent, hoort de optie niet te zien. Werkt de functie toch nog, dan handelt de aanbieder in strijd met het verbod. Gebruikers kunnen dat melden bij de aanbieder en, als nodig, bij de toezichthouder.
Het verbod stopt niet automatisch oude kopieën die al online staan. Wie slachtoffer is van zo’n deepfake, kan wel verwijdering eisen bij websites en sociale media. Dat kan via de meldknoppen of een formulier voor portret- of privacyklachten. Aangifte doen bij de Politie Amsterdam is mogelijk als er strafbare verspreiding is.
Ook scholen en sportverenigingen in de stad krijgen hier mee te maken. Zij krijgen vaker vragen van jongeren over deepfakes en grenzen online. Extra voorlichting over delen van foto’s en over nepbeelden helpt om schade te voorkomen. Veel instellingen verwijzen naar mediawijsheidstools en hulpdiensten.
AVG en portretrecht remmen AI-naaktbeelden
De AVG is de Europese privacywet die bepaalt wat organisaties met persoonsgegevens mogen doen. Een foto waarop iemand herkenbaar is, valt daar ook onder. Zonder geldige reden of toestemming mag je zulke beelden niet bewerken of verspreiden, zeker niet in intieme vorm. Dat is de juridische basis onder het verbod.
Daarnaast geldt in Nederland het portretrecht: iedereen mag zich verzetten tegen publicatie van zijn of haar portret als daar een redelijk belang voor is, zoals privacy. Deepfake-naaktbeelden raken direct aan dat belang. Publicatie zonder toestemming kan dan onrechtmatig zijn. Schadeclaims en verwijderverzoeken liggen voor de hand.
Verspreiding van seksuele beelden zonder toestemming kan ook strafbaar zijn. Dat geldt óók voor gemanipuleerde beelden die iemand in een seksuele context plaatsen. Daders riskeren een strafblad en hoge boetes. Voor slachtoffers zijn er civiele en strafrechtelijke routes om op te treden.
Gemeente Amsterdam heeft Algoritmeregister voor AI
De gemeente Amsterdam publiceert al jaren een Algoritmeregister. Dat is een openbaar overzicht van algoritmes die de gemeente inzet, met uitleg over doel en waarborgen. Daarmee wil de hoofdstad laten zien hoe AI verantwoord kan worden gebruikt. Transparantie en mensenrechten staan centraal.
Het debat over Grok raakt aan dit beleid. Wat in commerciële apps mis kan gaan, is ook een aandachtspunt voor de overheid. Amsterdam zet daarom in op duidelijke kaders en toetsing, zeker bij risico’s voor privacy. Die lijn sluit aan bij Europese regels zoals de AVG en de aankomende AI Act.
Voor inwoners betekent dit dat de gemeente kritisch kijkt naar het gebruik van slimme systemen. Denk aan pilots met toezicht of serviceverlening. Nieuwe toepassingen worden gewogen op nut, noodzaak en effect op grondrechten. Dat helpt misbruik en onbedoelde schade te voorkomen.
Wat te doen bij misbruik van beelden
Wordt uw foto ongewild gebruikt voor een deepfake? Bewaar bewijs, zoals links en schermafbeeldingen. Vraag direct verwijdering aan bij het platform dat het beeld toont. Doe een beroep op privacy en portretrecht, en verwijs naar toestemming die ontbreekt. Snelle melding vergroot de kans op verwijdering.
Overweeg aangifte bij de Politie Amsterdam als het om seksuele of schadelijke beelden gaat. Juridisch advies kan helpen bij een verbod of schadeclaim, bijvoorbeeld via een kort geding. Slachtofferhulp kan ondersteunen bij de emotionele en praktische kant. Scholen en werkgevers kunnen helpen om verdere verspreiding te beperken.
Let ook op uw eigen instellingen en deelgedrag. Zet accounts op privé als dat past en deel geen gevoelige beelden. Wees alert op apps die toegang vragen tot uw fotobibliotheek. Twijfel? Lees de voorwaarden of gebruik de app niet.