Voordat je verder leest… Deze gids gaat over intieme beelden zonder wederzijdse toestemming en online intimidatie, met name jegens vrouwen en minderjarigen. Er staan ook links naar artikelen met praktijkvoorbeelden van deze onderwerpen. Als dit voor jou niet goed voelt, nodigen we je uit om onze vele andere gidsen te bekijken over verschillende onderwerpen, zoals gegevensbescherming, digitale veiligheid, online welzijn en meer.

Tools voor artificiële intelligentie (AI), met name de tools die afbeeldingen, video's en audio genereren, worden op de markt gebracht als 'creativiteitapps' voor particulieren en 'efficiëntietools' voor bedrijven. Er zijn echter maar weinig manieren om te bepalen hoe ze daadwerkelijk worden gebruikt.

Het zal dan ook geen verrassing zijn dat AI-tools het probleem van online intimidatie alleen maar vergroten, bijvoorbeeld door het maken en delen van intieme beelden die zonder wederzijdse toestemming zijn gemaakt. Die beelden heten NCII, of non-consensual intimate images. Dat zijn intieme foto's of video's, inclusief naaktheid, of seksueel suggestieve of expliciete afbeeldingen waarop het echte of door AI gegenereerde lichaam van iemand te zien is, die zonder hun toestemming worden gedeeld.

NCII treft veel mensen, niet alleen de beroemdheden waar je misschien over hoort in de media, en het is niet makkelijk om ermee om te gaan. Zelfs platformen en de wetshandhavingsinstanties hebben moeite om het bij te benen (en).

In deze Data Detox-gids onderzoeken we hoe AI wordt gebruikt om intimidatie, met name door NCII, te versterken. Je leert meer over wat er gebeurt en hoe je weer wat controle terugkrijgt.

Laten we eens om ons heen kijken!

Het is groter dan je zou denken

Online intimidatie kent verschillende vormen en treft mensen van allerlei leeftijden en identiteiten. Hoewel het woord 'intimidatie' veel verschillende betekenissen kan hebben, komt met name seksuele intimidatie, zoals door AI gegenereerde NCII, veel voor.

Wist je dat? Volgens een onderzoek uit 2021 (en) gaf 41% van de meer dan 10.000 respondenten in de VS aan persoonlijk een vorm van online intimidatie te hebben meegemaakt. Van de respondenten jonger dan 35 jaar gaf 33% van de vrouwen en 11% van de mannen aan specifiek online seksuele intimidatie te hebben ervaren.

De technologie ontwikkelt zich zo snel dat er nu slechts één foto van iemand nodig is (en dat kan zelfs een volkomen onschuldige foto zijn) om seksueel expliciete content te genereren met behulp van de vele AI-gestuurde tools.

Wist je dat? Hoewel bepaalde AI-tools het probleem van intimidatie verergeren en het gemakkelijk maken om NCII van iedereen te creëren, worden andere AI-tools gebruikt om dit aan te pakken. Maar AI-tools die getraind zijn om AI-beelden te detecteren, zijn niet perfect (en) en een groot deel van het werk om ze te identificeren en te verwijderen, komt nog steeds neer op de mensen die als contentmoderators werken.

In 2024 (en) doken er seksueel expliciete AI-gegenereerde deepfakes van Taylor Swift op. Ze begonnen op 4chan en verspreidden zich binnen enkele minuten razendsnel over diverse sociale media-sites. Eén van de afbeeldingen werd meer dan 47 miljoen keer bekeken voordat deze werd verwijderd. Het is mogelijk dat deze afbeeldingen nog steeds online worden gedeeld, aangezien er geen echte manier is om ze volledig van het internet te verwijderen.

Wist je dat? Uit een analyse uit 2023 (en) van ruim 95.000 deepfake-video's bleek dat maar liefst 98% ervan deepfake-pornografie was en dat 99% van de slachtoffers vrouwen waren. Andere kwetsbare groepen, zoals minderjarigen en mensen van de LGBTQ+-gemeenschap zijn ook onevenredig vaak slachtoffer van online seksuele intimidatie.

Pas goed op jezelf

Online platforms hebben een aantal maatregelen genomen om je te helpen je informatie voor ongewenste blikken af te schermen. Hoewel deze tips je geen complete bescherming opleveren, kunnen ze het wel moeilijker maken voor pesters of mensen die je kwaad willen doen je te pakken te krijgen.

Elk platform is anders en heeft instellingen en opties die toegankelijk zijn voor gebruikers. Hier zijn bijvoorbeeld een paar dingen die je kunt doen om de controle op je Instagram- en TikTok-account te verscherpen:

Tip: Zet je profiel op 'privé'. Op platforms zoals Instagram en TikTok kun je je profiel op privé zetten, zodat in de meeste gevallen alleen mensen die je als volger hebt goedgekeurd, kunnen zien wat je deelt. Ze kunnen echter nog steeds de reacties zien die je bij de berichten van anderen plaatst en je zelfs nog steeds berichten sturen. Leer hoe je je profiel op privé kunt zetten op Instagram en TikTok.

Tip: Verwijder of blokkeer mensen. Als iemand je lastigvalt of je een ongemakkelijk gevoel geeft, kun je die persoon als volger verwijderen of helemaal blokkeren. Maar als je de persoon in het echt kent, heb je een andere strategie nodig. Leer hoe je mensen kunt blokkeren op Instagram en TikTok.

Samen staan we sterk

Als je kijkt naar hoeveel mensen het doelwit zijn van online intimidatie, lijkt het logisch om aan te nemen dat er ook veel daders zijn. Maar het is een feit dat er maar één kwaadwillende nodig is om wijdverspreide schade aan te richten. Zou jij iemand die NCII deelt beschouwen als iemand die mensen lastigvalt, zelfs als diegene de foto's niet zelf heeft gemaakt? In het voorbeeld van Taylor Swift waren er maar een paar mensen voor nodig om de NCII van haar te maken, maar het zou nooit viraal zijn gegaan als er niet zoveel mensen waren geweest die het hadden gedeeld.

Dus hoe kun je een bondgenoot zijn van iemand die het doelwit is van pesterijen en die lastiggevallen wordt? Welk sociale media platform je ook gebruikt, het heeft waarschijnlijk een ‘rapporteer’ functie.

Tip: Rapporteer het. In apps zoals Instagram kun je specifieke berichten of hele profielen of accounts rapporteren als je iets ziet dat lijkt op misbruik of intimidatie. Rapporteren op Instagram is een uitstekende manier om problematische personen of dingen die je ziet of hoort aan te geven. Instagram deelt de identiteit van de rapporterende persoon niet met de persoon die gerapporteerd wordt.

Wanneer je iets rapporteert op Instagram, kan het platform de post verwijderen of het profiel of account waarschuwen, deactiveren of blokkeren. Dit is afhankelijk van wat er is gebeurd en of het in strijd is met de communityrichtlijnen

Als je de persoon die het doelwit is persoonlijk kent, neem dan voorzichtig contact op met diegene, als je je daar prettig bij voelt. Het kan zijn dat deze persoon geen idee van heeft gehad dat dit is gebeurd en mogelijk zeer angstig, woedend of verdrietig reageert. Wanneer je je bereid voelt om hen te steunen, kun je hulpmiddelen aanbieden (zoals de hulpmiddelen waarnaar wordt verwezen aan het einde van deze gids) en hen helpen bij het monitoren en documenteren van de intimidatie.

Tip: Documenteer het. Ook al wil je hoogstwaarschijnlijk niet meer kijken naar de intimidatie, het kan nuttig zijn om het te documenteren voordat het wordt verwijderd. Overweeg om een video-opname of screenshot te maken van het bericht of de reactie, inclusief de accountnaam van de andere persoon en de datum. Bewaar de documentatie op een veilige plek op je telefoon of computer waar het niet zichtbaar is. Op sommige telefoons kun je bijvoorbeeld een met een wachtwoord 'beveiligde map' aanmaken.

Wanneer documentatie goed is opgezet, kan het van pas komen wanneer het slachtoffer de zaak aan de politie wil voorleggen hiervoor bewijsmateriaal nodig heeft.

Het is belangrijk dat de persoon die het doelwit is, zelf beslist wat die wil doen. Wil diegene contact opnemen met de politie, een advocaat inschakelen, contact opnemen met school, universiteit of werkgever? Of het juist liever zo vertrouwelijk mogelijk houden? Vooral in het geval van NCII wordt deze persoon zo veel keuzemogelijkheden ontnomen, dus zorg ervoor dat je hun steunt om weer de controle te krijgen. Wil je meer weten over manieren om een ondersteunende bondgenoot te zijn? Lees dan meer over interventie door omstanders (en).

Weet waar je terecht kunt voor hulp

Als jij of iemand die je kent het slachtoffer is van NCII, weet dan dat er toegewijde organisaties zijn die klaar staan om je te helpen. Je hoeft het niet alleen te doen. Hier zijn er een aantal:

• Chayn (Wereldwijd): Chayn biedt informatie en ondersteuning aan overlevenden van gendergerelateerd geweld aan.
• StopNCII (Wereldwijd): StopNCII heeft een bank van informatiebronnen en een tool (en) twaarmee je intieme afbeeldingen die zonder toestemming zijn gemaakt, kunt laten verwijderen. Ze bevelen ook partnerorganisaties over de hele wereld aan.
• Take Back the Tech (Wereldwijd): Take Back the Tech biedt uitleg en informatiebronnen zoals Hey Friend aan, met tips over hoe je je vrienden kunt steunen wanneer ze het doelwit zijn van intimidatie.
• National Sexual Assault Hotline van RAINN (VS): RAINN biedt een privé-hotline aan, waar je online kunt chatten of kunt bellen met een medewerker die een crisistraining heeft gevolgd.
• Take It Down (VS): Take It Down helpt je stapsgewijs bij het indienen van een verzoek tot verwijdering van NCII.
• Cyber Civil Rights Initiative (CCRI) (VS): CCRI bevat stapsgewijze instructies, lijsten met advocaten en wetten in de VS. Ze hebben ook een lijst met internationale informatiebronnen (en).
• Revenge Porn Helpline (Verenigd Koninkrijk): De Revenge Porn Helpline (Wraakporno-hulplijn) geeft advies aan volwassenen die het doelwit zijn geweest van wraakporno.
• Umi Chatbot (Australië): De Umi Chatbot is een snelle manier om informatie te krijgen over hoe om te gaan met NCII. De website heeft ook informatiebronnen (en) over het verzamelen van bewijsmateriaal en rapporteren.

Voor meer tips en informatiebronnen over hoe om te gaan met online intimidatie:

• “Je staat niet machteloos tegenover online intimidatie” (en)
• “Wat te doen als jij of iemand die je kent het doelwit is van deepfake-porno of AI-naaktfoto's” (en)

Geschreven door Safa Ghnaim in de zomer van 2024. Met dank aan Christy Lange en Louise Hisayasu voor hun bewerkingen, opmerkingen en herzieningen.

Deze gids is ontwikkeld door Tactical Tech in samenwerking met het Goethe Institut Brazilië.