De keerzijde van innovatie, over de effectiviteit van de handhavingsmogelijkheden van deepnudes onder de Algemene Verordening Gegevensbescherming

Abstract

Een van de nieuwste ontwikkelingen op digitaal vlak is de deepfake technologie. Deepfakes zijn nepvideo's die worden geproduceerd om echt te lijken. Tegenwoordig zijn deepfakevideo’s zo realistisch, dat met het blote oog niet of nauwelijks meer te zien is dat het om nepvideo's gaat. Enkele bekende deepfaketoepassingen zijn faceswap, lip sync en spraaksynthese. Onderzoek wijst uit dat bijna 96% van de deepfakevideo’s die op internet circuleren pornovideo’s betreffen. Deze pornovideo’s worden ook wel deepnudes genoemd. De techniek wordt steeds beter en toegankelijker. Toch bestaat er nog geen wetgeving die specifiek gericht is op het handhaven van deepfakes. Hierdoor weten betrokkenen niet of zij succesvol kunnen optreden tegen deepnudes. Ook is er nog geen jurisprudentie beschikbaar. Het doel van het onderzoek is om te achterhalen of betrokkenen effectief kunnen optreden tegen een publicatie van een deepnude. Hiervoor wordt aansluiting gezocht bij de Algemene Verordening Gegevensbescherming. De volgende hoofdvraag is geformuleerd: Kunnen deepnudes effectief worden gehandhaafd onder de Algemene Verordening Gegevensbescherming, gelet op de belangen van slachtoffers. Hierbij worden alle handhavingsmogelijkheden die de betrokkene ter beschikking heeft op grond van de AVG gebruikt, mits relevant. Daarnaast worden de gevolgen van de betrokkene onderzocht. De impact van een publicatie van een deepnude is erg subjectief en van veel factoren afhankelijk. De gevolgen kunnen daarom per persoon flink uiteenlopen. Aangezien deepnudes erg nieuw zijn en de gevolgen voor betrokkenen nog niet bekend zijn, zal een brug gemaakt moeten worden met vergelijkbare situaties waarvan de gevolgen reeds inzichtelijk zijn. Hiervoor wordt een studie gebruikt, waar onderzoek is verricht naar de gevolgen van seksueel misbruik op basis van afbeeldingen. In dit onderzoek zijn 75 slachtoffers geïnterviewd. Tijdens deze interviews komt naar voren wat de openbaring van een seksueel getinte foto of video, met inbegrip van digitale bewerkingen, voor impact had op hun dagelijks leven. Handhaving is effectief wanneer ieder nadelig gevolg voor de betrokkene kan worden voorkomen. Omdat sommige gevolgen kunnen intreden vanaf het moment van publicatie, zal het onmogelijk zijn om ieder gevolg volledig te voorkomen (daarvoor zou de publicatie met terugwerkende kracht ongedaan gemaakt moeten worden). Om die reden wordt mede overwogen of de schadelijke gevolgen stopgezet kunnen worden en of de betrokkene hiervoor kan worden gecompenseerd. Een enkele compensatie zal niet worden beschouwd als effectieve handhaving.

Na een afweging tussen de handhaving en de gevolgen komt naar voren dat snelheid de belangrijkste factor is voor de verkrijging van effectiviteit. De beschikbare rechtsmiddelen worden effectiever naarmate de inbreuk korter voortduurt en er sneller wordt opgetreden. Er heeft vervolgens een afweging plaatsgevonden, waaruit is gebleken dat de snelheid van optreden en het verkorten van de inbreuk niet zal worden bevorderd door de handhavingsmogelijkheden te verbeteren (bijvoorbeeld door een wetswijziging). Ook zal een wijziging van de beschikbare rechten van de betrokkene geen soelaas bieden. Het probleem is dat er onvoldoende detectiemiddelen zijn om de grote hoeveelheid deepnudes die dagelijks op het internet worden gepubliceerd op te sporen. Doordat de deepnudes niet tijdig kunnen worden opgespoord, wordt het haast onmogelijk gemaakt om snel op te treden. Het is immers niet mogelijk op te treden tegen een deepnude waarvan je niet weet dat die bestaat. Bovendien zijn er momenteel meer onderzoekers bezig met de verbetering van de kwaliteit van de deepfake-content, dan het ontwikkelen van detectiemiddelen. Naar verwachting zal het detectieprobleem alleen maar groter worden. Zonder innovatie op het gebied van detectie, kunnen deepnudes niet effectief gehandhaafd worden