De verbetering van kunstmatige intelligentie en de daarbij opkomende generatieve AI brengt veel teweeg. Dit blijkt ook uit de problematiek rondom deepfaketechnologie, die het mogelijk maakt om beeld, geluid of ander materiaal te creëren dat gemanipuleerd is. Veelal komen hier onschuldige video’s met amuserende doeleinden uit voort: denk bijvoorbeeld aan een grappig filmpje waarin je een gezicht invoegt op het lichaam van iemand anders. Helaas kent de technologie ook een keerzijde van de medaille. Problematische toepassingen van deepfakes dragen onder andere bij aan de verspreiding van nepnieuws. In dit artikel wordt besproken wat de toepassingen van deepfakes zijn, de gevolgen hiervan en de huidige juridische mogelijkheden tot regulering van deepfakes.
Werkelijke onwerkelijkheid
Naar schatting gaat het momenteel bij meer dan 95% van alle deepfakes om non-consensual porn. Dit houdt in dat er pornovideo’s worden gemaakt en verspreid waarin voornamelijk vrouwen seksuele handelingen verrichten, hetgeen deze vrouwen niet hebben gedaan. De impact hiervan is enorm. Niet alleen iemands reputatie, maar ook het zelfbeeld van vrouwen in het algemeen wordt hierdoor geraakt. Zo blijkt dat vrouwen zich aangerand voelen door de realistische perceptie van de inhoud.
Andere problemen die ontstaan door deepfaketechnologie hebben onder meer te maken met de verspreiding van desinformatie. Makers kunnen bekende personen dingen laten zeggen of doen die nooit zijn gebeurd. Dit gebeurde bijvoorbeeld in de deepfake-video van Mark Rutte, waarin het leek alsof hij een toespraak hield over het klimaat. Ook kan de opkomst van deepfakes in de rechtszaal een grote impact hebben. Zo kan bewijsmateriaal worden gemanipuleerd door iemand handelingen te laten verrichten of woorden in de mond te leggen die onrechtmatig zijn.
(Spat)waterdicht
Het maken en verspreiden van nepvideo’s komt niet als zodanig voor in het Wetboek van Strafrecht. Wel wordt dit in andere wetten gereguleerd. Zo ook in de Algemene Verordening Gegevensbescherming, waarin het zonder toestemming verwerken van persoonsgegevens verboden is. Dit volgt ook uit het recht op privacy van het Europees Verdrag voor de Rechten van de Mens. Het gebruik van foto’s of filmmateriaal dat al op het internet te vinden is, is niet zomaar toegestaan. Dat beelden al op internet staan, betekent namelijk niet dat deze zomaar gebruikt mogen worden voor nieuwe doeleinden. Wanneer dit gebeurt, kan de ‘gedeepfakete’ persoon schadevergoeding vorderen.
Naast bestaande wetgeving liggen in Europa na lange onderhandelingen plannen voor nieuwe wetgeving op tafel in de vorm van de AI-Verordening. Het voorstel van deze wet verplicht, in artikel 52 lid 3, gebruikers van AI-systemen met deepfaketechnologie aan te geven dat de inhoud gemanipuleerd is. Dit kan bijvoorbeeld door middel van een watermerk worden gedaan.
Licht aan het eind van de tunnel?
De vrijheid van meningsuiting en het daarbij komende verbod op censuur bieden tegenwicht aan het hiervoor genoemde juridisch kader. Deepfakes mogen niet gecontroleerd worden voordat zij het internet op worden gestuurd. Het probleem dat hierdoor in de praktijk ontstaat, is dat het kwaad vaak al is geschied. De desinformatie wordt voor juist aangenomen en slachtoffers van non-consensual porn zijn al beschaamd. Dit voordat de inhoud weer offline wordt gehaald.
Het grootste probleem omtrent de regulering van deepfakes is niet de wetgeving zelf, maar de handhaving daarvan. Het gebruik van deepfaketechnologie zal alsmaar toenemen. Er is voorspeld dat over ongeveer zes jaar zo’n 90% van alle digitale inhoud gemanipuleerd is. Het opsporen van onrechtmatige deepfakes zal bovendien steeds lastiger worden. Het niet toevoegen van een watermerk zal dan opvallender zijn dan wanneer dit wel is gedaan. Er zullen duidelijke maatstaven moeten worden ontwikkeld die bepalen wanneer inhoud onrechtmatig is. Eén ding is zeker: in een wereld waarin de grens tussen waarheid en bedrog steeds vager wordt, staat de wetgever voor een urgente uitdaging.
