Blog
Wat de ‘Trump Gaza’ video ons leert over de risico’s van AI-gebruik
Redactie
Het zal u niet zijn ontgaan: de bizarre video over de Gazastrook die afgelopen maand door Amerikaans president Trump is gedeeld. In de video worden Trump en Netanyahu, de premier van Israël, zonnend op het strand van een Dubai-achtig Gaza afgebeeld. Ook Elon Musk is van de partij. Tussen de palmbomen en wolkenkrabbers staat een gouden standbeeld van Trump gepositioneerd. De AI-video lijkt het resultaat van een doordachte politieke campagne van de Trump-regering. Maar als het aan de ‘maker’ van de video ligt, is niets minder waar. Trump zou de video ongevraagd hebben gebruikt en daarbij de oorspronkelijke boodschap van de video hebben vervormd. De maker gebruikt de gelegenheid om men te waarschuwen voor de gevaren van generatieve AI, met name in de politieke sfeer. In dit artikel wegen we die gevaren af tegen het huidige juridische kader.
De context
De video is oorspronkelijk gecreëerd door Amerikaans filmmaker Solo Avital, naar eigen zeggen in een span van acht uur en met behulp van Arcana AI. De intentie zou zijn geweest om een satirische video te maken, waarbij spot werd gedreven met eerdere uitspraken van Trump over “this megalomaniac idea about putting statues [in Gaza]”. In eerste instantie deelde Avital de video alleen met wat vrienden. Ook heeft de video enkele uren op het Instagramprofiel van zijn zakenpartner gestaan. Maar hoe de video precies bij Trump terecht is gekomen, is volgens Avital onduidelijk. Hij beweert dat Trump de video heeft gedeeld zonder zijn toestemming of medeweten en dat de oorspronkelijke toon van de video hiermee verloren is gegaan.
Context maakt alles uit, zegt Avital. Als de video was uitgezonden op Saturday Night Live (de grootste Amerikaanse talkshow), hadden mensen er volgens hem om kunnen lachen, door de absurditeit ervan. Maar doordat het Trump zelf is die de video op zijn persoonlijke social media plaatst, krijgt de video een andere lading.
De gevaren
Avital noemt de situatie kenmerkend voor de manier waarop desinformatie zich kan verspreiden, doordat mediakanalen het laatste nieuws oppikken en zonder (juiste) context verder delen. In plaats van een debat aan te wakkeren over de gevaren van generatieve AI, wat het oogmerk van Avital zou zijn geweest, ging alle aandacht naar Trump en zijn politieke campagne.
En dit is pas het begin, zegt professor Hany Farid van de Berkeley Universiteit van Californië. Zodra AI op het punt komt dat het hyperrealistische beelden kan genereren, zal de hoeveelheid AI-beelden die op vergelijkbare wijze viraal gaat volgens hem alleen maar toenemen.
Daarom roept Farid op tot bewustzijn over het gebruik van AI. Hij stelt dat je er in principe niet vanuit kunt gaan dat je de controle behoudt over datgene wat je hebt gegenereerd. Wees je daarom bewust van de mogelijke implicaties van het gebruik van AI, ongeacht je doelstelling. Verder ligt de verantwoordelijkheid niet alleen bij de gebruiker - ook AI-ontwikkelaars moeten ernaar streven dat hun tools op ethische wijze worden benut, in het licht van heersende normen en waarden. Oftewel, AI-tools moeten niet zomaar alles kunnen genereren wat ze wordt opgedragen. Hetzelfde geldt uiteraard voor content die strijd oplevert met de wet. Maar voor een geval als dit, waarin de video zelf niet onrechtmatig is en juist kan bijdragen aan het publieke debat, is er uiteindelijk weinig wat de AI-ontwikkelaar kan doen. Althans, tenzij de gebruiker wordt gescreend en/of bepaalde content van tevoren wordt gecensureerd, wat al snel een inbreuk op de vrijheid van meningsuiting oplevert.
Juridische handvatten?
Het is dan ook van belang dat er een juridisch vangnet is voor legale content die illegaal, of onethisch wordt gebruikt. Wat illegaal gebruik betreft is dit simpel: gebruikers die generatieve content illegaal gebruiken zijn strafbaar en/of aansprakelijk op basis van de geschonden wet. Denk hierbij aan de oplichter die een ander misleidt met behulp van een AI-video, die op zichzelf niet illegaal is. Met onethisch gebruik ligt dit ingewikkelder. Een politiek figuur als Trump dat een gevoelige AI-video gebruikt voor zijn politieke campagne, is wellicht aanstootgevend bezig, maar handelt niet direct in strijd met een wet of rechtsregel. Uiteindelijk is het, althans naar Nederlands recht, aan de rechter om te bepalen of het gebruik wel of niet rechtmatig is, gelet op de omstandigheden van het geval. Uiteraard is dat mosterd na de maaltijd, gezien de snelheid waarmee AI-content kan worden gegenereerd en gebruikt. Tegen de tijd dat de rechter een oordeel velt, is de mogelijke schade al berokkend. Hetzelfde geldt ten opzichte van mediakanalen die (op AI-content gebaseerde) desinformatie verspreiden.
In principe zijn er twee oplossingen te bedenken tegen de geschetste problematiek: verplichte transparantie of een algeheel verbod. De EU-wetgever heeft gekozen voor de eerste route. Op basis van artikel 50 lid 4 van de nieuwe AI-verordening zijn gebruikers van AI-content verplicht om hun content (in het openbaar) aan te duiden als AI-gegenereerd. Dit geldt in het bijzonder voor AI-content die wordt gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang. De wet gaat niet uitdrukkelijk in op de context van AI-content. Oftewel, het is niet verplicht om de (oorspronkelijke) boodschap van een AI-video te verduidelijken. Gezien het gevaar voor desinformatie was dit idealiter wel het geval geweest, hoewel dit het vrije verkeer van content mogelijk te veel zou belemmeren. Het is niet onbegrijpelijk dat de wetgever een dergelijke toevoeging achterwege heeft gelaten. Overtreding van de transparantievereiste kan leiden tot een geldboete die kan oplopen tot 15 miljoen euro (art. 99 lid 4 sub g AI-verordening).
De wettelijk verplichte transparantie neemt het gevaar voor desinformatie voor een belangrijk deel weg, maar het zal situaties als de onderhavige niet geheel weten te voorkomen. Wanneer een video als die van Trump in Gaza eenmaal viraal gaat, zal de boodschap ervan doorgaans worden getekend door de persoon of partij die de viraliteit in gang brengt; niet door de maker van de content. Voor filmmaker Avital is dit voldoende reden om AI-gebruik in de politieke sfeer geheel te verbannen. Dat AI-content de publieke opinie beïnvloedt is namelijk één ding, maar dat volksvertegenwoordigers de macht daarmee naar zich toe trekken gaat een stap verder. Ondenkbaar is een dergelijk verbod niet, en er valt zeker wat voor te zeggen, des te meer naarmate AI-content realistischer wordt. Eventuele inbreuk op de vrijheid van meningsuiting wordt in dat geval gecompenseerd door het zwaarwegende publieke belang bij een goed functionerende democratie. Diezelfde inbreuk zou een maatschappijbreed verbod op AI-content in de weg zitten, los van het feit dat een dusdanig breed verbod waarschijnlijk niet wenselijk is.
Mocht het zover komen dat de Europese wetgever een verbod op AI-content in politieke context overweegt, of dat zij andere regels rondom AI-gebruik wil gaan invoeren, dan brengen we u op de hoogte.
AI-forum 2025/1
De duistere zijde van ‘notice and takedown’ procedures en content monitoring
In de YouTube- en Cyando-uitspraak van 2021 wierp het Europese Hof licht op de rol van een platform zoals YouTube ten opzichte van de door haar gebruikers geplaatste content. Zo werd geconstateerd dat het zogenoemde safe harbor principe dat in 200...
Generatieve AI-vergoeding: is het juridisch mogelijk?
In toenemende mate wordt er gediscussieerd over de mogelijke implementatie van een (generatieve) AI-vergoeding, bedoeld om makers te compenseren voor het gebruik van hun werken bij de ontwikkeling van generatieve AI. In een reeks van drie artik...
Aansprakelijkheid van aanbieders van generatieve AI
Generatieve AI-toepassingen kunnen illegaal tekst- en beeldmateriaal produceren en hun aanbieders kunnen dit niet altijd tegengaan. Dit doet denken aan problematiek omtrent online tussenhandeldiensten en roept de vraag op of de “safe harbour”-aans...
Wetsvoorstel opt-out regeling: treedt Engeland in de voetsporen van de EU?
Elton John en Paul McCartney zijn een van vele artiesten die zich hebben uitgesproken tegen het voornemen van de Britse overheid om de bestaande auteursrechtelijke beperking op tekst- en datamining (hierna: TDM-beperking) te verruimen. Naar Engels...
AI en de AVG: De belangrijkste inzichten uit EDPB Opinie 28/2024
Introductie
Op 17 december 2024 publiceerde de Europese Data Protection Board (“EDPB”)[1] een opinie inzake de relatie tussen gegevensbescherming en artificial intelligence (“AI”), ‘Opinion 28/2024 on certain data protection aspects related to th...
Waarom DeepSeek olie op het vuur gooit in de AI-wapenwedloop
Het is inmiddels twee jaar geleden dat OpenAI naar buiten trad met de revolutionaire ChatGPT. Het eerste krachtige AI-systeem dat vrij beschikbaar was en door eenieder breed kon worden ingezet. Sindsdien is AI het nieuwe modewoord en is het gebrui...
Gerechtvaardigd belang als grondslag voor het trainen van AI: hoe de Google Spain-zaak kan helpen
De opkomst van juridische taalmodellen (LLMs) roept belangrijke vragen op over de omgang met bijzondere en/of gevoelige persoonsgegevens. Kunnen dergelijke gegevens worden gescrapet? En zo ja, mogen ze worden gebruikt om LLMs te trainen?
Privacy-...
Tekst- en datamining vs auteursrecht: eerste rechtspraak
Tekst- en datamining is het machinaal scannen van data om informatie te verkrijgen, bijvoorbeeld ter ontwikkeling van een generatief AI-model. Met de invoering van de DSM-richtlijn in 2019 is deze bezigheid nader gekwalificeerd ten opzichte van he...
Europese Commissie trekt wetsvoorstel voor AI-aansprakelijkheidsrichtlijn in
Het wetsvoorstel voor een AI-aansprakelijkheidsrichtlijn (ook wel de “AI Liability Directive”) is van de baan. Dat volgt uit het werkprogramma van de Europese Commissie voor 2025.[1] Reden van de intrekking van het wetsvoorstel, dat op 29 septembe...
Het gebruik van artificiële intelligentie (AI) door het EUIPO in registratieprocedures
Het gebruik van artificiële intelligentie (AI) voor het EUIPO in registratieprocedures
Technologische vernieuwing was altijd al cruciaal in de ontwikkeling van het intellectueel eigendomsrecht (IER). Het leidde tot de noodzaak van een wetgeven...
AI in de zorg: wie is er aansprakelijk als het misgaat?
Binnen de zorgsector wordt steeds vaker gebruikgemaakt van AI als hulpmiddel. Met name tijdens het diagnostisch proces zetten zorgverleners AI-systemen in om het ziektebeeld van patiënten beter in kaart te brengen. Meestal gaat dit goed, met posit...
Amerikaanse rechter verwerpt fair use als grond voor tekst- en datamining
In een filmachtige wending heeft Amerikaanse rechter Bibas zijn zogenoemde summary judgement (een soort kort geding) in de zaak Thomson Reuters v Ross omgegooid: in plaats van een jury bij het geschil te betrekken wordt het geschil grotendeels afg...
Eerste AI-kunstveiling wekt grote verontwaardiging
Het Amerikaanse veilinghuis Christie's heeft ‘s werelds eerste grote veiling voor AI-kunst aangekondigd. Want “AI-technologie is ongetwijfeld de toekomst”, zegt een prominente woordvoerder. Zodanig zelfs, dat het veilinghuis aansluiting zoekt met ...
AI bij de Rijksoverheid: is het wenselijk en wat zijn de gevaren?
De mogelijkheden van AI zijn eindeloos, waaronder voor de Rijksoverheid. Maar als de toeslagenaffaire ons iets heeft geleerd, dan is het dat hierbij oppassen is geblazen. De realiteit is nog altijd dat kunstmatige algoritmes imperfecte verlengstuk...
Bescherming van AI-output: modellenrecht to the rescue?
AI en het auteursrecht
Op dit moment is er veel te doen over de vraag of door artificiële intelligentie (AI) gegenereerde output voor auteursrechtelijke bescherming in aanmerking komt. Om voor auteursrechtelijke bescherming in aanmerking te komen...
Google aangeklaagd om AI-summaries in zoekresultaten
Meer en meer bedrijven integreren AI in hun diensten, en techgigant Google is daar uiteraard geen uitzondering van. Van oorsprong indexeert de zoekmachine webpagina's die als aanklikbare links aan gebruikers worden getoond nadat zij daarvoor relev...
Machine “Unlearning”: nieuwe hoop voor mens en maker?
Er is veel over te doen geweest, met name in de creatieve industrie: het proces van machine learning en tekst- en datamining. Voordat kunstmatige algoritmes op het niveau presteren dat we van ze gewend zijn, ondergaan ze een langdurig trainingspro...
Dit zijn de beste juridische GenAI tools van 2025
Bent u een van de vele gebruikers van handige juridische tools als Harvey en CoCounsel? Dan verdient het recente onderzoek van Vals AI uw aandacht. Vals AI is een bedrijf dat de prestaties van grote taalmodellen evalueert voor specifieke bedrijfst...
Meta riskeert strafrechtelijke aansprakelijkheid voor tekst- en datamining
Meta wordt ervan beschuldigd dat zij zonder toestemming 81 terabyte aan boeken heeft gedownload uit illegaal beschikbare bronnen zoals Z-Library en LibGen. De zaak heeft iets weg van de Google boekenzaak uit 2015, waarbij Google miljoenen boeken v...
TikTok en X als eerste aangeklaagd voor verboden AI-praktijken
Afgelopen maand zijn de bepalingen uit de AI-verordening voor verboden AI-systemen in werking getreden. Het gaat om praktijken waarvan de Europese Commissie oordeelt dat ze zo ingrijpend zijn, dat ze niet passen in de Europese samenleving. Denk hi...
Franse schrijvers en uitgevers voegen zich in de strijd tegen Meta
Drie grote uitgeverij- en auteursverenigingen in Frankrijk hebben een rechtszaak aangespannen tegen Meta, het Amerikaanse bedrijf achter onder andere Facebook en Instagram. De verenigingen beschuldigen Meta van het op grote schaal schenden van aut...
Big Tech voert druk nu ook op in thuisbasis Amerika
Afgelopen maand bespraken we hoe Europa een AI-boycot door de Amerikaanse Big Tech riskeert. Nog geen week later trok de Europese Commissie het wetsvoorstel voor de AI-aansprakelijkheidsrichtlijn in (meer hierover in dit artikel). Hoewel de intrek...
Mijn en dijn: de nieuwe rol van robots.txt als auteursrechtelijk voorbehoud bij tekst- en datamining
Noot bij Rb. Amsterdam HowardsHome[1]
Langzaamaan beginnen vonnissen gewezen te worden die grotere of kleinere impact hebben op de AI-wereld. Eén van de onderwerpen waar veel over te doen is, is de (on)rechtmatigheid van het gebruik van auteursre...
Wat de ‘Trump Gaza’ video ons leert over de risico’s van AI-gebruik
Het zal u niet zijn ontgaan: de bizarre video over de Gazastrook die afgelopen maand door Amerikaans president Trump is gedeeld. In de video worden Trump en Netanyahu, de premier van Israël, zonnend op het strand van een Dubai-achtig Gaza afgebeel...
AI-gestuurde aanbevelingssystemen dehumaniseren het internet
“Dehumanization happens when people are depicted, regarded, or treated as not human or less human” - Maria Kronfeldner, filosoof. Vroeger kwam dit tot uiting in de vorm van slavernij en sociale klassen. Maar we zien nu dat het ook subtieler kan. N...
Generatieve AI in reclame: de juridische risico’s
Generatieve AI doet rap zijn intrede in de reclamewereld. Een AI-tool zoals Midjourney genereert binnen seconden een visueel verbluffende campagne, ChatGPT schrijft daar een pakkende slogan bij en een AI-stem van Speechify spreekt moeiteloos de vo...