Rechtspraak
TikTok en X als eerste aangeklaagd voor verboden AI-praktijken
Redactie
Afgelopen maand zijn de bepalingen uit de AI-verordening voor verboden AI-systemen in werking getreden. Het gaat om praktijken waarvan de Europese Commissie oordeelt dat ze zo ingrijpend zijn, dat ze niet passen in de Europese samenleving. Denk hierbij aan manipulatieve of misleidende AI-systemen, AI-systemen voor ‘social scoring’ (die het gedrag van mensen beoordelen) en AI-systemen voor biometrische identificatie op afstand in realtime. Nog geen week na de inwerkingtreding van de bepalingen is de eerste rechtszaak rondom de verboden praktijken aangespannen. Stichting onderzoek marktinformatie (SOMI) klaagt TikTok en X aan voor schending van het eerste voorbeeld, oftewel het gebruikmaken van manipulatieve AI-systemen ten opzichte van gebruikers. Daarnaast beschuldigt zij X van het nalaten om grote datalekken te melden en/of gebruikers daarvoor te compenseren. Tot slot zouden de platforms desinformatie verspreiden en daarmee de publieke opinie beïnvloeden.
De zaak in een notendop
SOMI voert de strijd namens alle benadeelden, in de vorm van een collectieve rechtsvordering. In tegenstelling tot voorgaande acties van SOMI, is deze zaak aangespannen in Duitsland, waar vergelijkbare regels voor collectieve vorderingen gelden als hier (zie in Nederland de WAMCA-wetgeving: art. 3:305a BW e.v.). Beide systemen zijn gefundeerd op de Europese Richtlijn van 2020, die ook grensoverschrijdende collectieve vorderingen tussen lidstaten mogelijk maakt. In dit geval worden alleen Duitse burgers vertegenwoordigd, maar SOMI geeft aan dezelfde acties voor te bereiden in verschillende andere lidstaten. SOMI eist voor de slachtoffers van de illegale praktijken tussen de €500 tot €2.000 per gebruiker per platform.
Concreet beschuldigt SOMI zowel TikTok als X van het feit dat zij steeds vaker (politieke) desinformatie, deepfakes en misleidende inhoud verspreiden, die de publieke opinie, vooral tijdens verkiezingsperioden, kunnen beïnvloeden. Daarbij worden ernstige schendingen gepleegd van de Duitse en Europese wetgeving, waaronder de DSA-richtlijn, en AVG- en AI-verordening. Beide platforms zouden gebruikers illegaal profileren op basis van gevoelige gegevens, met als doel om aanbevelingsalgoritmen te versterken bij het verspreiden van boodschappen van derden. SOMI beschuldigt TikTok ervan dat hierbij specifiek jongeren worden gemanipuleerd, op een wijze die strijdig is met de nieuwe AI-wetgeving (art. 5 lid 1 sub a AI-verordening). X daarentegen heeft volgens SOMI herhaaldelijk nagelaten om datalekken te melden en de getroffen gebruikers daarover tijdig of voldoende te informeren of compenseren.
Bent u geïnteresseerd in alle details van de zaak? Dan kunt u hier het persbericht van SOMI lezen.
Houdt de zaak stand?
Hoewel de genoemde verbodsbepalingen inmiddels officieel in werking zijn getreden, zijn ze praktisch nog een lege huls. In Nederland bijvoorbeeld wordt het toezicht op de bepalingen door de Autoriteit Persoonsgegevens opgepakt, die nog altijd in de voorbereidingsfase zit. Verder zijn er uiteraard nog geen rechters aan de bepalingen te pas gekomen. Het zal tijd kosten voordat er een (Uniebreed) beoordelingskader is ontwikkeld met betrekking tot de verboden AI-praktijken, waaruit precies blijkt wat wel en niet mag in de context van AI. Deze zaak zal daar ongetwijfeld aan bijdragen, en is alleen daarom al meer dan welkom. Duidelijk is in ieder geval dat de Europese Commissie de zorgen van SOMI deelt. Zo verricht zij al langere tijd onderzoek naar zowel TikTok als X. Zie dit artikel voor meer informatie over de manier waarop zij specifiek jongeren beoogt te beschermen tegen ingrijpende technologieën als AI.
Het voorgaande neemt overigens niet weg dat de zaak formeel gesproken prima stand houdt. De wet is de wet, ook op Europees niveau, ongeacht of lidstaten voorbereid zijn op de handhaving daarvan. Het Europese Hof heeft herhaaldelijk bevestigd dat Europese burgers zich rechtstreeks voor de nationale rechter kunnen beroepen op bepalingen uit verordeningen, wanneer hun daarin toegekende rechten worden geschonden. In dit geval wordt dat beroep gedaan via SOMI als belangenbehartiger. Als de rechter een schending constateert, kan hij de door SOMI gevorderde schadevergoeding toekennen aan alle betrokken benadeelden.
Zoals altijd houden we u op de hoogte van belangrijke toekomstige ontwikkelingen in de zaak.
AI-forum 2025/1
De duistere zijde van ‘notice and takedown’ procedures en content monitoring
In de YouTube- en Cyando-uitspraak van 2021 wierp het Europese Hof licht op de rol van een platform zoals YouTube ten opzichte van de door haar gebruikers geplaatste content. Zo werd geconstateerd dat het zogenoemde safe harbor principe dat in 200...
Generatieve AI-vergoeding: is het juridisch mogelijk?
In toenemende mate wordt er gediscussieerd over de mogelijke implementatie van een (generatieve) AI-vergoeding, bedoeld om makers te compenseren voor het gebruik van hun werken bij de ontwikkeling van generatieve AI. In een reeks van drie artik...
Aansprakelijkheid van aanbieders van generatieve AI
Generatieve AI-toepassingen kunnen illegaal tekst- en beeldmateriaal produceren en hun aanbieders kunnen dit niet altijd tegengaan. Dit doet denken aan problematiek omtrent online tussenhandeldiensten en roept de vraag op of de “safe harbour”-aans...
Wetsvoorstel opt-out regeling: treedt Engeland in de voetsporen van de EU?
Elton John en Paul McCartney zijn een van vele artiesten die zich hebben uitgesproken tegen het voornemen van de Britse overheid om de bestaande auteursrechtelijke beperking op tekst- en datamining (hierna: TDM-beperking) te verruimen. Naar Engels...
AI en de AVG: De belangrijkste inzichten uit EDPB Opinie 28/2024
Introductie
Op 17 december 2024 publiceerde de Europese Data Protection Board (“EDPB”)[1] een opinie inzake de relatie tussen gegevensbescherming en artificial intelligence (“AI”), ‘Opinion 28/2024 on certain data protection aspects related to th...
Waarom DeepSeek olie op het vuur gooit in de AI-wapenwedloop
Het is inmiddels twee jaar geleden dat OpenAI naar buiten trad met de revolutionaire ChatGPT. Het eerste krachtige AI-systeem dat vrij beschikbaar was en door eenieder breed kon worden ingezet. Sindsdien is AI het nieuwe modewoord en is het gebrui...
Gerechtvaardigd belang als grondslag voor het trainen van AI: hoe de Google Spain-zaak kan helpen
De opkomst van juridische taalmodellen (LLMs) roept belangrijke vragen op over de omgang met bijzondere en/of gevoelige persoonsgegevens. Kunnen dergelijke gegevens worden gescrapet? En zo ja, mogen ze worden gebruikt om LLMs te trainen?
Privacy-...
Tekst- en datamining vs auteursrecht: eerste rechtspraak
Tekst- en datamining is het machinaal scannen van data om informatie te verkrijgen, bijvoorbeeld ter ontwikkeling van een generatief AI-model. Met de invoering van de DSM-richtlijn in 2019 is deze bezigheid nader gekwalificeerd ten opzichte van he...
Europese Commissie trekt wetsvoorstel voor AI-aansprakelijkheidsrichtlijn in
Het wetsvoorstel voor een AI-aansprakelijkheidsrichtlijn (ook wel de “AI Liability Directive”) is van de baan. Dat volgt uit het werkprogramma van de Europese Commissie voor 2025.[1] Reden van de intrekking van het wetsvoorstel, dat op 29 septembe...
Het gebruik van artificiële intelligentie (AI) door het EUIPO in registratieprocedures
Het gebruik van artificiële intelligentie (AI) voor het EUIPO in registratieprocedures
Technologische vernieuwing was altijd al cruciaal in de ontwikkeling van het intellectueel eigendomsrecht (IER). Het leidde tot de noodzaak van een wetgeven...
AI in de zorg: wie is er aansprakelijk als het misgaat?
Binnen de zorgsector wordt steeds vaker gebruikgemaakt van AI als hulpmiddel. Met name tijdens het diagnostisch proces zetten zorgverleners AI-systemen in om het ziektebeeld van patiënten beter in kaart te brengen. Meestal gaat dit goed, met posit...
Amerikaanse rechter verwerpt fair use als grond voor tekst- en datamining
In een filmachtige wending heeft Amerikaanse rechter Bibas zijn zogenoemde summary judgement (een soort kort geding) in de zaak Thomson Reuters v Ross omgegooid: in plaats van een jury bij het geschil te betrekken wordt het geschil grotendeels afg...
Eerste AI-kunstveiling wekt grote verontwaardiging
Het Amerikaanse veilinghuis Christie's heeft ‘s werelds eerste grote veiling voor AI-kunst aangekondigd. Want “AI-technologie is ongetwijfeld de toekomst”, zegt een prominente woordvoerder. Zodanig zelfs, dat het veilinghuis aansluiting zoekt met ...
AI bij de Rijksoverheid: is het wenselijk en wat zijn de gevaren?
De mogelijkheden van AI zijn eindeloos, waaronder voor de Rijksoverheid. Maar als de toeslagenaffaire ons iets heeft geleerd, dan is het dat hierbij oppassen is geblazen. De realiteit is nog altijd dat kunstmatige algoritmes imperfecte verlengstuk...
Bescherming van AI-output: modellenrecht to the rescue?
AI en het auteursrecht
Op dit moment is er veel te doen over de vraag of door artificiële intelligentie (AI) gegenereerde output voor auteursrechtelijke bescherming in aanmerking komt. Om voor auteursrechtelijke bescherming in aanmerking te komen...
Google aangeklaagd om AI-summaries in zoekresultaten
Meer en meer bedrijven integreren AI in hun diensten, en techgigant Google is daar uiteraard geen uitzondering van. Van oorsprong indexeert de zoekmachine webpagina's die als aanklikbare links aan gebruikers worden getoond nadat zij daarvoor relev...
Machine “Unlearning”: nieuwe hoop voor mens en maker?
Er is veel over te doen geweest, met name in de creatieve industrie: het proces van machine learning en tekst- en datamining. Voordat kunstmatige algoritmes op het niveau presteren dat we van ze gewend zijn, ondergaan ze een langdurig trainingspro...
Dit zijn de beste juridische GenAI tools van 2025
Bent u een van de vele gebruikers van handige juridische tools als Harvey en CoCounsel? Dan verdient het recente onderzoek van Vals AI uw aandacht. Vals AI is een bedrijf dat de prestaties van grote taalmodellen evalueert voor specifieke bedrijfst...
Meta riskeert strafrechtelijke aansprakelijkheid voor tekst- en datamining
Meta wordt ervan beschuldigd dat zij zonder toestemming 81 terabyte aan boeken heeft gedownload uit illegaal beschikbare bronnen zoals Z-Library en LibGen. De zaak heeft iets weg van de Google boekenzaak uit 2015, waarbij Google miljoenen boeken v...
TikTok en X als eerste aangeklaagd voor verboden AI-praktijken
Afgelopen maand zijn de bepalingen uit de AI-verordening voor verboden AI-systemen in werking getreden. Het gaat om praktijken waarvan de Europese Commissie oordeelt dat ze zo ingrijpend zijn, dat ze niet passen in de Europese samenleving. Denk hi...
Franse schrijvers en uitgevers voegen zich in de strijd tegen Meta
Drie grote uitgeverij- en auteursverenigingen in Frankrijk hebben een rechtszaak aangespannen tegen Meta, het Amerikaanse bedrijf achter onder andere Facebook en Instagram. De verenigingen beschuldigen Meta van het op grote schaal schenden van aut...
Big Tech voert druk nu ook op in thuisbasis Amerika
Afgelopen maand bespraken we hoe Europa een AI-boycot door de Amerikaanse Big Tech riskeert. Nog geen week later trok de Europese Commissie het wetsvoorstel voor de AI-aansprakelijkheidsrichtlijn in (meer hierover in dit artikel). Hoewel de intrek...
Mijn en dijn: de nieuwe rol van robots.txt als auteursrechtelijk voorbehoud bij tekst- en datamining
Noot bij Rb. Amsterdam HowardsHome[1]
Langzaamaan beginnen vonnissen gewezen te worden die grotere of kleinere impact hebben op de AI-wereld. Eén van de onderwerpen waar veel over te doen is, is de (on)rechtmatigheid van het gebruik van auteursre...
Wat de ‘Trump Gaza’ video ons leert over de risico’s van AI-gebruik
Het zal u niet zijn ontgaan: de bizarre video over de Gazastrook die afgelopen maand door Amerikaans president Trump is gedeeld. In de video worden Trump en Netanyahu, de premier van Israël, zonnend op het strand van een Dubai-achtig Gaza afgebeel...
AI-gestuurde aanbevelingssystemen dehumaniseren het internet
“Dehumanization happens when people are depicted, regarded, or treated as not human or less human” - Maria Kronfeldner, filosoof. Vroeger kwam dit tot uiting in de vorm van slavernij en sociale klassen. Maar we zien nu dat het ook subtieler kan. N...
Generatieve AI in reclame: de juridische risico’s
Generatieve AI doet rap zijn intrede in de reclamewereld. Een AI-tool zoals Midjourney genereert binnen seconden een visueel verbluffende campagne, ChatGPT schrijft daar een pakkende slogan bij en een AI-stem van Speechify spreekt moeiteloos de vo...