TikTok en X als eerste aangeklaagd voor verboden AI-praktijken

Afgelopen maand zijn de bepalingen uit de AI-verordening voor verboden AI-systemen in werking getreden. Het gaat om praktijken waarvan de Europese Commissie oordeelt dat ze zo ingrijpend zijn, dat ze niet passen in de Europese samenleving. Denk hierbij aan manipulatieve of misleidende AI-systemen, AI-systemen voor ‘social scoring’ (die het gedrag van mensen beoordelen) en AI-systemen voor biometrische identificatie op afstand in realtime. Nog geen week na de inwerkingtreding van de bepalingen is de eerste rechtszaak rondom de verboden praktijken aangespannen. Stichting onderzoek marktinformatie (SOMI) klaagt TikTok en X aan voor schending van het eerste voorbeeld, oftewel het gebruikmaken van manipulatieve AI-systemen ten opzichte van gebruikers. Daarnaast beschuldigt zij X van het nalaten om grote datalekken te melden en/of gebruikers daarvoor te compenseren. Tot slot zouden de platforms desinformatie verspreiden en daarmee de publieke opinie beïnvloeden.

De zaak in een notendop

SOMI voert de strijd namens alle benadeelden, in de vorm van een collectieve rechtsvordering. In tegenstelling tot voorgaande acties van SOMI, is deze zaak aangespannen in Duitsland, waar vergelijkbare regels voor collectieve vorderingen gelden als hier (zie in Nederland de WAMCA-wetgeving: art. 3:305a BW e.v.). Beide systemen zijn gefundeerd op de Europese Richtlijn van 2020, die ook grensoverschrijdende collectieve vorderingen tussen lidstaten mogelijk maakt. In dit geval worden alleen Duitse burgers vertegenwoordigd, maar SOMI geeft aan dezelfde acties voor te bereiden in verschillende andere lidstaten. SOMI eist voor de slachtoffers van de illegale praktijken tussen de €500 tot €2.000 per gebruiker per platform.

Concreet beschuldigt SOMI zowel TikTok als X van het feit dat zij steeds vaker (politieke) desinformatie, deepfakes en misleidende inhoud verspreiden, die de publieke opinie, vooral tijdens verkiezingsperioden, kunnen beïnvloeden. Daarbij worden ernstige schendingen gepleegd van de Duitse en Europese wetgeving, waaronder de DSA-richtlijn, en AVG- en AI-verordening. Beide platforms zouden gebruikers illegaal profileren op basis van gevoelige gegevens, met als doel om aanbevelingsalgoritmen te versterken bij het verspreiden van boodschappen van derden. SOMI beschuldigt TikTok ervan dat hierbij specifiek jongeren worden gemanipuleerd, op een wijze die strijdig is met de nieuwe AI-wetgeving (art. 5 lid 1 sub a AI-verordening). X daarentegen heeft volgens SOMI herhaaldelijk nagelaten om datalekken te melden en de getroffen gebruikers daarover tijdig of voldoende te informeren of compenseren.

Bent u geïnteresseerd in alle details van de zaak? Dan kunt u hier het persbericht van SOMI lezen.

Houdt de zaak stand?

Hoewel de genoemde verbodsbepalingen inmiddels officieel in werking zijn getreden, zijn ze praktisch nog een lege huls. In Nederland bijvoorbeeld wordt het toezicht op de bepalingen door de Autoriteit Persoonsgegevens opgepakt, die nog altijd in de voorbereidingsfase zit. Verder zijn er uiteraard nog geen rechters aan de bepalingen te pas gekomen. Het zal tijd kosten voordat er een (Uniebreed) beoordelingskader is ontwikkeld met betrekking tot de verboden AI-praktijken, waaruit precies blijkt wat wel en niet mag in de context van AI. Deze zaak zal daar ongetwijfeld aan bijdragen, en is alleen daarom al meer dan welkom. Duidelijk is in ieder geval dat de Europese Commissie de zorgen van SOMI deelt. Zo verricht zij al langere tijd onderzoek naar zowel TikTok als X. Zie dit artikel voor meer informatie over de manier waarop zij specifiek jongeren beoogt te beschermen tegen ingrijpende technologieën als AI.

Het voorgaande neemt overigens niet weg dat de zaak formeel gesproken prima stand houdt. De wet is de wet, ook op Europees niveau, ongeacht of lidstaten voorbereid zijn op de handhaving daarvan. Het Europese Hof heeft herhaaldelijk bevestigd dat Europese burgers zich rechtstreeks voor de nationale rechter kunnen beroepen op bepalingen uit verordeningen, wanneer hun daarin toegekende rechten worden geschonden. In dit geval wordt dat beroep gedaan via SOMI als belangenbehartiger. Als de rechter een schending constateert, kan hij de door SOMI gevorderde schadevergoeding toekennen aan alle betrokken benadeelden.

Zoals altijd houden we u op de hoogte van belangrijke toekomstige ontwikkelingen in de zaak.