Blog
Europese AI-verordening: nieuwe verplichtingen treden in, maar is het genoeg?
Redactie
De Europese AI-verordening is sinds 1 augustus 2024 formeel van kracht, en komende maand volgt een belangrijke nieuwe fase. Vanaf augustus worden de eerste verplichtingen voor aanbieders van AI-systemen voor algemene doeleinden (general-purpose AI, GPAI) van toepassing. De Europese Commissie heeft bevestigd dat de tijdlijn niet wordt aangepast, ondanks felle kritiek vanuit bedrijfsleven en politiek.
Toch blijft de vraag of het huidige tempo voldoende is om het gebruik van AI transparant en beheersbaar te maken. Twee zorgen springen eruit. Enerzijds is er (on)duidelijkheid richting ontwikkelaars en bedrijven: hoe moeten zij aan hun (nieuwe) wettelijke verplichtingen voldoen? Anderzijds duurt het nog ruim een jaar voordat artikel 50 in werking treedt, dat transparantie rondom AI-content reguleert. Dit terwijl de hoeveelheid AI-content rap toeneemt, en niet zonder gevolgen.
Een gefaseerde tijdlijn
De AI-verordening is in werking getreden op 1 augustus 2024. Vanaf februari 2025 is het verbod op bepaalde AI-toepassingen, zoals systemen voor subliminale manipulatie en social scoring (art. 5 AI-verordening), formeel van kracht gegaan. Per 2 augustus 2025 volgen de verplichtingen voor aanbieders van GPAI-modellen. Zij moeten onder ander technische documentatie opstellen, transparant zijn over gebruikte trainingsdata en informatie verstrekken over modelcapaciteiten en -beperkingen (art. 51 e.v. AI-verordening).
Pas op 2 augustus 2026 gaan de bepalingen gelden die direct betrekking hebben op generatieve content. Artikel 50 verplicht aanbieders van generatieve content (zowel ontwikkelaars (lid 2) als gebruikers (lid 4)) om die content duidelijk te labelen, zodat anderen weten dat zij met kunstmatige inhoud te maken hebben. Tot die datum ontbreekt een directe verplichting om zulke labels aan te brengen, hoe grootschalig het gebruik van AI ook is.
Een volledige tijdlijn van de implementatie van de AI-verordening vindt u hier.
Kritiek op 'snelle' invoering
Een groot aantal bedrijven heeft de Europese Commissie opgeroepen om de inwerkingtreding van de verordening met minstens twee jaar uit te stellen.[1] In een brief aan Commissievoorzitter Von der Leyen pleiten grote Europese spelers als ASML, Philips en Picnic voor een ‘innovatievriendelijker’ kader. Zij stellen dat het ontbreken van geharmoniseerde technische standaarden en een definitieve Gedragscode de naleving van de AI-verordening onnodig onzeker maakt.
Ook de Zweedse premier noemde de AI-verordening een voorbeeld van verwarrende regelgeving,[2] omdat er geen gemeenschappelijke normen klaar liggen. De Commissie benadrukt echter dat de wetgeving in werking treedt zoals gepland.[3] Volgens EU-woordvoerder Thomas Regnier zijn de deadlines wettelijk vastgelegd: “We have legal deadlines established in a legal text. The provisions kicked in February, general purpose AI model obligations will begin in August, and next year, we have the obligations for high-risk models that will kick in in August 2026.” Dat de eindversie van de Gedragscode is vertraagd verandert daar niets aan.
Het is afwachten geblazen wat het effect zal zijn van de nieuwe regelgeving op de bedrijfsvoering van AI-bedrijven. Hoewel de aangewezen toezichthoudende autoriteiten (in Nederland de AP) nog steeds in de voorbereidende fase zitten, neemt het risico op zowel klachtenprocedures (art. 85 AI-verordening) als civiele claims enorm toe wanneer de bepalingen eenmaal van kracht gaan. Het naleven van de nieuwe verplichtingen en de onduidelijkheid daaromheen zullen bovendien een boel kosten met zich meebrengen.
De rappe opkomst van “AI slop”
De andere kant van het debat is dat de verordening juist te langzaam ingaat waar het gaat om transparantie voor consumenten. Tot augustus 2026 bestaat er geen harde verplichting om AI-content te labelen als zodanig. Hoewel platforms als YouTube, TikTok en Instagram aan gebruikers wel al die optie bieden, ontbreekt strikte handhaving. Spotify biedt de mogelijkheid überhaupt niet, wat mogelijk verklaart dat een volledig gegenereerde muziekband (inclusief muziek, bandleden, afbeeldingen - tezamen bekend als “The Velvet Sundown”) in korte tijd de aandacht heeft getrokken van ruim een miljoen maandelijkse luisteraars. En zo zijn er nog vele andere voorbeelden. Ongetwijfeld zal er een doelgroep zijn voor AI-muziek, maar het ligt voor de hand dat een aanzienlijk deel van de luisteraars niet door lijkt te hebben dat het om gegenereerde muziek gaat, en dat is zorgelijk.
Het aanbod van AI-content groeit in een rap tempo. Hoewel die content aanvankelijk eenvoudig te herkennen was, is de ‘kwaliteit’ inmiddels zo hoog dat veel gebruikers het verschil niet meer zien of horen, wat duidelijk kan worden afgeleid uit achtergelaten comments. De content is vaak bizar en onnavolgbaar, en wordt in feite gedeeld voor het genereren van traffic en advertentieopbrengsten. Dergelijke content, in toenemende mate aangeduid als AI “slop”, concurreert met ‘gewone’, authentieke content, die steeds verder op de achtergrond wordt gedrukt met alle gevolgen van dien (meer hierover in dit artikel). Enerzijds omdat de hoeveelheid AI-content onmogelijk kan worden bijgehouden door menselijke scheppers, en anderzijds omdat AI-systemen in staat zijn de meest prikkelende beelden en geluiden te genereren (als gevolg van een intensieve trainingsfase waarbij talloze beschermde werken worden geanalyseerd - een juridisch debat op zichzelf). Hierdoor weet AI-content de aandacht van gebruikers gemakkelijk te trekken, met als gevolg dat de content weer opnieuw door algoritmes wordt aanbevolen. Het heeft iets dystopisch: het ene systeem produceert content voor het andere, met de mens als passieve consument.
Verschillende partijen komen tot verschillende voorspellingen, maar één ding is zeker: de hoeveelheid generatieve content op het internet zal alleen maar verder toenemen. Dat wekt de vraag of augustus 2026 niet te laat is voor de inwerkingtreding van transparantieverplichtingen. Beter laat dan nooit, uiteraard, maar wie weet wat de (maatschappelijke) effecten zijn van langdurige blootstelling aan AI slop. YouTube neemt het heft deels in eigen handen, en kondigde recent een wijziging aan in haar beleid: per 15 juli wordt “Mass-produced, low-effort” content niet langer gemonetariseerd.[4] Bizarre, onnavolgbare AI-video's kunnen daar al gauw onder vallen, en dat lijkt ook precies de bedoeling. Door de financiële stimulans weg te nemen, zou de sterke toestroom van AI-content kunnen worden afgeremd.
Afsluitend
De AI-verordening is ambitieus en ingrijpend. De komende maand treedt een belangrijk deel van de regels in werking, ondanks stevige kritiek en oproepen tot uitstel. Dat laat zien dat de Commissie zich niet zomaar laat afschrikken en vasthoudt aan de oorspronkelijke tijdlijn. Toch blijft het een open vraag of die tijdlijn voldoende is om consumentenbescherming en transparantie te garanderen in een digitale omgeving waar AI-content sneller groeit dan wetgeving ooit kan bijhouden.
[1] S. Mukherjee, ‘Explainer: Will the EU delay enforcing its AI Act?’, Reuters: https://www.reuters.com/business/media-telecom/will-eu-delay-enforcing-its-ai-act-2025-07-03/?utm_source=chatgpt.com
[2] ‘Swedish PM calls for a pause of the EU’s AI rules’, Politico: https://www.politico.eu/article/swedish-pm-calls-to-pause-eu-ai-rules/
[3] F. Y. Chee, ‘EU sticks with timeline for AI rules’, Reuters: https://www.reuters.com/world/europe/artificial-intelligence-rules-go-ahead-no-pause-eu-commission-says-2025-07-04/
[4] ‘YouTube monetisation update: Google is changing payment system from next week, check new policy and who will be affected’, The Economic Times: https://economictimes.indiatimes.com/news/new-updates/youtube-monetisation-update-google-is-changing-payment-system-from-next-week-check-new-policy-and-who-will-be-affected/articleshow/122298120.cms?from=mdr
AI-forum 2025/2
GPT-4o en het Ghibli Effect: de genadeslag voor ontwerpers en rechthebbenden?
Afgelopen week stond social media vol met afbeeldingen in de kenmerkende stijl van de Japanse animatiestudio Ghibli. Dit was het gevolg van de release van OpenAI's nieuwe afbeeldingsgenerator, die onderdeel uitmaakt van de reeds bestaande chatbot ...
Anthropic mag de ontwikkeling van Claude AI doorzetten, ondanks zorgen auteursrecht
Van de 39 Amerikaanse auteursrechtzaken op het gebied van AI-ontwikkeling, zijn er twee gericht tegen ontwikkelaar Anthropic. Anthropic is het bedrijf achter Claude AI, een chatbot van vergelijkbare aard en kwaliteit als ChatGPT. Claude is deels g...
AI Verordening: Hoe verzeker je AI-geletterdheid binnen je organisatie?
Sinds 2 februari 2025 zijn aanbieders en gebruiksverantwoordelijken van AI-systemen verplicht om voldoende AI-geletterdheid te verzekeren van hun personeel en andere personen die namens hen AI-systemen gebruiken. Als onderdeel van de eerste ree...
Creatieve sector verontwaardigd over nieuwe Gedragscode AI-verordening
Het Europese AI-bureau heeft recent de derde en laatste conceptversie gepubliceerd van de Gedragscode voor aanbieders van generatieve AI, als aanvulling op de AI-verordening. Makers, uitvoerende kunstenaars en rechthebbenden reageren hierop veront...
Britse denktank wil commerciële AI-training in Engeland legaliseren
2 maanden terug bespraken we hoe de Britse overheid een auteursrechtelijke hervorming overweegt op basis waarvan bedrijven voor commerciële doeleinden mogen tekst- en dataminen, tenzij rechthebbenden zich daar uitdrukkelijk tegen verzetten. Oftewe...
Generatieve AI als voertuig voor de meningsuiting en creatieve expressie
De discussie over generatieve AI in de kunstwereld wordt vaak gedomineerd door zorgen. Makers en rechthebbenden vrezen dat hun werken worden nagebootst, dat creatieve beroepen onder druk komen te staan en dat bestaande rechten worden ondermijnd. M...
Hoe GPT-NL en Nextcloud de afhankelijkheid van Big Tech helpen terugdringen
In een wereld waarin taalmodellen als ChatGPT razendsnel terrein winnen, groeit ook het besef van afhankelijkheid. De meeste krachtige AI-systemen worden gebouwd en beheerd door een handvol grote Amerikaanse technologiebedrijven, die beperkte tran...
AI-training is geen fair use, concludeert een groep Amerikaanse hoogleraren
Een groep toonaangevende Amerikaanse hoogleraren auteursrecht heeft zich uitgesproken tegen Meta’s beroep op fair use voor het trainen van generatieve AI-modellen. In een stevig beargumenteerde amicus brief stellen de experts dat het gebruik van a...
Adobe's Content Credentials: het equilibrium tussen auteursrecht en innovatie?
De inzet op transparantie in het tijdperk van generatieve AI krijgt een krachtige impuls met Adobe’s recente introductie van Content Credentials. Door dit nieuwe systeem kunnen makers hun naam, de herkomst van werken en hun voorkeuren over AI-gebr...
2024 EU AI-verordening: een gedetailleerde analyse
De AI-verordening is een belangrijk regelgevingskader dat gericht is op het harmoniseren van de ontwikkeling, de toepassing en het gebruik van AI binnen de EU. Deze uitgebreide regelgeving, die op 1 augustus 2024 van kracht is geworden, is bedoeld...
OpenAI wijzigt koers: non-profit behoudt controle
OpenAI heeft aangekondigd de plannen voor de overgang naar een winstgericht bedrijfsmodel deels terug te draaien. Het bedrijf is van plan zijn for-profit tak om te zetten in een public benefit corporation (PBC), maar de volledige zeggenschap blijf...
AI in oorlogsvoering: strategische innovaties en juridische uitdagingen
Kunstmatige intelligentie (AI) speelt een steeds grotere rol in moderne oorlogsvoering. Wat begon als een ondersteunend hulpmiddel in beeldherkenning en dataverwerking, ontwikkelt zich razendsnel tot een beslissende factor in zowel militaire op...
US Copyright Office over AI-training, auteursrecht en fair use (uitgebreide analyse)
Begin mei publiceerde het Amerikaanse Copyright Office (UCO) het derde en laatste rapport in haar reeks over AI en auteursrecht. Het rapport werpt een diepgravende blik op de juridische status van AI-training onder het Amerikaanse auteursrecht, me...
Aansprakelijkheid in het AI-tijdperk: is de kwalitatieve aansprakelijkheid voor gebrekkige roerende zaken toe aan een update?
§ 1. Inleiding
Artificial intelligence (hierna: ‘AI’) speelt een steeds grotere rol in onze samenleving. Zo is AI bezig met een flinke opmars in onder andere de financiële sector, in bestuursrechtelijke besluitvormingsprocessen en bij de opkomst ...
Amerikaans wetsvoorstel verbiedt niet-federale AI-wetgeving voor 10 jaar
In het Huis van Afgevaardigden (de Amerikaanse tegenhanger van de Tweede Kamer) is een wetsvoorstel ingediend dat staten en andere niet-federale overheden de komende tien jaar verbiedt om eigen regels op te stellen voor kunstmatige intelligentie. ...
AI-training en auteursrecht: de internationale verschillen
Mag je auteursrechtelijk beschermd werk gebruiken om AI-modellen te trainen? Die vraag houdt wetgevers wereldwijd bezig. Als onderdeel van haar recente rapport, heeft het Amerikaanse Copyright Office in kaart gebracht hoe verschillende landen AI-t...
Het doel heiligt de middelen – Anthropic’s nieuwe AI grijpt naar chantage
Anthropic heeft met Claude Opus 4 een van de meest geavanceerde AI-modellen tot nu toe gelanceerd. Maar bij interne veiligheidstests bleek het model bijzonder doortastend, zelfs manipulatief. Deze blog bespreekt hoe Claude Opus 4 overging tot chan...
Japan introduceert AI-wetgeving die sterk afwijkt van onze AI-verordening
Op 28 mei 2025 nam het Japanse parlement voor het eerst een nationale AI-wet aan. Deze nieuwe wet, beter bekend als de AI Utilization Promotion Act, kiest nadrukkelijk voor een andere koers dan de Europese Unie. Waar de EU inzet op risicobeperking...
Van handmatige moderatie naar AI-gestuurde detectiesystemen
Inleiding
In hoeverre moet generatieve stijlnabootsing worden afgeremd met “guardrails”?
De opkomst van generatieve AI heeft een breed spectrum aan creatieve toepassingen mogelijk gemaakt. Of het nu gaat om tekst, beeld, video of muziek: de modellen worden steeds krachtiger. Tegelijkertijd staat de juridische toetsing aan bijvoorbeeld...
Derde rechtszaak tegen Anthropic: kun je tekst- en datamining contractueel verbieden?
Reddit heeft een rechtszaak aangespannen tegen AI-ontwikkelaar Anthropic. De aanklacht draait om het vermeende herhaaldelijk scrapen van Reddit-data door Anthropic, ondanks eerdere toezeggingen om daarmee te stoppen. Daarmee voegt deze zaak zich i...
Disney en Universal trekken ten strijde tegen AI-bedrijf Midjourney
Disney en Universal hebben een rechtszaak aangespannen tegen het AI-bedrijf Midjourney. Volgens de twee Hollywood-giganten heeft Midjourney op grote schaal auteursrechtelijk beschermd beeldmateriaal gebruikt bij het trainen van zijn AI-modellen, z...
Meta’s AI-app leidt tot onbedoelde publicatie van privégesprekken
De nieuwe standalone AI-app van Meta heeft veel stof doen opwaaien. Gebruikers van de app deelden onbedoeld persoonlijke gesprekken met de chatbot op een openbare feed. De situatie heeft vragen opgeroepen over Meta’s interface en de bescherming va...
AI-muziekplatforms in overleg met major labels: wat zijn de mogelijke gevolgen?
Recent werd bevestigd dat de grote platenmaatschappijen (Universal Music Group, Warner Music Group en Sony Music Entertainment) in gesprek zijn met de bekende AI-muziekplatforms Suno en Udio. Volgens diverse bronnen onderhandelen deze partijen ...
AI in kinderspeelgoed: Mattel en OpenAI kondigen nieuwe samenwerking aan
Mattel en OpenAI hebben een strategische samenwerking aangekondigd om AI te integreren in speelgoed voor kinderen. Het nieuws roept belangrijke juridische en maatschappelijke vragen op. In dit artikel bespreken we de aankondiging, de eerste reacti...
Generatieve AI-training is fair use, oordeelt de Amerikaanse rechter
Voor het eerst heeft een Amerikaanse rechter geoordeeld dat het trainen van een generatief AI-model met auteursrechtelijk beschermd materiaal onder fair use valt. De uitspraak komt in de zaak Bartz v. Anthropic, waarin drie auteurs AI-bedrijf Anth...
AI-training is meestal inbreuk, zegt deze Amerikaanse rechter: “Indirect substitution is still substitution”
Voor de tweede keer deze week heeft een Amerikaanse rechter zich uitgesproken over de vraag of AI-training onder fair use valt. In Kadrey v. Meta oordeelt rechter Vince Chhabria dat het gebruik van auteursrechtelijk beschermde boeken voor het trai...
Tegenstrijdige visies op AI-training en fair use: hoe de rechter afwijkt van het US Copyright Office
Maandag 23 juni 2025 werd een mijlpaal bereikt in het Amerikaanse auteursrecht: in de zaak Bartz v. Anthropic oordeelde de federale rechter William Alsup voor het eerst dat het gebruik van auteursrechtelijk beschermd materiaal voor AI-training ond...
Wanneer AI leeft: juridische en ethische vraagstukken rond biohybride AI
Inleiding
Kunstmatige intelligentie ontwikkelt zich snel, onder andere op het snijvlak van technologie en biologie. Biohybride AI-systemen, oftewel AI die draait op levende cellen, zetten niet alleen technologische conventies op hun kop, maar dag...
De verboden metafoor: AI en antropomorf taalgebruik
Inleiding
Op het snijvlak van auteursrecht & AI is regelmatig (felle) kritiek te lezen op ‘antropomorfiserend’ taalgebruik. Wanneer we als juristen schrijven over AI is het volgens velen onwenselijk dat daarbij ‘mensachtige’ termen worden gebruik...
Denemarken zet stap richting nieuw verbodsrecht op deepfakes
De Deense regering heeft aangekondigd het auteursrecht te willen aansterken om zo de verspreiding van deepfakes effectiever te bestrijden. In tegenstelling tot eerdere initiatieven, waarbij met name pornografische deepfakes werden aangepakt, richt...
Google’s AI-summaries: innovatie of roofbouw? De laatste juridische ontwikkelingen
De introductie van AI-gegenereerde samenvattingen bovenaan zoekresultaten markeert een belangrijke verschuiving in hoe online informatie wordt geconsumeerd. Waar Google’s AI Overviews miljoenen gebruikers helpt om sneller antwoorden te vinden, roe...
Europese AI-verordening: nieuwe verplichtingen treden in, maar is het genoeg?
De Europese AI-verordening is sinds 1 augustus 2024 formeel van kracht, en komende maand volgt een belangrijke nieuwe fase. Vanaf augustus worden de eerste verplichtingen voor aanbieders van AI-systemen voor algemene doeleinden (general-purpose...
AI caramba! Dansen met de nieuwe werkelijkheid: over kwaliteitsverlies, bewustzijnsgebrek en paniek in het onderwijs
In februari 2019 werd vanwege zorgen over grootschalig nepnieuws en andere vormen van misbruik GPT-2 niet door OpenAI op de markt gebracht:[1]
“Due to concerns about large language models being used to generate deceptive, biased, or abusive langu...
Generatieve AI en auteursrecht: Europese koerswijziging op komst? Het parlementaire rapport in een notendop
De explosieve opkomst van generatieve AI heeft veel vragen opgeroepen binnen het auteursrecht. Terwijl ontwikkelaars van grote taal- en beeldmodellen hun systemen trainen op miljoenen beschermde werken, worstelen rechthebbenden met onduidelijke re...
The Dutch and Danish proposals for legislation on deepfakes
This article contains a summary and a brief comparison of the Dutch and Danish proposals for legislation relating to deepfakes.
The Dutch proposal is an initiative of member of parliament ms. Rosemarijn Dral, based on an article published in O...
Europa's definitieve AI-gedragscode: veiligheid, auteursrecht en transparantie in aanloop naar 2 augustus 2025
Op 2 augustus 2025 gaan de verplichtingen uit de AI-verordening in voor aanbieders van AI-modellen voor algemene doeleinden. In aanloop naar het nieuwe wettelijke kader heeft het Europese AI Office onlangs de definitieve versie van de gedragscode ...
Google’s open-source medische AI biedt kansen, maar roept ook vragen op
Google heeft de lat opnieuw hoger gelegd. Met de lancering van de MedGemma-modellen betreedt de techgigant het domein van open-source medische AI op een schaal die eerder nog niet voorkwam. Waar vorige toepassingen vooral werden aangeboden als com...
Amerika’s AI Action Plan gelanceerd: snelheid boven veiligheid?
Op 23 juli 2025 presenteerde de Amerikaanse regering het langverwachte AI Action Plan. In een vurige toespraak noemde president Trump kunstmatige intelligentie “pure genius” en verklaarde hij dat Amerika de race om deze technologie koste wat kost ...
Meta (opnieuw) aangeklaagd voor illegale AI-training, door grote porno-exploitanten
De juridische strijd rond AI-training bereikt een nieuwe piek. In een explosieve aanklacht beschuldigen twee gerenommeerde Amerikaanse pornostudio’s Meta van grootschalige auteursrechtinbreuk. Zij stellen dat Meta sinds 2018 meer dan 2.396 video’s...
Nepjurisprudentie: hoe AI de rechtspraak kan beïnvloeden zonder dat iemand het doorheeft
Een Amerikaanse advocaat citeerde vier niet-bestaande uitspraken in een verzoekschrift. Ze bleken afkomstig uit ChatGPT. De rechter ontdekte het, legde een boete op en verplichtte de betrokken advocaat tot het volgen van training voor het (ethisch...
Wie is aansprakelijk als een auto zelf rijdt? Van menselijke schuld naar systeemfouten
Inleiding
De opmars van AI, ooit alleen een abstract idee, is vandaag onmiskenbaar verweven met ons dagelijks leven. De impact ervan laat zich duidelijk voelen in de wereld van zelfrijdende auto's. Autonome voertuigen opereren niet langer uitslui...
Wat de transparantieplicht in de AI-verordening betekent voor de journalistiek
Inleiding
Recent publiceerde het NRC een artikel over de AI-worsteling van de journalistiek.[1] Daarin werd besproken hoe vier grote Vlaamse tijdschriften artikelen hadden laten genereren door AI zonder dit te melden aan de lezers. Zo werden mee...