Blog
Meta’s AI-app leidt tot onbedoelde publicatie van privégesprekken
Redactie
De nieuwe standalone AI-app van Meta heeft veel stof doen opwaaien. Gebruikers van de app deelden onbedoeld persoonlijke gesprekken met de chatbot op een openbare feed. De situatie heeft vragen opgeroepen over Meta’s interface en de bescherming van persoonsgegevens, met name onder Europese wetgeving.
Wat is er gebeurd?
In april 2025 bracht Meta een zelfstandige AI-app uit waarin gebruikers met de Meta AI-chatbot kunnen communiceren. In tegenstelling tot bijvoorbeeld ChatGPT, bevat de app een publieke “Discover”-feed, waarop gebruikers gesprekken, afbeeldingen en audioberichten kunnen delen. Hoewel berichten in beginsel privé blijven, is er bovenin elk chatvenster een prominente ‘Share’-knop opgenomen. Wanneer gebruikers daarop klikken, verschijnt een venster waarin een preview van het te publiceren bericht wordt getoond, met daaronder de optie ‘Post to feed’.
Uit tal van mediaberichten blijkt dat veel gebruikers niet doorhadden dat zij via deze handeling hun privégesprekken online deelden. In de publieke feed verschenen duizenden berichten met gevoelige informatie: verzoeken om hulp bij belastingontwijking, juridische vragen, medische en relationele kwesties, en zelfs huisadressen en rechtbankdocumenten. De gesprekken kunnen direct worden gekoppeld aan de social media-accounts van de betreffende gebruikers (mits die waren ingelogd), doordat profielnamen en foto's gewoon zichtbaar zijn.
De privacy-implicaties
De kwestie werpt serieuze vragen op over de privacybescherming van gebruikers. Hoewel Meta stelt dat delen optioneel is, lijkt er sprake van een fundamenteel misverstand bij een aanzienlijke groep gebruikers. Daarmee is het maar de vraag of deze gebruikers daadwerkelijk geldige toestemming hebben gegeven voor de openbaarmaking van hun gesprekken en (persoons)gegevens.
Volgens de Algemene Verordening Gegevensbescherming (AVG) moet toestemming voor het verwerken van gegevens vrij, specifiek, geïnformeerd en ondubbelzinnig zijn gegeven voor een of meer specifieke doeleinden (art. 4 lid 11 jo. art. 6 lid 1 sub a AVG). Bovendien geldt op grond van art. 7 AVG dat de verwerkingsverantwoordelijke (Meta) moet kunnen aantonen dat aan deze voorwaarden is voldaan. Nu gebruikers kennelijk onbewust gevoelige informatie hebben gedeeld, kan worden betoogd dat toestemming in dit geval niet rechtsgeldig is verstrekt.
Daar komt ook nog bij dat Meta’s interface mogelijk kwalificeert als een ‘dark pattern’ in de zin van art. 25 lid 1 Digital Services Act (DSA), nu de vormgeving van het keuzescherm ertoe heeft geleid dat gebruikers beslissingen namen die zij waarschijnlijk niet genomen zouden hebben bij volledige kennis van zaken. Dark patterns zijn onder EU-recht verboden omdat ze de autonomie van gebruikers ondermijnen.
Indien wordt vastgesteld dat Meta persoonsgegevens zonder geldige toestemming heeft verwerkt, kan dat een schending opleveren van art. 6 lid 1 sub a AVG (toestemming als rechtsgrondslag). Overtredingen van de AVG kunnen worden beboet door toezichthoudende autoriteiten, zoals de Autoriteit Persoonsgegevens (AP) in Nederland of andere bevoegde instanties binnen de EU (art. 58 en 83 AVG). Voor overtredingen van de DSA is in Nederland de Autoriteit Consument & Markt (ACM) de aangewezen toezichthouder. Gezien de omvang van het probleem, dat mogelijk duizenden betrokkenen treft, ligt het voor de hand dat toezichthouders deze zaak nader zullen inspecteren.
Huidige stand van zaken
Na de ophef heeft Meta een aanpassing doorgevoerd in de app. Vanaf nu moeten gebruikers na het indrukken van ‘Share’ eerst nog op hun scherm klikken met daarop de volgende melding: "Prompts you post are public and visible to everyone… Avoid sharing personal or sensitive information." Pas daarna kan ‘Post to feed’ worden aangeklikt. Hoewel hiermee strikt genomen nog steeds geen uitdrukkelijke toestemming wordt gevraagd in de zin van de AVG, kan wel worden gesteld dat gebruikers nu bewust instemmen met de openbaarmaking.
Conclusie
De introductie van Meta’s AI-app heeft geleid tot onbedoelde openbaarmaking van intieme gesprekken, waardoor de privacy van talloze gebruikers in het geding is gekomen. Daarbij is mogelijk in strijd gehandeld met de AVG en de DSA. Meta heeft inmiddels maatregelen genomen om onbedoeld delen moeilijker te maken, waarmee het probleem lijkt te zijn ondervangen. Tegelijkertijd illustreert deze zaak hoe essentieel het is dat grondrechten als privacy goed worden beschermd, zeker nu AI-systemen een steeds ingrijpender rol spelen in het dagelijks leven van gebruikers.
AI-forum 2025/2
GPT-4o en het Ghibli Effect: de genadeslag voor ontwerpers en rechthebbenden?
Afgelopen week stond social media vol met afbeeldingen in de kenmerkende stijl van de Japanse animatiestudio Ghibli. Dit was het gevolg van de release van OpenAI's nieuwe afbeeldingsgenerator, die onderdeel uitmaakt van de reeds bestaande chatbot ...
Anthropic mag de ontwikkeling van Claude AI doorzetten, ondanks zorgen auteursrecht
Van de 39 Amerikaanse auteursrechtzaken op het gebied van AI-ontwikkeling, zijn er twee gericht tegen ontwikkelaar Anthropic. Anthropic is het bedrijf achter Claude AI, een chatbot van vergelijkbare aard en kwaliteit als ChatGPT. Claude is deels g...
AI Verordening: Hoe verzeker je AI-geletterdheid binnen je organisatie?
Sinds 2 februari 2025 zijn aanbieders en gebruiksverantwoordelijken van AI-systemen verplicht om voldoende AI-geletterdheid te verzekeren van hun personeel en andere personen die namens hen AI-systemen gebruiken. Als onderdeel van de eerste ree...
Creatieve sector verontwaardigd over nieuwe Gedragscode AI-verordening
Het Europese AI-bureau heeft recent de derde en laatste conceptversie gepubliceerd van de Gedragscode voor aanbieders van generatieve AI, als aanvulling op de AI-verordening. Makers, uitvoerende kunstenaars en rechthebbenden reageren hierop veront...
Britse denktank wil commerciële AI-training in Engeland legaliseren
2 maanden terug bespraken we hoe de Britse overheid een auteursrechtelijke hervorming overweegt op basis waarvan bedrijven voor commerciële doeleinden mogen tekst- en dataminen, tenzij rechthebbenden zich daar uitdrukkelijk tegen verzetten. Oftewe...
Generatieve AI als voertuig voor de meningsuiting en creatieve expressie
De discussie over generatieve AI in de kunstwereld wordt vaak gedomineerd door zorgen. Makers en rechthebbenden vrezen dat hun werken worden nagebootst, dat creatieve beroepen onder druk komen te staan en dat bestaande rechten worden ondermijnd. M...
Hoe GPT-NL en Nextcloud de afhankelijkheid van Big Tech helpen terugdringen
In een wereld waarin taalmodellen als ChatGPT razendsnel terrein winnen, groeit ook het besef van afhankelijkheid. De meeste krachtige AI-systemen worden gebouwd en beheerd door een handvol grote Amerikaanse technologiebedrijven, die beperkte tran...
AI-training is geen fair use, concludeert een groep Amerikaanse hoogleraren
Een groep toonaangevende Amerikaanse hoogleraren auteursrecht heeft zich uitgesproken tegen Meta’s beroep op fair use voor het trainen van generatieve AI-modellen. In een stevig beargumenteerde amicus brief stellen de experts dat het gebruik van a...
Adobe's Content Credentials: het equilibrium tussen auteursrecht en innovatie?
De inzet op transparantie in het tijdperk van generatieve AI krijgt een krachtige impuls met Adobe’s recente introductie van Content Credentials. Door dit nieuwe systeem kunnen makers hun naam, de herkomst van werken en hun voorkeuren over AI-gebr...
2024 EU AI-verordening: een gedetailleerde analyse
De AI-verordening is een belangrijk regelgevingskader dat gericht is op het harmoniseren van de ontwikkeling, de toepassing en het gebruik van AI binnen de EU. Deze uitgebreide regelgeving, die op 1 augustus 2024 van kracht is geworden, is bedoeld...
OpenAI wijzigt koers: non-profit behoudt controle
OpenAI heeft aangekondigd de plannen voor de overgang naar een winstgericht bedrijfsmodel deels terug te draaien. Het bedrijf is van plan zijn for-profit tak om te zetten in een public benefit corporation (PBC), maar de volledige zeggenschap blijf...
AI in oorlogsvoering: strategische innovaties en juridische uitdagingen
Kunstmatige intelligentie (AI) speelt een steeds grotere rol in moderne oorlogsvoering. Wat begon als een ondersteunend hulpmiddel in beeldherkenning en dataverwerking, ontwikkelt zich razendsnel tot een beslissende factor in zowel militaire op...
US Copyright Office over AI-training, auteursrecht en fair use (uitgebreide analyse)
Begin mei publiceerde het Amerikaanse Copyright Office (UCO) het derde en laatste rapport in haar reeks over AI en auteursrecht. Het rapport werpt een diepgravende blik op de juridische status van AI-training onder het Amerikaanse auteursrecht, me...
Aansprakelijkheid in het AI-tijdperk: is de kwalitatieve aansprakelijkheid voor gebrekkige roerende zaken toe aan een update?
§ 1. Inleiding
Artificial intelligence (hierna: ‘AI’) speelt een steeds grotere rol in onze samenleving. Zo is AI bezig met een flinke opmars in onder andere de financiële sector, in bestuursrechtelijke besluitvormingsprocessen en bij de opkomst ...
Amerikaans wetsvoorstel verbiedt niet-federale AI-wetgeving voor 10 jaar
In het Huis van Afgevaardigden (de Amerikaanse tegenhanger van de Tweede Kamer) is een wetsvoorstel ingediend dat staten en andere niet-federale overheden de komende tien jaar verbiedt om eigen regels op te stellen voor kunstmatige intelligentie. ...
AI-training en auteursrecht: de internationale verschillen
Mag je auteursrechtelijk beschermd werk gebruiken om AI-modellen te trainen? Die vraag houdt wetgevers wereldwijd bezig. Als onderdeel van haar recente rapport, heeft het Amerikaanse Copyright Office in kaart gebracht hoe verschillende landen AI-t...
Het doel heiligt de middelen – Anthropic’s nieuwe AI grijpt naar chantage
Anthropic heeft met Claude Opus 4 een van de meest geavanceerde AI-modellen tot nu toe gelanceerd. Maar bij interne veiligheidstests bleek het model bijzonder doortastend, zelfs manipulatief. Deze blog bespreekt hoe Claude Opus 4 overging tot chan...
Japan introduceert AI-wetgeving die sterk afwijkt van onze AI-verordening
Op 28 mei 2025 nam het Japanse parlement voor het eerst een nationale AI-wet aan. Deze nieuwe wet, beter bekend als de AI Utilization Promotion Act, kiest nadrukkelijk voor een andere koers dan de Europese Unie. Waar de EU inzet op risicobeperking...
Van handmatige moderatie naar AI-gestuurde detectiesystemen
Inleiding
In hoeverre moet generatieve stijlnabootsing worden afgeremd met “guardrails”?
De opkomst van generatieve AI heeft een breed spectrum aan creatieve toepassingen mogelijk gemaakt. Of het nu gaat om tekst, beeld, video of muziek: de modellen worden steeds krachtiger. Tegelijkertijd staat de juridische toetsing aan bijvoorbeeld...
Derde rechtszaak tegen Anthropic: kun je tekst- en datamining contractueel verbieden?
Reddit heeft een rechtszaak aangespannen tegen AI-ontwikkelaar Anthropic. De aanklacht draait om het vermeende herhaaldelijk scrapen van Reddit-data door Anthropic, ondanks eerdere toezeggingen om daarmee te stoppen. Daarmee voegt deze zaak zich i...
Disney en Universal trekken ten strijde tegen AI-bedrijf Midjourney
Disney en Universal hebben een rechtszaak aangespannen tegen het AI-bedrijf Midjourney. Volgens de twee Hollywood-giganten heeft Midjourney op grote schaal auteursrechtelijk beschermd beeldmateriaal gebruikt bij het trainen van zijn AI-modellen, z...
Meta’s AI-app leidt tot onbedoelde publicatie van privégesprekken
De nieuwe standalone AI-app van Meta heeft veel stof doen opwaaien. Gebruikers van de app deelden onbedoeld persoonlijke gesprekken met de chatbot op een openbare feed. De situatie heeft vragen opgeroepen over Meta’s interface en de bescherming va...
AI-muziekplatforms in overleg met major labels: wat zijn de mogelijke gevolgen?
Recent werd bevestigd dat de grote platenmaatschappijen (Universal Music Group, Warner Music Group en Sony Music Entertainment) in gesprek zijn met de bekende AI-muziekplatforms Suno en Udio. Volgens diverse bronnen onderhandelen deze partijen ...
AI in kinderspeelgoed: Mattel en OpenAI kondigen nieuwe samenwerking aan
Mattel en OpenAI hebben een strategische samenwerking aangekondigd om AI te integreren in speelgoed voor kinderen. Het nieuws roept belangrijke juridische en maatschappelijke vragen op. In dit artikel bespreken we de aankondiging, de eerste reacti...
Generatieve AI-training is fair use, oordeelt de Amerikaanse rechter
Voor het eerst heeft een Amerikaanse rechter geoordeeld dat het trainen van een generatief AI-model met auteursrechtelijk beschermd materiaal onder fair use valt. De uitspraak komt in de zaak Bartz v. Anthropic, waarin drie auteurs AI-bedrijf Anth...
AI-training is meestal inbreuk, zegt deze Amerikaanse rechter: “Indirect substitution is still substitution”
Voor de tweede keer deze week heeft een Amerikaanse rechter zich uitgesproken over de vraag of AI-training onder fair use valt. In Kadrey v. Meta oordeelt rechter Vince Chhabria dat het gebruik van auteursrechtelijk beschermde boeken voor het trai...
Tegenstrijdige visies op AI-training en fair use: hoe de rechter afwijkt van het US Copyright Office
Maandag 23 juni 2025 werd een mijlpaal bereikt in het Amerikaanse auteursrecht: in de zaak Bartz v. Anthropic oordeelde de federale rechter William Alsup voor het eerst dat het gebruik van auteursrechtelijk beschermd materiaal voor AI-training ond...
Wanneer AI leeft: juridische en ethische vraagstukken rond biohybride AI
Inleiding
Kunstmatige intelligentie ontwikkelt zich snel, onder andere op het snijvlak van technologie en biologie. Biohybride AI-systemen, oftewel AI die draait op levende cellen, zetten niet alleen technologische conventies op hun kop, maar dag...
De verboden metafoor: AI en antropomorf taalgebruik
Inleiding
Op het snijvlak van auteursrecht & AI is regelmatig (felle) kritiek te lezen op ‘antropomorfiserend’ taalgebruik. Wanneer we als juristen schrijven over AI is het volgens velen onwenselijk dat daarbij ‘mensachtige’ termen worden gebruik...
Denemarken zet stap richting nieuw verbodsrecht op deepfakes
De Deense regering heeft aangekondigd het auteursrecht te willen aansterken om zo de verspreiding van deepfakes effectiever te bestrijden. In tegenstelling tot eerdere initiatieven, waarbij met name pornografische deepfakes werden aangepakt, richt...
Google’s AI-summaries: innovatie of roofbouw? De laatste juridische ontwikkelingen
De introductie van AI-gegenereerde samenvattingen bovenaan zoekresultaten markeert een belangrijke verschuiving in hoe online informatie wordt geconsumeerd. Waar Google’s AI Overviews miljoenen gebruikers helpt om sneller antwoorden te vinden, roe...
Europese AI-verordening: nieuwe verplichtingen treden in, maar is het genoeg?
De Europese AI-verordening is sinds 1 augustus 2024 formeel van kracht, en komende maand volgt een belangrijke nieuwe fase. Vanaf augustus worden de eerste verplichtingen voor aanbieders van AI-systemen voor algemene doeleinden (general-purpose...
AI caramba! Dansen met de nieuwe werkelijkheid: over kwaliteitsverlies, bewustzijnsgebrek en paniek in het onderwijs
In februari 2019 werd vanwege zorgen over grootschalig nepnieuws en andere vormen van misbruik GPT-2 niet door OpenAI op de markt gebracht:[1]
“Due to concerns about large language models being used to generate deceptive, biased, or abusive langu...
Generatieve AI en auteursrecht: Europese koerswijziging op komst? Het parlementaire rapport in een notendop
De explosieve opkomst van generatieve AI heeft veel vragen opgeroepen binnen het auteursrecht. Terwijl ontwikkelaars van grote taal- en beeldmodellen hun systemen trainen op miljoenen beschermde werken, worstelen rechthebbenden met onduidelijke re...
The Dutch and Danish proposals for legislation on deepfakes
This article contains a summary and a brief comparison of the Dutch and Danish proposals for legislation relating to deepfakes.
The Dutch proposal is an initiative of member of parliament ms. Rosemarijn Dral, based on an article published in O...
Europa's definitieve AI-gedragscode: veiligheid, auteursrecht en transparantie in aanloop naar 2 augustus 2025
Op 2 augustus 2025 gaan de verplichtingen uit de AI-verordening in voor aanbieders van AI-modellen voor algemene doeleinden. In aanloop naar het nieuwe wettelijke kader heeft het Europese AI Office onlangs de definitieve versie van de gedragscode ...
Google’s open-source medische AI biedt kansen, maar roept ook vragen op
Google heeft de lat opnieuw hoger gelegd. Met de lancering van de MedGemma-modellen betreedt de techgigant het domein van open-source medische AI op een schaal die eerder nog niet voorkwam. Waar vorige toepassingen vooral werden aangeboden als com...
Amerika’s AI Action Plan gelanceerd: snelheid boven veiligheid?
Op 23 juli 2025 presenteerde de Amerikaanse regering het langverwachte AI Action Plan. In een vurige toespraak noemde president Trump kunstmatige intelligentie “pure genius” en verklaarde hij dat Amerika de race om deze technologie koste wat kost ...
Meta (opnieuw) aangeklaagd voor illegale AI-training, door grote porno-exploitanten
De juridische strijd rond AI-training bereikt een nieuwe piek. In een explosieve aanklacht beschuldigen twee gerenommeerde Amerikaanse pornostudio’s Meta van grootschalige auteursrechtinbreuk. Zij stellen dat Meta sinds 2018 meer dan 2.396 video’s...
Nepjurisprudentie: hoe AI de rechtspraak kan beïnvloeden zonder dat iemand het doorheeft
Een Amerikaanse advocaat citeerde vier niet-bestaande uitspraken in een verzoekschrift. Ze bleken afkomstig uit ChatGPT. De rechter ontdekte het, legde een boete op en verplichtte de betrokken advocaat tot het volgen van training voor het (ethisch...
Wie is aansprakelijk als een auto zelf rijdt? Van menselijke schuld naar systeemfouten
Inleiding
De opmars van AI, ooit alleen een abstract idee, is vandaag onmiskenbaar verweven met ons dagelijks leven. De impact ervan laat zich duidelijk voelen in de wereld van zelfrijdende auto's. Autonome voertuigen opereren niet langer uitslui...
Wat de transparantieplicht in de AI-verordening betekent voor de journalistiek
Inleiding
Recent publiceerde het NRC een artikel over de AI-worsteling van de journalistiek.[1] Daarin werd besproken hoe vier grote Vlaamse tijdschriften artikelen hadden laten genereren door AI zonder dit te melden aan de lezers. Zo werden mee...