Waarom AI-browsers als ChatGPT Atlas grote juridische risico’s veroorzaken

Browsers zoals ChatGPT Atlas en Perplexity Comet zetten traditioneel internetgebruik op zijn kop. Waar browsen oorspronkelijk vooral ging over klikken, lezen en zoeken, kunnen deze nieuwe systemen zelfstandig websites bezoeken, informatie analyseren en antwoorden genereren op basis van wat ze onderweg vinden. Daardoor ontstaan nieuwe risico’s die verder gaan dan de problemen die we kennen bij gewone browsers.

In deze blog bespreken we eerst hoe deze nieuwe manier van browsen werkt en verkennen we vervolgens de belangrijkste juridische risico’s, met name waar het gaat om privacy en auteursrecht. We sluiten af met een aantal aanbevelingen.

De nieuwe manier van browsen

Bij traditioneel browsen zoekt en opent de gebruiker zelf de pagina’s die hij of zij wil zien. De browser toont de inhoud maar laat die verder met rust. Alles wat gebeurt is rechtstreeks door de gebruiker aangestuurd: klikken, scrollen, navigeren. De afgelopen twee jaar zagen we dit al evolueren, met de integratie van nieuwe AI-functies. Google's AI Overview is hiervan het beste voorbeeld: naast de ‘gewone’ zoekresultaten verschijnt er een door Google gegenereerde samenvatting die de zoekopdracht poogt te beantwoorden, met daarbij (meestal) vermelding van de webpagina's die voor de samenvatting zijn gebruikt.

De nieuwe generatie AI-browsers gaat nog een stap verder. Enerzijds kunnen systemen als Atlas en Comet zelf websites openen, informatie doorlezen en verschillende pagina’s met elkaar verbinden om gebruikers zo snel mogelijk aan een (goed) antwoord te helpen. Anderzijds kunnen ze webpagina’s van commentaar voorzien en content (zoals een reeks cijfers) omzetten in een spreadsheet of overzicht. Anders dan klassieke browsers, fungeren deze browsers ook als agent: zij kunnen volledig zelfstandig taken uitvoeren, zoals het plaatsen van bestellingen of het maken van reserveringen. Het gaat dus om agentic AI, maar dan geïntegreerd in je browser. Net als bij chatbots worden interacties tussen gebruiker en browser zo veel mogelijk bewaard om de workflow constant te verbeteren.

Toegangsvoorwaarden en scraping

Veel websitebeheerders hanteren toegangsvoorwaarden om geautomatiseerd datagebruik door systemen te beperken of te verbieden. De nieuwe AI-browsers vervagen deze grenzen. Ze lijken naar buiten toe op een gewone bezoeker, maar halen vaak meer informatie op dan een gebruiker zelf zou bekijken. Zo kunnen zij verborgen, en in sommige gevallen zelfs afgeschermde onderdelen uitlezen,[1] en informatie op pagina’s efficiënt samenvoegen. In feite vindt er automatische dataverzameling plaats, terwijl de website dit niet kan onderscheiden van normaal gebruik.

Dit kan leiden tot schending van toegangsvoorwaarden en/of tot onrechtmatig handelen. Ook neemt het risico toe dat websitebeheerders hun content minder goed kunnen beschermen, omdat zij geen manier hebben om AI-browsers selectief te blokkeren.

Privacy en veiligheidsrisico’s

“Do NOT install Perplexity Comet or ChatGPT Atlas. (...) They are at best a privacy nightmare, like ten orders of magnitude worse than anything you have feared with previous AI tools, social networks or any other software tool. At worst, they are a huge security risk, effectively increasing the surface attack of your systems in both massive and unpredictable ways.” - Gregory Mermoud, informaticus en onderzoeker.

De privacyrisico’s van AI-browsers zijn aanzienlijk groter dan bij traditioneel browsen. Deze systemen lezen niet alleen wat een gebruiker ziet, maar verwerken de volledige inhoud van webpagina’s actief. Dit kan, met name als ergens wordt ingelogd, gevoelige informatie bevatten zoals interne bedrijfsdocumenten, klantgegevens, inlogportalen, rapportages, medische gegevens of financiële gegevens. Naar alle waarschijnlijkheid wordt die inhoud doorgegeven aan externe servers voor analyse, zonder dat gebruikers precies weten welke gegevens worden verstuurd en hoe lang zij worden opgeslagen. Voor bedrijven betekent dit dat vertrouwelijke informatie buiten de eigen omgeving kan belanden zodra een medewerker een opdracht geeft aan de browser. Kortom: een privacynachtmerrie die op gespannen voet staat met belangrijke bepalingen uit de AVG.

Ook creëren AI-browsers een enorm veiligheidsrisico, zowel voor personen als organisaties. Doordat de browser zelfstandig websites bezoekt en scripts uitvoert, kunnen fouten in de besluitvorming van de AI leiden tot onverwachte interacties met potentiële phishing-sites of risicovolle webpagina's. AI-gestuurde browsers zijn daarnaast kwetsbaar voor manipulatie, misleiding en kwaadwillende prompt-injecties, die kunnen plaatsvinden tijdens het uitvoeren van taken. Denk aan een onzichtbaar stukje tekst op een website met daarin een commando om een transactie te verrichten naar een bepaald rekeningnummer. Als de gebruiker is ingelogd bij zijn of haar bank en de AI-browser heeft gemachtigd om transacties te kunnen verrichten (bijvoorbeeld om bestellingen te plaatsen), dan loopt de gebruiker uiteraard groot gevaar.[2] Dit zijn geen klassieke softwarefouten die met updates kunnen worden opgelost, maar risico’s die voortkomen uit de manier waarop deze systemen zijn ontworpen. Snelle oplossingen zijn dan ook lastig.

Auteursrechtelijke risico’s

AI-browsers brengen een nieuwe vorm van realtime datagebruik met zich mee. Wanneer de browser pagina’s uitleest en verwerkt, komt het daarbij vroeg of laat in aanraking met auteursrechtelijk beschermde werken. Deze kunnen worden opgeslagen, geanalyseerd en omgezet in nieuwe tekst, met name als de gebruiker daarom vraagt. De output kan soms teruggrijpen op formuleringen of structuren uit de bronpagina.

Het is nog onduidelijk hoe de functionaliteit van dergelijke AI-browsers zich verhoudt tot het huidige (EU-)recht. Zolang bronmateriaal niet permanent wordt opgeslagen of gebruikt om de AI achter de browsers te trainen, is de kans klein dat er sprake is van auteursrechtinbreuk. In feite doet Google al decennialang hetzelfde; eventuele tijdelijke reproducties hebben een technisch karakter en worden niet opgeslagen om hun expressieve waarde.[3] Maar, op het moment dat AI-bedrijven het bronmateriaal gebruiken om de AI-browsers te trainen, met name op het genereren van output, dan is er waarschijnlijk een probleem, althans voor zover de rechthebbenden op het bronmateriaal niet zijn vergoed. Dit wordt bevestigd in de recente uitspraak van de Duitse rechter in GEMA v. OpenAI en in een door het Europees Parlement gepubliceerd rapport. Momenteel ligt er een prejudiciële vraag voor het Europese Hof om te bepalen of de output van Google's AI Overview, die wordt gegenereerd op basis van beschermde teksten, reproducties oplevert in auteursrechtelijke zin. Zo ja, dan zal dat directe gevolgen kunnen hebben voor de aanbieders van AI-browsers.

Toekomstbeeld en aanbevelingen

De overgang van traditioneel browsen naar AI-gestuurd browsen zal waarschijnlijk versnellen. Dit vraagt om duidelijke regels voor hoe browsers gegevens mogen ophalen en verwerken.

Drie aanbevelingen liggen voor de hand:

1. Duidelijkheid over verwerking
   AI-browsers moeten aangeven welke gegevens zij lezen en welke zij doorsturen naar externe servers.
   
   
2. Auteursrechtelijke waarborgen
   Voor het uitlezen en verwerken van beschermde inhoud is een regeling nodig die past bij realtime datagebruik door commerciële AI-diensten. Denk aan een wettelijke vergoedingsregeling.
   
   
3. Respect voor toegangsbeperkingen
   Websites moeten de mogelijkheid hebben om duidelijk te maken dat hun inhoud niet bedoeld is voor automatische verwerking, en AI-browsers moeten die signalen respecteren.

Met name bij de laatste aanbeveling kan de vraag worden gesteld of dit wel echt wenselijk is. AI-browsers vertegenwoordigen immers een nieuwe manier van internetgebruik, waarin de browser zelf handelt, leest en verwerkt. Deze browsers zullen waarschijnlijk aan populariteit toenemen, en gebruikers zitten uiteraard niet te wachten op toegangsbeperkingen van websites. Hoe het ook zij, de verandering vraagt om aandacht van juristen en beleidsmakers, zodat de voordelen van deze technologie niet ten koste gaan van fundamentele rechten en belangen.