Google aansprakelijk voor hallucinerende AI Overview, aldus Duitse rechtbank

Het Landgericht München I heeft in deze zaak geoordeeld dat Google rechtstreeks aansprakelijk is voor (onjuiste) door haar AI gegenereerde antwoorden in de zoekresultaten. Volgens de rechtbank gaat het niet langer om neutraal doorgelinkte informatie, maar om een eigen, aan Google toe te rekenen uiting. Aanleiding voor het oordeel was een AI Overview waarin twee Duitse uitgevers ten onrechte in verband werden gebracht met fraude en andere dubieuze handelspraktijken. De uitspraak vormt een belangrijke stap in de juridische beoordeling van generatieve AI en de vraag wie verantwoordelijk is voor misleidende AI-output.

De feiten

De zaak werd aangespannen door twee Duitse uitgevers die verbonden zijn aan boekenwinkel Verlagshaus24. Het geschil ziet op Google’s "Übersicht mit KI" (AI Overview), waarbij een generatief AI-systeem informatie uit verschillende bronnen samenvat en presenteert aan gebruikers, op basis van hun zoekopdrachten in Google Search. De AI Overview verschijnt daarbij boven de traditionele zoekresultaten.

Bij zoekopdrachten waarin de naam van de uitgevers werd gecombineerd met de term "Betrugsmasche" (oplichtingstruc), verschenen AI Overviews waarin werd gesteld dat de ondernemingen bekend zouden staan om "unseriöse Geschäftspraktiken" (onbetrouwbare handelspraktijken) en klanten in zogenoemde "Abo-Fallen" (abonnementsvallen) zouden lokken (zie p. 7). Daarnaast legde de AI Overview verbanden tussen de uitgevers en andere ondernemingen die uit geen van de aangehaalde bronnen konden worden afgeleid. Ook werden beschuldigingen geuit over het in rekening brengen van diensten na niet-gevoerde telefoongesprekken, het blijven innen van betalingen na reeds verrichte betalingen en het wisselen van namen en URL's.

De uitgevers sommeerden Google op 2 februari 2026 om deze uitingen te verwijderen. Google verwees hen aanvankelijk naar een online meldingsformulier en vroeg later om aanvullende informatie. In de tussentijd verschenen gewijzigde AI Overviews, waarin juist werd verduidelijkt dat de uitgevers niet moesten worden verward met een andere onderneming die in een vergelijkbare context werd genoemd.

Juridische analyse

Centraal stond de vraag of Google met haar AI Overviews slechts optrad als aanbieder van een zoekmachine, of dat de inhoud van de AI-antwoorden als eigen uitingen aan Google moest worden toegerekend. De rechtbank koos nadrukkelijk voor het laatste.

Geen zoekresultaat, maar een nieuwe uiting

Volgens de rechtbank beperken AI Overviews zich niet tot het tonen van hyperlinks of snippets van websites van derden, zoals Google Search dat traditioneel wel doet. Integendeel, de AI formuleert zelfstandig een antwoord, brengt een eigen structuur aan en presenteert een inhoudelijke beoordeling van de gevonden informatie (r.o. 3.3).

Google’s AI begint met stellige bevestigingen, die in dit geval onjuist zijn. Daarna volgen samenvattingen, opsommingen van vermeende kenmerken van de frauduleuze praktijken en zelfs concrete handelingsadviezen voor gebruikers. Daarbij presenteert de AI verbanden die in de onderliggende bronnen helemaal niet voorkomen. Zo wordt een relatie gelegd tussen de uitgevers en andere ondernemingen, terwijl geen van de door de AI aangehaalde (en voor de gebruiker zichtbare) bronnen een dergelijk verband daadwerkelijk legt.

De rechtbank concludeert dat er sprake is van een zelfstandige inhoudelijke bewerking. Aangezien Google de AI in kwestie zelf heeft geïntroduceerd en deze functionaliteit actief aanbiedt, moet zij zich de uitkomsten daarvan laten toerekenen. Oftewel, Google is aansprakelijk.

Waarom bestaande rechtspraak Google niet helpt

Google beroept zich op eerdere rechtspraak van het Bundesgerichtshof (BGH) over zoekmachines en autocomplete-functionaliteiten. Maar volgens de rechtbank verschillen die situaties wezenlijk van AI Overviews en is die rechtspraak hier dus niet van toepassing (r.o. 3.4.1).

Bij traditionele zoekmachines oordeelde de BGH dat exploitanten niet verplicht kunnen worden om alle zoekresultaten proactief te controleren. De gedachte hierachter is dat zoekmachines nodig zijn om het internet op zinvolle wijze te kunnen gebruiken, en dat het onmogelijke dus niet van exploitanten kan worden gevergd. Aansprakelijkheid ontstaat dan ook in beginsel pas nadat een duidelijke onrechtmatigheid onder de aandacht is gebracht, waarna geen maatregelen worden getroffen. Volgens het Landgericht München I gaat voorgaande redenering niet op voor AI Overviews. Google’s AI beperkt zich niet tot het toegankelijk maken van informatie, maar selecteert, combineert en presenteert die informatie in de vorm van een zelfstandig antwoord. Bovendien is een AI Overview volgens de rechtbank geen onmisbare voorwaarde voor het functioneren van het internet. Reguliere zoekresultaten maken informatie immers al voldoende toegankelijk.

Ook de BGH-rechtspraak over autocomplete biedt Google geen uitweg (bij autocomplete worden automatisch suggesties gedaan voor aanvullingen op zoektermen). Het BGH heeft weliswaar geoordeeld dat autocomplete niet alleen technisch of passief van aard is. Hoewel sprake is van een zekere verantwoordelijkheid van de exploitant, moet die van geval tot geval worden beoordeeld. Doorgaans volstaat het om pas na kennisneming van een mogelijke onrechtmatigheid maatregelen te treffen. Maar bij AI Overviews is de verantwoordelijkheid des te groter, aldus de rechtbank. Hierbij zijn namelijk niet alleen afzonderlijke zoekfuncties in het geding, maar een zelfstandig door het systeem gegenereerde uiting. Juist deze omstandigheid ligt volgens de rechtbank ten grondslag aan de directe toerekening van de AI-output aan Google.

Bronverwijzingen ontslaan Google niet van verantwoordelijkheid

Google voert aan dat gebruikers de onderliggende bronnen kunnen raadplegen en dus zelf kunnen controleren of de AI-samenvatting juist is. Ook dat verweer slaagt niet (r.o. 3.4.2).

Volgens de rechtbank vormt de AI Overview een zelfstandig en afgerond antwoord. Dat een gebruiker de onjuistheid eventueel door nader onderzoek zou kunnen ontdekken, neemt de verantwoordelijkheid voor de oorspronkelijke uiting niet weg. Ter onderbouwing verwijst de rechtbank naar de bekende rechtspraak over Titelseitenleser en misleidende teasers. Net zoals vluchtige lezers niet geacht worden een volledig artikel te raadplegen om een onjuiste kop te corrigeren, kan van gebruikers niet worden verwacht dat zij standaard alle onderliggende bronnen controleren om AI-antwoorden te verifiëren. Sterker nog: als gebruikers steeds alle geraadpleegde bronnen zouden moeten nalopen, zou het praktische nut van AI Overviews aanzienlijk worden verminderd.

DSA en AI-verordening bieden geen uitweg

De rechtbank maakt korte metten met het argument dat Europese regelgeving aan civielrechtelijke aansprakelijkheid in de weg zou staan (r.o. 1.2 jo. 3.5).

Hoewel de AI-verordening voorziet in toezichtmechanismen en de mogelijkheid om klachten in te dienen bij markttoezichthouders, laat het bestaande nationale rechtsmiddelen onverlet. Ook de privileges uit de Digital Services Act (DSA) kunnen Google niet baten. Artikel 6 lid 4 DSA laat rechterlijke bevelen tot beëindiging of voorkoming van onrechtmatige gedragingen uitdrukkelijk onverlet. Bovendien kan Google zich in dit geval niet beroepen op haar rol als neutrale tussenpersoon. De AI Overview wordt immers aangemerkt als een eigen, aan Google toe te rekenen uiting. 

Bredere context

De uitspraak staat niet op zichzelf. Zo oordeelde het Oberlandesgericht Hamm in Duitsland recent nog dat een medische kliniek aansprakelijk moest worden gesteld voor de hallucinerende uitingen van een chatbot in haar klantenservice (zie hier een uitgebreide bespreking; de uitingen zagen op de dienstverlening van het bedrijf).

Ook buiten Duitsland zijn vergelijkbare ontwikkelingen zichtbaar. In Canada is Air Canada aansprakelijk gehouden voor de onjuiste informatie die door haar chatbot over restitutieregelingen was verstrekt. In de Verenigde Staten is aansprakelijkheid voor AI-output tot dusver afgewezen (zie o.a. Walters v. OpenAI). Mogelijk brengt Wolf River Electric v. Google daar binnenkort verandering in, aangezien die zaak sterke gelijkenissen vertoont met de hier onderhavige zaak tegen Google.

Afsluitend

Met deze uitspraak zet het Landgericht München I een belangrijke stap in de juridische beoordeling van generatieve AI. Waar aanbieders van zoekmachines oorspronkelijk konden profiteren van beperkte aansprakelijkheid, oordeelt de rechtbank nu dat hetzelfde principe niet opgaat voor een tool als AI Overview. Dat is een verstrekkende conclusie. Dergelijke AI-toepassingen worden inmiddels op grote schaal ingezet en tot op zekere hoogte door consumenten gewaardeerd. Tegelijkertijd lijken hallucinerende antwoorden voorlopig een onvermijdelijk onderdeel van generatieve AI. Het is dan ook afwachten hoe andere (hogere) rechters hierover zullen oordelen.

De laatste ontwikkelingen leest u zoals gewoonlijk op AI-Forum