Rechter-commissaris: gebruik van ChatGPT kan verschoningsrecht doorbreken

Voor het eerst heeft een Nederlandse rechter zich expliciet uitgelaten over de gevolgen van het gebruik van generatieve AI voor het verschoningsrecht, oftewel het recht van (juridische) professionals om te zwijgen over het vertrouwelijke contact met hun cliënten. In een proces-verbaal oordeelt de rechter-commissaris in Rotterdam dat het invoeren van verschoningsgerechtigde informatie in ChatGPT de vertrouwelijkheid ervan kan doorbreken. Hetzelfde geldt voor het laten genereren van een tekst die bestemd is voor een advocaat. In deze gevallen gaat het verschoningsrecht dus niet meer op.

Het oordeel bevestigt het risico dat we eerder signaleerden naar aanleiding van de Amerikaanse zaak United States v. Heppner. Toch blijven belangrijke vragen onbeantwoord. Maakt ieder gebruik van een extern AI-systeem informatie niet-vertrouwelijk, of zijn de gebruikte versie, instellingen en contractuele waarborgen bepalend?

ChatGPT-gesprekken aangetroffen bij doorzoeking

De zaak zit als volgt. In het kader van een strafrechtelijk onderzoek zijn verschillende digitale gegevensdragers van een verdachte in beslag genomen. Omdat daarop mogelijk communicatie met verschoningsgerechtigden stond, verzocht de officier van justitie de rechter-commissaris de gegevens te laten filteren. Deze filtering moet voorkomen dat het onderzoeksteam kennisneemt van vertrouwelijke communicatie met bijvoorbeeld een advocaat.

Tijdens de controle van de gegevens werd een gesprek met ChatGPT aangetroffen. De verdachte had via een prompt een reactie laten opstellen die kennelijk bestemd was voor een verschoningsgerechtigde. In de door ChatGPT gegenereerde tekst werd ook de naam van deze persoon genoemd. Volgens de rechter-commissaris was aannemelijk dat de tekst bedoeld was om met de verschoningsgerechtigde te communiceren. Daarmee rees de vraag of de prompt en de door ChatGPT gegenereerde tekst onder het verschoningsrecht konden vallen.

Gebruik van ChatGPT doorbreekt de vertrouwelijkheid

De rechter-commissaris stelt voorop dat het verschoningsrecht ervoor zorgt dat iedereen zich vrijelijk en zonder vrees voor openbaarmaking tot een advocaat of andere verschoningsgerechtigde kan wenden. Dit belang weegt in beginsel zwaarder dan het belang dat de waarheid in een gerechtelijke procedure aan het licht komt.

Volgens de rechter-commissaris slaat een extern AI-systeem als ChatGPT zowel ingevoerde als gegenereerde informatie op en kan deze informatie vervolgens worden gebruikt voor bijvoorbeeld het trainen van het AI-model. Het invoeren van verschoningsgerechtigde informatie in ChatGPT kan daarom worden aangemerkt als openbaarmaking. Hetzelfde geldt voor het laten genereren van een tekst die bestemd is voor een verschoningsgerechtigde. 

In de woorden van de rechter-commissaris:

“Het gevolg hiervan is dat de informatie haar vertrouwelijke karakter verliest en derhalve, in voorkomend geval, niet langer kan worden aangemerkt als verschoningsgerechtigde informatie”

Het oordeel heeft in deze zaak concrete gevolgen. ChatGPT-gesprekken die bij de filtering aanvankelijk als mogelijk verschoningsgerechtigd waren gemarkeerd, worden alsnog als niet-verschoningsgerechtigd aangemerkt. Hierdoor worden deze gesprekken onderdeel van de geschoonde dataset die aan het onderzoeksteam en het Openbaar Ministerie wordt vrijgegeven.

Onbeantwoorde vragen

Is het inschakelen van een AI-systeem altijd openbaarmaking?

De rechter-commissaris acht doorslaggevend dat de informatie met een extern AI-systeem wordt gedeeld. Maar waar die grens precies wordt getrokken, is niet duidelijk. Advocaten en cliënten gebruiken voortdurend externe digitale diensten, waaronder e-mailproviders en cloudopslag. De enkele mogelijkheid dat een externe aanbieder technisch toegang heeft tot informatie, betekent niet zonder meer dat alle via die dienst verwerkte communicatie haar vertrouwelijke karakter verliest.

De vervolgvraag is daarom of het enkele delen van informatie met een AI-aanbieder voldoende is om de vertrouwelijkheid te doorbreken, of dat moet worden gekeken naar de concrete omstandigheden waaronder de gegevens worden verwerkt.

Maken de versie en instellingen van het AI-systeem verschil?

Het oordeel berust op de aanname dat ChatGPT ingevoerde en gegenereerde informatie opslaat en voor modeltraining kan gebruiken. Die aanname gaat echter niet altijd op. Individuele gebruikers kunnen het gebruik van hun gesprekken voor modeltraining in veel gevallen uitschakelen, zowel bij ChatGPT als andere AI-systemen. Ook zijn er tools en pakketten waarbij inhoud standaard niet gebruikt wordt voor trainingsdoeleinden en waarbij aanvullende technische en contractuele waarborgen gelden.

Daarmee is nog niet gezegd dat informatie in zulke systemen altijd vertrouwelijk blijft. Gegevens kunnen bijvoorbeeld tijdelijk worden opgeslagen, toegankelijk zijn voor bepaalde medewerkers of op grond van wettelijke verplichtingen worden verstrekt. Maar de uitspraak maakt geen onderscheid tussen deze verschillende omstandigheden. Hierdoor blijft onduidelijk of een andere situatie tot een ander oordeel zou kunnen leiden.

Hoe zwaar weegt dit oordeel?

Het betreft hier geen vonnis of beschikking na een uitvoerig inhoudelijk debat tussen partijen, maar een proces-verbaal van bevindingen van een rechter-commissaris bij de filtering van in beslag genomen gegevens. De motivering is kort en uit het proces-verbaal blijkt niet dat de betrokken verschoningsgerechtigde zich over de gevonden ChatGPT-gesprekken heeft kunnen uitlaten. Kortom, het oordeel biedt nog geen algemeen toetsingskader voor AI en het verschoningsrecht. Het vormt (in Nederland) wel het eerste gepubliceerde rechterlijke oordeel waarin het risico uitdrukkelijk wordt benoemd en ook daadwerkelijk gevolgen heeft voor de bescherming van de betrokken informatie.

Bredere context

Het oordeel vertoont duidelijke overeenkomsten met United States v. Heppner. In die Amerikaanse zaak had de verdachte informatie van zijn advocaat in Claude ingevoerd om juridische vragen te analyseren. Net als de Rotterdamse rechter-commissaris kwam de Amerikaanse rechter tot de conclusie dat het vertrouwelijke karakter van de informatie daardoor verloren ging.

Het zijn overigens niet alleen cliënten die AI-tools benutten. Ook advocaten maken in toenemende mate gebruik van generatieve AI. Dit kan op gespannen voet staan met onder andere de geheimhoudingsplicht (art. 11a Advocatenwet). In de Verenigde Staten heeft de American Bar Association in 2024 al benadrukt dat advocaten bij gebruik van generatieve AI de vertrouwelijkheid van cliëntinformatie moeten waarborgen (Model Rule 1.6) en, waar nodig, cliënten dienen te consulteren over het gebruik van dergelijke tools (Model Rule 1.4).

Ook de Nederlandse Orde van Advocaten heeft aanbevelingen gepubliceerd voor verantwoord AI-gebruik in de advocatuur. Daarin wordt onder meer gewezen op het risico dat bij gebruik van generieke AI-tools de grip op gedeelde informatie verloren kan gaan. Hierom wordt geadviseerd een betaald abonnement te nemen op een specialistische, juridische AI-tool. Daarnaast luidt het advies om een kantoorbreed AI-beleid op te stellen. Opvallend is verder de aanbeveling om cliënten vooraf te informeren over het gebruik van AI bij de behandeling van een dossier; iets wat in omringende landen niet zozeer wordt aanbevolen.

In Engeland gelden vergelijkbare richtlijnen: “any information that you input into a public AI chatbot should be seen as being published to all the world". Hiernaar is inmiddels ook al verwezen in een rechtszaak.

Kortom

De rechter-commissaris bevestigt voor het eerst in Nederland dat het gebruik van generatieve AI de vertrouwelijkheid van communicatie met een advocaat kan doorbreken. Tegelijkertijd maakt de uitspraak onvoldoende duidelijk wanneer precies sprake is van openbaarmaking. Vooral de vraag of technische instellingen, contractuele geheimhouding en het gesloten karakter van een AI-systeem verschil maken, blijft onbeantwoord.

Totdat hierover meer duidelijkheid bestaat, doen cliënten er verstandig aan geen juridische adviezen, correspondentie of andere vertrouwelijke informatie in publiek toegankelijke AI-tools in te voeren. Ook advocaten hebben hierin een rol: zij kunnen cliënten wijzen op de mogelijke gevolgen van het gebruik van dergelijke tools.