Het gebruik van generatieve AI in het juridisch onderwijs leidt tot steeds meer discussie. Moeten rechtenfaculteiten studenten juist leren werken met AI, of moeten zij daar voorlopig afstand van houden? Die vraag stond centraal in een recent NJV-debat naar aanleiding van een artikel van Joris van Laarhoven (promovendus) en Eva van Vugt (universitair docent staatsrecht) in het Nederlands Juristenblad. In deze blog leest u een beknopte weergave van de belangrijkste voor- en tegenargumenten uit het artikel en het daaropvolgende debat.

GenAI uit voorzorg verbieden

Van Laarhoven en Van Vugt stellen in hun artikel voor om een voorzorgsbeginsel te hanteren ten aanzien van generatieve AI aan rechtenfaculteiten. Het verbod dat zij voorstellen is niet absoluut: het gebruik van generatieve AI mag in beginsel niet worden toegestaan, tenzij een (inter)facultaire commissie dat gebruik van wezenlijk toegevoegde waarde acht, streng getoetst aan de door hen genoemde en eventuele andere bezwaren. Zij formuleren dit principe als in dubio contra machina.

De gedachtegang achter dit voorstel ligt volgens de auteurs in de bijzondere rol van rechtenfaculteiten. Zij leiden juristen op die, in uiteenlopende rollen, functioneren als hoeders van de democratische rechtsstaat. “De kwaliteit van de democratische rechtsstaat valt of staat dan ook met de kwaliteit van de juristen die wij aan rechtenfaculteiten opleiden”, aldus de auteurs. Vanuit die verantwoordelijkheid moet het juridisch onderwijs volgens hen kritisch omgaan met technologie die het leerproces en de academische vorming van studenten mogelijk aantast.

Recht is een talige discipline

Een belangrijk argument in het artikel is dat het recht in sterke mate een talige discipline is. Juristen moeten teksten lezen, analyseren, interpreteren en zelf formuleren. De auteurs vrezen dat generatieve AI deze vaardigheden ondermijnt doordat studenten steeds vaker samenvattingen, analyses of zelfs complete teksten door AI laten produceren. Dat kan volgens hen leiden tot een verdere afname van taalvaardigheid, een ontwikkeling die volgens veel docenten nu al zichtbaar is.

“Een verminderde taalvaardigheid tast het vermogen van studenten aan om rechtsbronnen (wetteksten, rechtspraak, wetenschappelijke literatuur) begrijpend te lezen, in samenhang te analyseren, daaruit inzichten te verwerven en deze te integreren in een systematische beschrijving van het geldend recht, een kritiek op dat recht en de formulering van verbeteringvoorstellen (...) Een beperkt vocabulaire maakt het bovendien lastig om nuanceringen als zodanig te herkennen en aan te brengen. En dat terwijl nuanceringen in het recht hét verschil kunnen maken tussen rechtmatigheid en onrechtmatigheid.”

Cognitieve luiheid en het leerproces

Daarnaast waarschuwen de auteurs voor cognitieve luiheid. Het schrijven van papers en scripties tijdens de studie is niet alleen bedoeld om studenten antwoorden te leren formuleren, maar vooral om studenten te laten oefenen in zelfstandig denken. Wanneer AI het denkwerk overneemt, wordt dat leerproces ondermijnd. Studenten leren minder goed complexe juridische teksten doorgronden en ontwikkelen minder analytische vaardigheden, met als gevolg dat ze niet onafhankelijk van AI kunnen denken over het recht. Dat terwijl AI regelmatig liegt (‘hallucineert’) en lang niet altijd de vinger op de zere plek weet te leggen. 

Zelfs als GenAI wel feilloos zou kunnen functioneren, rechtvaardigt dat volgens de auteurs nog niet het toegestane gebruik daarvan:

“Of het klopt wat AI genereert namens of samenvat voor de student, doet er eigenlijk niet toe. Het gaat er om dat studenten zelf de vlieguren (én de vergissingen) maken die nodig zijn om uiteindelijk als jurist te kunnen denken en werken. Precies daarin schuilt het gevaar. GenAI maakt zich schuldig aan ‘spoon-feeding’: ze geeft studenten zoveel informatie op een presenteerblaadje dat ze zelf niet meer na hoeven te denken. Er treedt daardoor een cognitieve luiheid op die in de weg staat aan het doel van elke wetenschappelijke opleiding: kritisch denken.”

Wetenschappelijke integriteit

Ook op het gebied van wetenschappelijke integriteit zien zij problemen. AI-systemen produceren regelmatig fictieve bronnen of onnauwkeurige verwijzingen, waardoor studenten bewust of onbewust plagiaat kunnen plegen. 

“Controleerbaarheid van bronnen is een absolute voorwaarde voor betrouwbaar wetenschappelijk onderzoek. (...) Tegen deze achtergrond is het hoogst problematisch om papers en scripties te schrijven met behulp van GenAI. Studenten doen namelijk alsof ze zelf onderzoek hebben verricht.”

Bovendien is het vaak moeilijk te achterhalen hoe AI tot een bepaalde output komt, wat methodologische transparantie bemoeilijkt.

“Een voetnoot met iets als ‘Deels opgesteld met behulp van ChatGPT’ is niet bijster verhelderend. Zelfs specifieke prompts zijn dat niet, want die genereren elke keer andere uitkomsten. Het transparantieprobleem zit bovendien veel dieper: de meeste GenAI is namelijk zélf niet transparant.”

Bredere zorgen

Naast de directe gevolgen voor het onderwijs uiten de auteurs ook bredere zorgen over de maatschappelijke impact van generatieve AI. Zij suggereren dat grootschalige inzet van generatieve AI kan bijdragen aan de verspreiding van onjuiste informatie en een verdere vervaging van het onderscheid tussen feit en fictie. In combinatie met de groeiende macht van technologiebedrijven kan dat volgens de auteurs risico’s opleveren voor de democratische rechtsstaat. Ze wijzen daarbij onder andere op ontwikkelingen waarbij AI-systemen steeds vaker worden ingezet in openbaar bestuur en politieke besluitvorming. De voorbeelden variëren van “knullig tot verontrustend”.

Tegen deze achtergrond benadrukken de auteurs dat juristen juist een belangrijke rol spelen in het beschermen van fundamentele rechtsstatelijke waarden. Wanneer juristen hun analytische en kritische vaardigheden te veel uit handen geven aan AI-systemen, bestaat volgens hen het risico dat de rechtsstaat afhankelijk wordt van technologie die wordt ontwikkeld en gecontroleerd door private partijen. Vanuit dat perspectief pleiten zij voor een terughoudende en kritische benadering van AI binnen het juridisch onderwijs.

Tegenargumenten uit het debat

Tijdens het debat dat naar aanleiding van het artikel werd georganiseerd, werden verschillende tegenargumenten naar voren gebracht.

Het validiteitsargument

Marelle Attinger (vicedecaan Open Universiteit) stelt dat een AI-verbod juist ten koste kan gaan van de validiteit van de opleiding. Universiteiten hebben geen controle over wat studenten buiten de onderwijsomgeving doen. Als studenten thuis alsnog AI gebruiken, terwijl dat in de opleiding verboden is, rijst volgens haar de vraag wat de opleiding dan nog precies toetst. In de praktijk is het moeilijk te beoordelen in hoeverre ingeleverde opdrachten eigen werk van studenten zijn.

Attinger betoogt bovendien dat een verbod het leerproces kan schaden. Volgens haar kan AI, wanneer het verantwoord wordt ingezet, bijvoorbeeld via een specifiek voor het onderwijs ontwikkelde tool, juist bijdragen aan verdiepend leren. Studenten kunnen AI gebruiken om ideeën te verkennen, vragen te stellen of alternatieve perspectieven te genereren. Een verbod zou volgens haar vooral een sfeer van wantrouwen creëren. Zij spreekt in dat verband over het ontstaan van een “fraudenarratief”, waarin studenten vooral worden gezien als potentiële overtreders.

De juridische praktijk

Ook Nora Streep (manager Law Firm School) plaatst kanttekeningen bij het uitgangspunt dat studenten AI voornamelijk gebruiken om hun werk volledig te laten doen. In haar ervaring wordt AI ook vaak gebruikt als hulpmiddel, niet als vervanging van het denkwerk.

Zij waarschuwt daarnaast dat een verbod het risico creëert dat universiteiten “museumjuristen” opleiden: juristen die wel kennis hebben van het traditionele recht, maar weinig ervaring met de technologische realiteit waarin zij later zullen werken. Volgens Streep is het belangrijk dat studenten juist leren kritisch met AI om te gaan. Zo stellen zij scherpe vragen, wantrouwen zij AI-output en herkennen zij de beperkingen van dergelijke systemen.

Streep is ervan overtuigd dat de vakbekwaamheid van een jurist breder is dan wat AI-tools (ooit) kunnen bieden. Kerncompetenties zoals kritisch denken en zelfstandig redeneren zijn uiteindelijk niet vervangbaar; AI kan daarin hooguit een ondersteunende rol spelen.

AI als professionele vaardigheid

Een vergelijkbare lijn komt naar voren in de bijdrage van Margreet Blaisse (rector SSR). Zij benadrukt dat kritisch denkvermogen een kernvaardigheid is voor juristen in de praktijk. Tegelijkertijd moeten juristen ook begrijpen welke technologische ontwikkelingen zich in de samenleving voordoen. Volgens haar is het daarom belangrijk dat studenten al tijdens hun opleiding kennis maken met AI en leren hoe zij daarmee professioneel kunnen omgaan.

Reactie van de auteurs

De auteurs van het NJB-artikel erkennen tijdens het debat dat de zorgen over toetsing en praktijkrelevantie begrijpelijk zijn. Toch blijven zij van mening dat het gebruik van AI in het huidige onderwijs problematisch is, vooral vanwege de manier waarop studenten de technologie feitelijk gebruiken.

Het leerproces staat centraal

Volgens Van Vugt wordt het leerproces op dit moment juist bedreigd doordat studenten AI inzetten om taken over te nemen die eigenlijk bedoeld zijn om hun eigen denkvermogen te ontwikkelen. Een voorzorgsverbod kan volgens haar helpen om duidelijke grenzen te stellen en studenten helderheid te geven over wat wel en niet is toegestaan.

Zij vindt het argument van het “fraudenarratief” niet overtuigend: wanneer studenten teksten door AI laten schrijven en die vervolgens als eigen werk inleveren, is er volgens haar eenvoudigweg sprake van plagiaat.

Van Vugt benadrukt verder dat er wel degelijk ruimte is om met AI te oefenen, maar pas op een later moment in de opleiding. Studenten zouden eerst zelfstandig moeten leren lezen, analyseren en redeneren. Daarna kan AI eventueel worden ingezet als hulpmiddel, bijvoorbeeld in gespecialiseerde vakken op masterniveau.

AI begrijpen ≠ AI gebruiken

Van Laarhoven maakt daarnaast een principieel onderscheid tussen het begrijpen van AI en het daadwerkelijk gebruiken ervan. Volgens hem is het niet noodzakelijk dat studenten AI-tools intensief gebruiken om ze te kunnen begrijpen en daarover kritisch te kunnen oordelen. Hij illustreert dit met een vergelijking: studenten hoeven ook geen opiaten te gebruiken om later met de Opiumwet te kunnen werken. 

Verder is hij sceptisch over de aanname dat AI het juridische werkveld fundamenteel zal veranderen. In het verleden zijn vergelijkbare verwachtingen uitgesproken over andere technologieën, zoals blockchain. Volgens Van Laarhoven is het nog verre van zeker wat de daadwerkelijke toegevoegde waarde van AI uiteindelijk zal zijn.

Tot slot benadrukt Van Laarhoven dat universiteiten niet uitsluitend bestaan om studenten voor te bereiden op de beroepspraktijk. Academische vorming en kritisch denken zijn eveneens centrale doelstellingen van het juridisch onderwijs.

Juristen opleiden in het AI-tijdperk

De discussie over AI in het juridisch onderwijs draait uiteindelijk om een bredere vraag: hoe moeten universiteiten juristen opleiden in een tijdperk waarin AI steeds nadrukkelijker aanwezig is?

Aan de ene kant staat het voorzorgsbeginsel van Van Laarhoven en Van Vugt. In dat model staat de ontwikkeling van autonome intellectuele vaardigheden centraal. Studenten moeten eerst zelfstandig leren lezen, redeneren en analyseren voordat zij met AI-tools gaan werken. AI kan eventueel later in de opleiding een rol spelen, maar pas nadat de basisvaardigheden stevig zijn ontwikkeld.

Aan de andere kant staat de integratiebenadering die door de resterende sprekers in het debat werd verdedigd. Volgens dat perspectief moeten universiteiten studenten juist vanaf het begin leren omgaan met AI, omdat die technologie waarschijnlijk een blijvende rol zal spelen in de juridische praktijk. Door AI onderdeel te maken van het onderwijs kunnen studenten leren om kritisch met de technologie om te gaan en de beperkingen ervan te herkennen.

Het debat raakt tot slot aan een belangrijke normatieve vraag: als juristen inderdaad worden opgeleid als hoeders van de democratische rechtsstaat, welke vaardigheden hebben zij dan nodig om die rol in een AI-gedreven samenleving te vervullen?