De verboden metafoor: AI en antropomorf taalgebruik

Inleiding

Op het snijvlak van auteursrecht & AI is regelmatig (felle) kritiek te lezen op ‘antropomorfiserend’ taalgebruik. Wanneer we als juristen schrijven over AI is het volgens velen onwenselijk dat daarbij ‘mensachtige’ termen worden gebruikt zoals leren, herinneren en autonomie.[1] Deze woorden zouden AI immers te veel menselijke eigenschappen toedichten. In plaats daarvan is er een gewoonte ontstaan waarbij (schijnbaar) minder menselijke termen worden gebruikt zoals genereren, memoriseren en trainen. Dit weerspiegelt de buitenlandse literatuur waarin eveneens volop kritiek is op antropoïde termen en vergelijkingen:[2] we zouden zowaar kunnen spreken van een verboden metafoor.[3] In dit artikel wordt desalniettemin betoogd dat het volledig uitbannen van antropoïde metaforen en termen niet goed mogelijk en bovendien onwenselijk is.

Kritiek op deze vorm van taalgebruik was bijvoorbeeld te lezen in een recente Linkedin-post van Arnoud Engelfriet:

‘Kunnen we alsjeblieft ophouden de computer te antropomorfiseren? AI “leert” niet. AI “begrijpt” niets. AI “denkt” niet. Niet omdat dat zielig is voor de computer. Maar omdat het funest is voor mijn bloeddruk én voor het juridisch debat. AI is Excel on steroids. Alleen klinkt dat minder sexy dan “het is net een kind dat leert lezen”, dus gooien we er metaforen tegenaan. En die worden dan het vertrekpunt voor juridische standpunten. Maar als we één ding zouden moeten doen in #internetrecht, dan is het dit: begin bij wat het systeem werkelijk doet.’[4]

Met de metafoor dat AI net een kind is dat leert lezen, verwijst Engelfriet vermoedelijk naar de recente uitspraak van een rechtbank in Noord-Californië, waarbij de rechter het trainen van een AI-model als fair use kwalificeerde omdat dit eerder vergelijkbaar was met een kinderlijk leerproces dan dat er sprake was van concurrentie in auteursrechtelijke zin.[5] De metafoor deed veel stof opwaaien in auteursrechtelijke contreien en werd overigens diezelfde week al gerelativeerd door een andere Amerikaanse uitspraak over hetzelfde onderwerp.[6]

Engelfriet heeft natuurlijk gelijk dat dergelijke antropoïde metaforen – en metaforen als zodanig – op zichzelf geen goede basis zijn voor een analyse of discussie. Ook klopt het dat het uiteindelijk om de wettelijke termen gaat zoals een ‘werk’, ‘verveelvoudigen’ en ‘tekst- en datamining’. Of en wanneer daar in de context van AI sprake van is, is echter een lopende discussie en bij het analyseren van deze vraagstukken kunnen mensenmetaforen wel degelijk een nuttige aanvulling zijn. Vooral als degene die de metafoor maakt voldoende basiskennis heeft van het onderliggende AI-proces. De breder gedeelde aversie tegen niet alleen metaforen maar antropoïde taal als zodanig roept bovendien de vraag op welke termen we dan wel mogen gebruiken?

Alternatieve terminologie: een mensenvrij AI-jargon?

Mogen we bijvoorbeeld wel 'trainen' zeggen in plaats van leren of doet dat nog te veel denken aan mensen die immers ook kunnen trainen? Moeten we spreken van 'africhten', daarbij denken we in Nederland immers meer aan dieren dan aan mensen. Is dat dan beter? In het Afrikaans gebruiken ze het overigens wel gewoon weer voor mensen (so kan jy ‘n rugby afrigter wees).

Moeten we genereren zeggen in plaats van scheppen? Ook al betekent genereren exact hetzelfde als scheppen en creëren: denk aan Genesis?

Automatisch in plaats van autonoom? Al betekent automatisch volgens de Van Dale ‘werkend zonder ingrijpen van de mens’? En mag onafhankelijk wel, al betekent dit in wezen hetzelfde als autonoom?

Regurgiteren in plaats van herinneren? Al is ook dit woord een medisch term die een (onsmakelijk) menselijk proces beschrijft: een passieve vorm van braken, zo leert ChatGPT mij. Memoriseren in plaats van heugen? Enzovoorts.

Welke term je ook kiest: er is altijd kritiek op mogelijk. En een woord als 'regurgiteren' is eerlijkgezegd weer niet goed voor de bloeddruk van degene die de Nederlandse taal liefheeft. Datzelfde geldt voor termen als ‘memoriseren’ die we kennelijk minder confronterend vinden dan de meer Nederlandse synoniemen. De afkeer van antropoïde taal is wellicht ook verklaarbaar door de angst voor deze nieuwe technologieën en de overtuiging dat synthetische creativiteit niet gelijk mag worden gesteld met echte menselijke creativiteit. Het – ook voor mij enigszins invoelbare - sentiment dat auteursrechtelijk (half)heilige termen zoals scheppen, creativiteit en oorspronkelijkheid voor mensen moeten worden voorbehouden.

De door Engelfriet – en vele anderen[7] – gehekelde vergelijking tussen lerende AI en een lerend kind is vooral een prikkelende metafoor en in die opzet lijkt het zeker geslaagd. Natuurlijk is het niet precies hetzelfde, maar het kan wel degelijk leerzaam zijn om de vergelijking desalniettemin te maken. Ook mensen zijn immers volledig afhankelijk van hun trainingsdata: zonder goede trainingsdata in met name de jeugd zal iemand niet kunnen leren schrijven of spreken. Ook de wijze van uiten wordt natuurlijk beïnvloed door onze trainingsdata in het verleden. Wie zijn hele jeugd lang louter Drs. P hoort, zal significant andere output genereren dan degene die alleen Lil Kleine heeft geluisterd (dat is een metafoor en geen waardeoordeel).

De leermetafoor illustreert ook hoe inefficiënt de huidige AI-modellen leren. Onze menselijke neurale netwerken hebben beduidend minder data nodig om iets te leren dan AI-netwerken, en zijn dus ook duurzamer dan de bestaande energieslurpende AI-modellen.[8] Dat is een van de redenen waarom er in de neurotechnologie onderzoek wordt gedaan naar Organoid Intelligence (OI): computers met uit menselijke stamcellen gekweekte mini-breinen in plaats van siliconen chips. Dit is overigens geen science fiction: dergelijke biocomputers leven op dit moment al.[9]

Als het op de een of andere manier toch zou lukken om speciaal voor GenAI een puur werktuiglijke woordenschat te ontwikkelen – geheel van menselijke smetten vrij – is het zeer de vraag hoe lang dat jargon houdbaar is, gelet op de reeds begonnen versmelting van mens, computer en AI. Welke taal moeten we bezigen als een mens dankzij een AI-breinimplantaat een tekst schrijft: is dat genereren of scheppen?[10] Als een AI-model daarvoor wordt getraind op menselijke breindata,[11] mag het dan wel leren heten? En wat is het antwoord als we in deze vragen de AI vervangen door OI, of een combinatie van de twee?[12] Misschien slingert de kunstmatige AI-terminologie wel als een boemerang terug zodat we het menselijke brein uiteindelijk in vergelijkbare termen bestuderen. En misschien stellen neurotechnologische ontwikkelingen de menselijke uniciteit en de navenante ‘antromonopolisering’[13] van taalkundige termen zoals scheppen en autonomie wel ter discussie. De tijd zal het leren.

Memoriseren en de tekortkoming van de leermetafoor

Dan tot slot de tekortkoming van de leermetafoor in het geval van modelmatige herinnering ehh memorisering. Het model slikt dan specifieke integrale trainingsdata[14] (concrete werken) in bij het trainingsproces waardoor het getrainde model bij de juiste prompt het werk kan reconstrueren als output en deze dus in de oorspronkelijke vorm ophoest (‘regurgitatie’).[15]

Het feit dat we in het model niet precies een verveelvoudiging kunnen aanwijzen en dat het werk ‘slechts’ op een gecomprimeerde, gefragmenteerde, statistische, vectoriële of op andere onbegrijpelijke wijze is opgeslagen - in de zogeheten 'weights' (getrainde parameters) - is helemaal niet van belang zolang het er in de output maar uitkomt.[16] En zolang er een causale relatie bestaat tussen die output en de trainingsdata (het dus geen onafhankelijke dubbelschepping is).[17] Als ik enkel de naam 'Hergé' in Sora als tekstprompt invoer; en daar komen vervolgens plaatjes van precies Kuifje uit (en dat doet het).[18] Dan zit er een verveelvoudiging van het figuur Kuifje in het onderliggende model.[19] Zolang de prompteur of een derde geen plaatje van hem hebben geüpload als beeldprompt, is dat de enige logische uitleg.[20]

Hierbij zij de lezer ook herinnerd aan art. 14 Aw: dat er een platenspeler nodig is om het werk in een vinylplaat waar te nemen, en in recentere zin aan Brein/NSE[21]: de gefragmenteerde alfanumerieke vertegenwoordiging van een werk is ook een verveelvoudiging.[22] Dat een hulpmiddel is vereist om het werk waarneembaar te maken, doet niet af aan het feit dat er een verveelvoudiging is. Hetgeen natuurlijk ook geldt voor de werken die we via computers waarnemen (en die ook als numerieke en veelal gecomprimeerde afgeleiden zijn verveelvoudigd).[23]

En zo komen we aan bij de tekortkoming van de leermetafoor: wanneer dergelijke memorisering (verveelvoudiging in het model) wel plaatsvindt dankzij het leerproces, en het AI-systeem en interface verhindert de extractie (verveelvoudiging en openbaarmaking in output) hiervan niet. Dan houdt de vergelijking met de lerende mens naar mijn inzicht op.[24] Eén ieder die het AI- systeem gebruikt kan dan immers – met de juiste prompt, zoals de enkele naam van een tekenaar – het werk onttrekken uit het model, en dat op massale schaal.[25] Wellicht zitten in het menselijk brein ook werken opgeslagen in ‘gewichten’, maar deze kunnen niet zomaar door Jan en alleman massaal worden gedownload, geëxtraheerd en geconsumeerd.[26]

Engelfriet stelt dat het trainen van AI-modellen niet vergelijkbaar is met eerdere traditionele vormen van ‘opzettelijk dupliceren’ die erop waren gericht om ‘marktaandeel’ van de maker ‘af te snoepen’.[27] Hij doelt dan waarschijnlijk niet op die situaties van memoriseren/regurgiteren omdat hij dat in zijn post nadrukkelijk niet behandelt. Hier bespreek ik dit wel, want als dit wel gebeurt kan de normale exploitatie van het werk volgens mij wel degelijk worden bedreigd. Het eventuele gebrek aan opzet – wat mij overigens betwistbaar lijkt – is tot slot niet relevant voor de vraag of sprake is van auteursrechtinbreuk.

Slot

Dat antropoïde (of andersoortige) metaforen op zichzelf geen goed fundament zijn voor een analyse moge duidelijk zijn. Dat een goed begrip van de onderliggende technologie bijdraagt aan een vruchtbare analyse staat wat mij betreft ook buiten kijf en Engelfriets technisch onderlegde bijdragen zijn in dit opzicht van grote waarde. Dat alles wil echter niet zeggen dat mensachtige metaforen geen nut kunnen hebben. Hoewel elke metafoor naar zijn aard onvolledig is – zo ook de mijne én die van Engelfriet[28] - kan deze in de juiste context wel degelijk leerzaam en doeltreffend zijn. Ook in de discussies over AI en auteursrecht. Dat daarnaast zelfs antropoïde termen moeten worden uitgebannen uit het auteursrechtelijke AI-debat – zoals velen lijken te menen - lijkt mij bovendien onmogelijk én onwenselijk. Taalvrijheid leidt tot vrijheid van denken en biedt zodoende ruimte voor verschillende zienswijzen. Gelet op de vele onbeantwoorde vragen rond AI en auteursrecht en de maatschappelijke implicaties hiervan is dat alleen een zegen.