Wanneer kwalificeert AI onder de AI-verordening als “hoog risico”? Belangrijkste punten uit de ontwerprichtlijnen van de Commissie

De AI-verordening introduceert een risicogebaseerd kader voor AI-systemen. Centraal daarin staat de categorie ‘AI-systemen met een hoog risico’, waaraan strengere wettelijke verplichtingen zijn verbonden. De Europese Commissie heeft ontwerprichtlijnen gepubliceerd over de classificatie van AI-systemen met een hoog risico op grond van artikel 6 van de AI-verordening om belanghebbenden houvast te geven bij de uitleg van dit begrip. Die richtlijnen moeten de regels consistenter laten toepassen en bevatten praktische voorbeelden voor interpretatie en handhaving.[1]

De ontwerprichtlijnen laten concreet zien hoe de Commissie de drempel voor “hoog risico“ in de praktijk wil toepassen. Dit artikel zet de belangrijkste punten op een rij en benoemt de aandachtspunten die voor organisaties het meest relevant zijn wanneer zij beoordelen of hun AI-systemen binnen het toepassingsgebied vallen.

Het uitgangspunt: wanneer kwalificeert een AI-systeem als “hoog risico“?

De AI-verordening definieert ‘AI met een hoog risico’ niet in abstracte termen. In plaats daarvan biedt de wet twee duidelijk afgebakende routes voor de classificatie.

De eerste route sluit aan bij productveiligheidsregels. Een AI-systeem kwalificeert als “hoog risico“ wanneer het onderdeel is van een gereguleerd product, als zelfstandig product of als veiligheidscomponent, en dat product op grond van EU-harmonisatiewetgeving een conformiteitsbeoordeling door een derde partij moet doorlopen.[2] De gedachte daarachter is eenvoudig: als EU-wetgeving voor bepaalde producten al strenger veiligheidstoezicht eist, moeten AI-componenten die die veiligheid raken onder vergelijkbaar toezicht vallen.[3]

De tweede route kijkt naar de gebruikscontext. Ook AI-systemen vallen in de categorie hoog risico wanneer zij zijn bestemd voor specifieke gebruikssituaties uit bijlage III van de AI-verordening, zoals besluitvorming over werkgelegenheid, onderwijs, wetshandhaving of toegang tot essentiële diensten.[4] De richtsnoeren benadrukken dat de categorie risicovolle AI beperkt en evenredig moet blijven: zij richt zich op systemen die aanzienlijke risico’s voor gezondheid, veiligheid of grondrechten kunnen veroorzaken.[5]

De doorslaggevende factor: het beoogde doel

De richtsnoeren plaatsen het beoogde doel centraal. De classificatie volgt niet alleen uit technische mogelijkheden, maar ook uit de manier waarop de aanbieder het systeem beschrijft, verkoopt en documenteert.

Het beoogde doel blijkt onder meer uit gebruiksaanwijzingen, contractuele afspraken, promotiemateriaal en technische documentatie.[6] Presenteert een aanbieder een AI-systeem als breed inzetbaar in verschillende contexten, zonder gevoelige toepassingen duidelijk uit te sluiten, dan kunnen die toepassingen meetellen bij de regulatoire classificatie.[7]

Dat werkt direct door in de praktijk, vooral bij organisaties die AI-systemen ontwikkelen of voor meerdere gebruiksscenario’s op de markt brengen. De richtsnoeren maken duidelijk dat algemene disclaimers niet volstaan wanneer de functionaliteit of positionering van het systeem een breder gebruik suggereert.[8] Kort gezegd: formele tekst redt een organisatie niet als functionaliteit, marketing of documentatie een ruimer gebruik uitnodigt.

Voor organisaties die AI inzetten, is de belangrijkste les praktisch: een gebruiksbeperking in de implementatiefase verandert de classificatie niet automatisch. Heeft de aanbieder het systeem bedoeld voor gebruik in een hoogrisicocontext, dan blijft die kwalificatie doorgaans gelden, ook als een specifieke gebruiker het systeem in de praktijk beperkter inzet. Deze benadering verschilt van de AVG-doelbinding: de classificatie volgt in de regel niet uit het concrete implementatiescenario, maar uit het bredere beoogde doel dat de aanbieder heeft vastgelegd.

De verdeling van verantwoordelijkheden in de AI-verordening onderstreept dat punt. De aanbieder beoordeelt, onder toezicht van de bevoegde autoriteiten, in de eerste plaats het beoogde doel en daarmee of het systeem een hoog risico vormt. Andere actoren in de waardeketen moeten bovendien alert zijn: zij kunnen verplichtingen van de aanbieder overnemen, of zelfs zelf een hoogrisicoclassificatie activeren, wanneer zij het systeem of het beoogde doel wijzigen.[9]

Bijlage I: AI als onderdeel van gereguleerde producten

De richtsnoeren van de Commissie over AI in gereguleerde producten (de bijlage I-route) verduidelijken vooral het begrip “veiligheidscomponent”, dat bij deze classificatie centraal staat.

Niet ieder AI-systeem dat in een gereguleerd product zit, valt onder deze route. De kernvraag is of het systeem een veiligheidsfunctie vervult, bijvoorbeeld doordat het risico’s voorkomt of beperkt, of dat falen of storing de gezondheid en veiligheid van personen of eigendommen in gevaar kan brengen.[10] Veel AI-systemen voor optimalisatie, prestatieverbetering of efficiëntie vallen daarom buiten de definitie, zolang hun beoogde doel niet veiligheidsgerelateerd is.[11] Diezelfde systemen kunnen alsnog binnen de definitie vallen als een storing een veiligheidsrisico kan veroorzaken, afhankelijk van het productontwerp en de gebruikscontext.[12] Organisaties moeten dus niet alleen kijken naar wat het AI-systeem moet doen, maar ook naar de manier waarop het in het bredere product ingrijpt en welke risico’s ontstaan als het faalt.

De laatste stap in de beoordeling is vaststellen of het betreffende product op grond van EU-wetgeving een conformiteitsbeoordeling door een derde partij moet doorlopen. Daarmee beperkt de wetgever de classificatie als “hoog risico“ via deze route tot situaties waarin sectorale wetgeving al strenger toezicht voorschrijft.[13]

Bijlage III: gebruiksscenario’s met een hoog risico

Bijlage III volgt een andere logica: niet productcategorieën, maar specifieke gebruiksscenario’s staan centraal. De lijst bestrijkt terreinen die vaak terugkomen in het publieke debat, maar de richtsnoeren benadrukken dat de reikwijdte nauwkeurig en beperkt blijft.

Alleen toepassingen die expliciet in bijlage III staan, tellen mee voor de classificatie; het kader reikt niet verder dan die lijst. Toch mag de praktische impact niet worden onderschat. Veelgebruikte AI-tools, vooral in HR, onderwijs en klantgerichte processen, kunnen binnen het toepassingsgebied vallen wanneer zij wezenlijke invloed hebben op beslissingen over individuen. Organisaties moeten daarom niet alleen de functionaliteit van hun AI-systemen toetsen, maar ook de concrete besluitvormingscontext waarin zij die systemen inzetten.

Niet elk systeem binnen het toepassingsgebied is “hoog risico“

Een belangrijk tegenwicht is het zogeheten “filtermechanisme” van artikel 6, lid 3, van de AI-verordening. Daardoor kunnen bepaalde systemen buiten de categorie hoog risico blijven, ook wanneer zij verband houden met gebruiksscenario’s uit bijlage III.

Vooral systemen met louter voorbereidende, procedurele of ondersteunende functies, die beslissingen niet wezenlijk beïnvloeden, kunnen buiten de classificatie blijven. Zo wil de regeling evenredig blijven en AI-systemen ontzien die slechts een beperkte of indirecte rol in besluitvorming spelen.

De grens tussen beslissingen “ondersteunen“ en “beïnvloeden” vraagt in de praktijk echter om scherpe aandacht. Naarmate marktpartijen en toezichthouders de regels toepassen, zal dit waarschijnlijk een belangrijk interpretatiepunt worden. Organisaties zullen vaak per geval moeten beoordelen of een systeem beslissingen alleen ondersteunt of die wezenlijk beïnvloedt.

Menselijke betrokkenheid is niet van invloed op de classificatie

Menselijk toezicht voorkomt op zichzelf niet dat een systeem als hoog risico kwalificeert. Of een mens de output controleert of valideert, helpt bij de naleving van de AI-verordening, maar verandert de classificatieanalyse niet. Die blijft draaien om het beoogde doel en de gebruikssituatie. Dit punt is vooral relevant voor organisaties die in hun governance-aanpak werken met “human-in-the-loop”-modellen.

Een veranderend landschap: rollen en toekomstige updates

De richtsnoeren kijken verder dan de initiële classificatie en benadrukken dat verantwoordelijkheden in de AI-waardeketen kunnen verschuiven. Andere partijen dan de oorspronkelijke aanbieder kunnen onder omstandigheden aanbiederverplichtingen overnemen wanneer zij het systeem aanpassen, het onder hun eigen naam op de markt brengen of het beoogde doel zo wijzigen dat hoogrisicogebruik ontstaat.[14]

Het kader moet bovendien mee kunnen bewegen. De Commissie zal de lijst met risicovolle gebruiksscenario’s naar verwachting in de loop van de tijd herzien en bijwerken, onder meer via gedelegeerde handelingen, zodat de regeling kan reageren op nieuwe risico’s en technologische ontwikkelingen.[15]

Praktische conclusie

Alles bij elkaar maken de ontwerprichtlijnen duidelijk dat de classificatie als “hoog risico“ onder de AI-verordening minder ruim en minder open is dan soms wordt aangenomen. Tegelijkertijd blijft de beoordeling sterk feitelijk: ontwerp, positionering en gebruik van het AI-systeem kunnen de uitkomst bepalen.

Organisaties moeten de classificatie daarom niet behandelen als een uitsluitend juridische exercitie. Zij moeten die plaatsen in een bredere beoordeling van technisch ontwerp, productpositionering, documentatie en daadwerkelijk gebruik. Dat vraagt om nauwe afstemming tussen legal, product, engineering en compliance, plus een helder beeld van hoe systemen naar verwachting zullen worden gebruikt en redelijkerwijs kunnen worden ingezet.