Cybersecurity in een nieuw jasje

De Algemene Inlichtingen- en Veiligheidsdienst (AIVD) en de Rijksinspectie Digitale Infrastructuur (RDI) hebben een nieuw plan van aanpak uitgebracht met betrekking tot generatieve AI. Het daarin uitgewerkte AI Cybersecurity Kwadrant is er volgens hen om de transformatieve impact van generatieve AI op het gebied van cybersecurity te belichten en om bedrijven, medeoverheden, en organisaties te helpen bij het opzetten van effectieve risicoanalyses. 

Een nieuwe cybersecurityaanpak

De AIVD en RDI benadrukken dat de impact van generatieve AI op het gebied van cybersecurity van dusdanige aard is, dat een geheel nieuwe benadering nodig is om deze impact het hoofd te bieden. Zo kunnen criminelen generatieve AI gebruiken voor ongekend complexe en snelle aanvallen, die op maat zijn gemaakt voor specifieke doelen en op geautomatiseerde wijze. Bestaande beveiligingsmechanismen schieten hierdoor tekort. Bovendien zijn generatieve AI-technologieën gemakkelijk op te schalen en veelal autonoom van werking. Enerzijds is generatieve AI steeds beter in staat om taken op te splitsen in subtaken (taakdeductie) en anderzijds kan het die taken in toenemende mate uitvoeren binnen één systeem (taakdiversiteit). De combinatie hiervan maakt generatieve AI, gelet op al het voorgaande, een bijzonder gevaar voor cybersecurity

De nieuwe cybersecurityaanpak (het Kwadrant) maakt onderscheid tussen twee assen: het offensief en het defensief. Beide assen worden onderverdeeld in twee categorieën. Aan de ene kant kunnen zowel de aanvaller als de verdediger gebruikmaken van generatieve AI als hulpmiddel. Zo kan een crimineel fraude plegen met behulp van een deepfake en kan een organisatie aanvallen weren met behulp van generatieve berekeningen. Anderzijds kan de generatieve AI van de verdedigende partij zelf worden aangevallen of verdedigd. Denk bijvoorbeeld aan het proberen om een machine ongewenst gedrag te laten vertonen. Het gevaar hierbij is dat organisaties doorgaans niet alle ins en outs van hun systemen kennen, nu deze extern worden geleverd. Naar de woorden van de AIVD en RDI zijn aanbieders van AI daarnaast vaak intransparant over de integriteit van hun modellen.

Aandachtspunten

Hoewel de veiligheidsrisico's rondom generatieve AI goed in kaart worden gebracht door de nieuwe cybersecurityaanpak, blijven praktische vraagstukken nog onbeantwoord. Organisaties worden vooral aangestuurd om zelf aan de slag te gaan met het zogenoemde Kwadrant. Of daar iets van terecht zal komen, is nog te vroeg om te zeggen. Overigens lijken de AIVD en RDI er niet geheel terecht vanuit te gaan dat de aanbieders van AI-modellen van buiten de EU zich niet aan de nieuwe AI-verordening hoeven te houden. De AI-verordening heeft extraterritoriale werking: buitenlandse partijen die hun AI-modellen op de Europese markt willen brengen, moeten zich wat betreft de ontwikkeling van die modellen aan de nieuwe regels houden (art. 2 lid 1 sub a AI-verordening). Gezien de prominente rol van de Europese markt op het wereldtoneel, is het op het eerste gezicht niet waarschijnlijk dat AI-exploitanten de AI-verordening zullen negeren. Het is immers niet in hun eigen belang om potentiële klanten mis te lopen. De grote hoeveelheid regels in de AI-verordening, waaronder op het gebied van privacy en cybersecurity, zal bijdragen aan de verwerkelijking van de nieuwe cybersecurityaanpak. Echter, als het aan de AIVD en RDI en, volgens hen, de Universiteit van Stanford ligt, volstaat zelfs compliance met de AI-verordening niet om onze cybersecurity in het generatieve AI-tijdperk te garanderen. De tijd zal het leren - in ieder geval zetten we een stap in de goede richting.