+31 (0)20 303 24 70

Contact  |  Support

+31 (0)20 303 24 70

Home / Nieuws / Wat betekent de AI Act voor Nederlandse bedrijven?
1 mei 2024
Door: Laura Muntjewerf

Extend Microsoft D365 Finance and Operations with Dynamics 365 Commerce

Vorige week 23 april 2024 was ik bij een conferentie over de EU AI Act in Den Haag. Dit event werd georganiseerd door werkgeversorganisaties VNO-NWC en MKB Nederland in samenwerking met vertegenwoordigers van de Europese Commissie. Op de agenda stond onder andere wat de gevolgen van de Europese AI-wetgeving zullen zijn voor bedrijven en organisaties in Nederland. Aan de opkomst te zien is er duidelijk nood aan deze dag: er bestaat veel belangstelling maar ook veel onduidelijkheid rondom de AI Act.  

De dag werd gehouden in het Engels, maar deze blog schrijf ik in het Nederlands. Voor ons als organisatie die AI-oplossingen maakt voor klanten is namelijk de belangrijkste vraag: hoe gaat de implementatie van deze regelgeving er in de praktijk uitzien voor Nederlandse organisaties. 

Figuur 1: Gelegenheid om vragen te stellen: hier vroeg ik Lisa Vermeer (Ministerie van Economische Zaken en Klimaat) naar wat we kunnen verwachten als AI-developers die samenwerken met klanten en andere partners in de ontwikkeling van AI toepassingen over waar de respectievelijke verantwoordelijkheden in de AI-supply chain zullen liggen. Foto door Rolf van Koppen 

Inhoud:  

  • Ten eerste: wat is de AI Act? 
  • Voor wie is de AI Act relevant?  
  • Hoe ziet dat eruit – de implementatie van de AI Act in Nederlandse wetgeving? 
  • Wat zijn de volgende stappen die we kunnen verwachten?  
  • Concluderende gedachtes  
  • Links voor meer informatie 

Ten eerste: wat is de AI Act? 

De AI Act is een verordening op EU niveau om AI-systemen die op de Europese markt gebracht worden te reguleren. In principe is het een productregulatieverordening zoals de EU op veel vlakken doet, bijvoorbeeld voor voedsel, medische hulpmiddelen etc. Het doel van de regulatie is om te zorgen dat deze AI-systemen in gestelde mate veilig, betrouwbaar en ethisch zijn voor de gebruiker.  

Nog een stapje terug: wat wordt er bedoeld met AI-systemen? AI is heel breed. Voor eenduidigheid volgt de Europese Commissie de OECD definitie (https://oecd.ai/en/wonk/ai-system-definition-update)  

“An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment.” (https://oecd.ai/en/ai-principles) 

Voor wie is de AI Act relevant?  

De Europese commissie heeft de AI Act zodanig opgezet dat AI-systemen uniform worden gereguleerd. Het is een zogenaamde horizontale verordening: uniforme regels voor zowel AI-ontwikkelaars als voor organisaties die de AI-systemen in hun bedrijfsproces inzetten; voor publieke en private domeinen, en voor alle verschillende economische sectoren van medisch tot agrarisch en cybersecurity.  

Voor ons als Dynamic People betekent dit eenvoudigweg: dit is relevant voor alle toepassingen die wij maken die een AI-component hebben. Dus, als wij een tool maken die de inhoud van facturen automatisch uitleest en naar de juiste velden in het ERP systeem van de klant schrijft waarvoor we een LLM gebruiken om de mapping te doen, dan zit daar een AI-component in. Dat is dus een AI-systeem. Of, als wij bij een klant een machine-learning algoritme ontwikkelen en in productie brengen dat voorspellingen maakt over het aantal supportcases per dag en de mate waarin het bedrijf dan aan haar SLA beloftes voldoet, dan is dat ook een AI-systeem.  In deze beide gevallen zal de implementatie van de AI Act in Nederlandse wetgeving van toepassing zijn.  

Hoe ziet dat eruit – de implementatie van de AI Act in Nederlandse wetgeving? 

Op dit moment is dat in de maak – de vormgeving ligt bij het ministerie van Economische Zaken en Klimaat vanuit de Rijksinspectie Digitale Infrastructuur (RDI) met input van het ministerie van Justitie en Veiligheid. Dus, hoe nationale wetgeving en navenante handhaving er precies uit zal komen zien, is nog een work-in-progress.  

Waar we al wel iets over weten, is het juridische framework dat we kunnen verwachten. Er wordt gewerkt met bepaalde risiconiveaus. Afhankelijk van de risico-inschaling van het betreffende AI-systeem, zullen er bepaalde restricties en/of verplichtingen volgen. Deze risicolevels kun je zien in Figuur 2. Zo is het wat betreft de Europese commissie niet de bedoeling dat er AI-systemen de Europese markt op komen die zich richten op onbewuste beïnvloeding (subliminal techniques) of op zgn. social scoring: sociaalkredietsystemen waarbij mensen op basis van gedrag een score krijgen. AI-systemen die geclassificeerd worden als hoog-risico liggen bij o.a. medische toepassingen en wervingstoepassingen. In deze gevallen kun je denken aan richtlijnen omtrent de veiligheid en het ethische verantwoord gebruik voor het voorkomen van vooroordelen.  

Figuur 2: Risicopiramide voor indeling van AI-systemen volgens de AI Act.  

Wat zijn de volgende stappen die we kunnen verwachten?  

De AI-verordeningstekst heeft onlangs nog aanpassingen ondergaan. Het Europese parlement heeft daar inmiddels mee ingestemd. De Raad moet nog instemmen, wat waarschijnlijk eind mei zal gebeuren.  Na deze instemming wordt de verordening formeel gepubliceerd. Twintig dagen na publicatie treedt de verordening in werking: naar verwachting is dat dat in juni of juli dit jaar het geval zal zijn.  

Op dit moment zijn de betrokken ministeries bezig om de EU verordening om te zetten in nationale regelgeving die nageleefd en gehandhaafd kan worden. Het ligt in de planning dat er al na 6 maanden na inwerkingtreding gestart gaat worden met handhaving van regels omtrent onacceptabel risico (de top van de piramide). Voor de overige typen regels zijn tijdslijnen uitgezet tussen de 12 en 36 na inwerkingtreding.   

Een van de eerste uitingen waarnaar we kunnen uitkijken zijn de zogenaamde “regulatory sandboxes”, waarin AI-systemen in een gecontroleerde omgeving getoetst kunnen worden aan de richtlijnen AI Act. Aan de uitwerking van dit concept wordt op het moment hard gewerkt, waarbij input van Nederlandse doelgroep wordt gevraagd bijvoorbeeld in het NL AI Congres 2024.  

Concluderende gedachtes  

Ik heb met veel plezier conferentie over de EU AI Act in Den Haag bijgewoond. Met deze regelgeving wordt geprobeerd een sterk kader neer te zetten dat zal helpen met veilige en ethisch verantwoorde AI-systemen in de Europese markt. Dat is natuurlijk alleen naar toe te juichen. Aan de andere kant, AI ontwikkelingen gebeuren niet binnen geopolitieke grenzen. Er is een aannemelijk risico dat de AI Act de innovatieve kracht van Europese bedrijven zal beperken in vergelijking met concurrenten in markten zoals Amerika of China. Dit kan ertoe leiden dat Europa een achterstand oploopt doordat nieuwe technologieën mogelijk eerder en sneller buiten Europa worden ontwikkeld en geïmplementeerd.  

Concreet gezien is er nog veel werk aan de winkel om de AI Act om te zetten in duidelijk definieerbare, handhaafbare regels. Hoewel tijdens het event er veel  gelegenheid was om vragen te stellen, had ik het gevoel dat niet alle vragen uit het publiek even grondig beantwoord konden worden, vooral die over de praktische uitvoering van de regelgeving op lange termijn, omdat deze onderwerpen simpelweg nog niet zijn uitgekristalliseerd. Het oplossen hiervan vraagt om een continue dialoog tussen beleidsmakers, AI-ontwikkelaars en andere stakeholders. Wat dat betreft gaat het proces goed en ben ik onder de indruk: alle belanghebbende partijen worden steeds aan tafel gevraagd en dit event was daar een mooi voorbeeld van.  

Links voor meer informatie: