Diptish Dey is onderzoeker en docent aan de Hogeschool van Amsterdam en deskundige op het gebied van AI en data-science. Zijn MIE- lezing gaat over de EU AI Act en een strategisch model voor bedrijven om aan de eisen van de AI Act voldoen. ‘Als je een AI-systeem gebruikt, is de kans groot dat de AI Act binnenkort een aanzienlijke impact op je organisatie heeft.’
Kun je iets zeggen over het onderzoek onder bedrijven naar de toepassing van de AI Act?
‘De aankomende EU AI Act (AIA) beschrijft de technische verplichtingen waaraan kunstmatige intelligente systemen moeten voldoen om aan te tonen dat ze compliant zijn met de AIA. De lijst met technische eisen is lang genoeg om ons de vraag te stellen: ‘doen organisaties dit echt allemaal?’. We waren ons immers terdege bewust van de DIY-cultuur bij veel van onze contacten en dus benieuwd in hoeverre organisaties daadwerkelijk voldoen aan de technische verplichtingen van de AIA.
We onderzochten de AIA en categoriseerden onze bevindingen. Om inzicht te krijgen in de naleving van de AIA, ontwikkelden we een conceptueel model rond de activiteiten die organisaties ondernemen. Om het model realistischer te maken, hebben we een aantal moderatoren opgenomen zoals organisatiegrootte, mate van uitbesteding en offshoring van AI-systeemontwikkeling, en voorkennis van de AIA.
Om het conceptueel model te testen, hebben we een enquête met ongeveer 90 vragen opgesteld die tussen april en oktober 2023 in Nederland is afgenomen. We hebben destijds meer dan 40 organisaties geïnterviewd, waaronder wereldwijd bekende merken in online retail, witgoed, en personeelsdiensten en kleine niche AI-startups. Na afloop van het onderzoek werden de geaggregeerde resultaten gedeeld met deze deelnemers. Vervolgens organiseerden we validatie-interviews met twee deelnemers om de onderliggende oorzaken van de enquêteresultaten te achterhalen. Gedurende dit proces zijn we erin geslaagd om veel impactvolle inzichten te verkrijgen en is ons begrip enorm gegroeid.’
Wat zijn de belangrijkste resultaten?
‘Onze allereerste conclusie is dat de gemiddelde compliance met ongeveer 55% vrij laag is. Wat het nog erger maakt, is dat de meeste bedrijven (meer dan 80% van de deelnemers) zich niet realiseren wat er nodig is om compliant te zijn. Op de vraag of ze het gevoel hadden dat ze compliant zijn met bepaalde aspecten van de AIA, antwoordden ze (sterk) van wel, maar op de vraag of ze specifieke activiteiten ondernemen om compliant te zijn, presteerden ze slecht. Een ander belangrijk inzicht is dat kleinere organisaties minder compliant zijn dan grotere. Ook hebben we opgemerkt dat kleinere organisaties intern minder prioriteit geven aan compliance met de AIA.’
Wat zijn voor bedrijven de belangrijkste voor- en nadelen (of struikelblokken) van de AI Act?
‘Het grootste nadeel van elk ‘regulatory’ mechanisme zijn de kosten van naleving. Met de AIA kunnen de kosten toenemen op basis van vele factoren. Deze factoren zijn bijvoorbeeld het black-box-gedrag van de gebruikte algoritmen, complexe systemen van algoritmen die samenwerken om een doel te bereiken en een te hoge frequentie van training bij bijvoorbeeld zelflerende systemen. Organisaties die knowhow in huis hebben om hun AI-systemen te beoordelen, hebben een voorsprong en kunnen die gebruiken om hun concurrentievoordeel te vergroten.
‘Organisaties die knowhow in huis hebben om hun AI-systemen te beoordelen, hebben een voorsprong’
Wat houdt het strategisch model in en hoe kunnen bedrijven daaraan deelnemen?
‘Het strategische model, APPRAISE, gaat over organisaties die vier verschillende ‘spanningen’ tegen elkaar afwegen bij het innoveren met AI-systemen. Dat zijn technologie, regelgeving, normering en waarde-creatie. Hoe deze factoren op elkaar inwerken om te resulteren in verantwoorde shareholder value hangt af van een aantal zaken. Dan gaat het bijvoorbeeld om de grootte van de organisatie, het ‘buy versus build’-dilemma en de ‘exploratie versus exploitatie’-afwegingen die organisaties maken. Organisaties die met ons werken, beginnen vaak met het begrijpen hoe technische aspecten van hun AI-systeem en de AIA leiden tot beperkingen voor hun bedrijf. Ze vragen ons te helpen met de technische evaluatie van hun AI-systemen. Om deze technische evaluaties uit te voeren, vertrouwen we op onze eigen expertise en die van experts wereldwijd met wie we samenwerken.’
Welke praktische aanpak wil je de bezoekers van je presentatie meegeven?
‘Als je een AI-systeem gebruikt, is de kans groot dat de AI Act binnenkort een aanzienlijke impact op je organisatie heeft. Zorg ervoor dat je begrijpt hoe het AI-systeem dat je gebruikt waarde creëert in je organisatie. Je kunt hiervoor het APPRAISE framework gebruiken. Pas wanneer je begrijpt hoe AI waarde in je organisatie creëert, kun je beoordelen of het systeem niet te complex is voor je doel. Technische evaluaties op AI-systemen kunnen complex zijn. Deze complexiteit kan toenemen naarmate je AI-systeem complexer wordt. Het is daarom belangrijk dat je zo snel mogelijk begint met technische evaluaties van je AI-systeem.’
Wat is voor jou hét inzicht van 2023?
‘In 2023 waren we getuige van de reuzensprong die Gen AI maakte en de impact die het heeft op ons professionele leven. Het was ook interessant om te zien hoe snel na de initiële lancering van ChatGPT een handvol spelers Gen AI-diensten op de markt aanbood met vergelijkbare prestaties als ChatGPT. Het inzicht hier is dat de drempel om te innoveren met AI steeds lager wordt, wat in feite betekent dat we kunnen verwachten dat AI-systemen ons leven de komende jaren sneller zullen overspoelen dan we ons waarschijnlijk hadden voorgesteld.’
Wat wordt – naast AI – de belangrijkste ontwikkeling in de komende één à twee jaar?
‘Als we de afgelopen 100 jaar terugkijken, zien we dat ontwikkelingen in hardware en applicaties (software) elkaar hebben opgevolgd; de groei in de een stuwt de ander. In de laatste paar decennia hebben we een enorme groei in AI-systemen gezien, voornamelijk gedreven door toepassingen en het gebruik van algoritmen. De honger naar meer rekenkracht zal de innovatie in hardware gericht op AI de komende jaren aanjagen.’
De lezing van Diptish Dey is op woensdag 13 maart om 14.55 uur. Alle informatie over het MIE en inschrijven: www.mie.nl