De risico’s van AI en algoritmes nemen verder toe, onder meer door de opkomst van generatieve AI. Daarmee groeit ook het risico op verspreiding van desinformatie, privacy-overtredingen en discriminatie. De Autoriteit Persoonsgegevens (AP) pleit daarom in de tweede editie van de Rapportage AI- & algoritmerisico’s Nederland voor meer grip.
De AP is voorstander van een deltaplan waarin onder meer menselijke regie, veilige applicaties en systemen en eisen aan organisaties samenkomen. Ook zou er geïnvesteerd moeten worden in educatie en het bewustzijn van algoritmes en AI bij jong en oud. Het moet voor mensen duidelijk zijn welke rol algoritmes en AI spelen, bijvoorbeeld bij de inzet van algoritmes in het onderwijs en op de werkvloer.
Aleid Wolfsen, voorzitter AP: ‘Hoe meer AI en algoritmes worden ingezet in de samenleving, hoe meer incidenten plaatsvinden. Bijvoorbeeld mensen die foute adviezen krijgen van chatbots, gezichtsherkenningssystemen die minder goed werken voor mensen van kleur of mensen die een lawine aan parkeerboetes krijgen van de gemeente omdat scanauto’s niet correct ingezet worden.’
Menselijke regie
Het deltaplan moet ervoor zorgen dat bedrijven, de overheid en burgers samen toewerken naar een samenleving waarin algoritmes en AI verantwoord worden gebruikt, met meetbare doelstellingen en afspraken. Implementatie van regelgeving, zoals de Europese AI Act (AI-verordening), is daar onderdeel van. Menselijke regie is daarbij een belangrijk uitgangspunt. Die werkt alleen als mensen zich beter bewust zijn van de werking en risico’s van algoritmes en AI.
Meer begrip en kennis
De AP denkt niet dat iedereen over dezelfde kennis hoeft te beschikken. Docenten of artsen moeten bijvoorbeeld weten hoe zij een algoritme kunnen beoordelen of inzetten. Mensen moeten weten wat de inzet van een algoritme in hun werkomgeving voor hen betekent en hoe ze zich daartegen kunnen verweren. Bestuurders van organisaties moeten adequate kennis bezitten om de risico’s, effecten en mogelijkheden voor beheersing te kunnen beoordelen voordat zij besluiten nemen. De AP pleit voor structurele investering in begrip en kennis om als samenleving om te kunnen gaan met de inzet van algoritmes en AI.