Innovaties zoals intelligente chatbots en gebrekkig inzicht in bestaande algoritmes zijn op dit moment de belangrijkste algoritmerisico’s. Dit blijkt uit de eerste Rapportage Algoritmerisico’s Nederland, die de nieuwe directie Coördinatie Algoritmes van de Autoriteit Persoonsgegevens (AP) vorige week publiceerde.
Voor meer grip op algoritmes en AI, moeten overheid en bedrijfsleven nog grote stappen maken, zegt het rapport. Twee uitdagingen komen dan samen. Ten eerste de snelheid waarmee AI-innovaties de samenleving binnendringen, zoals slimme chatbots, ten tweede staat Nederland voor de opgave om inzicht te krijgen in het gebruik van hoogrisico-algoritmes: algoritmes die grote impact hebben op het leven van mensen. In afwachting van Europese wetgeving zijn nu al concrete acties van de overheid en het bedrijfsleven wenselijk.
Meer personeel en scholing
Volgens AP-voorzitter Aleid Wolfsen zijn er risico’s op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid. Het bewustzijn over de risico’s neemt toe, maar veel overheden en bedrijven zoeken nog naar de juiste manier om ze het hoofd te bieden. Daarom is duidelijke regelgeving nu cruciaal, zegt hij. ‘We roepen het demissionaire kabinet op om hierin voortgang te blijven maken. Organisaties kunnen zelf al een stap zetten door meer personeel en scholing in te zetten in de bewaking van algoritmes.’
Overkoepelend zicht
Om grip te krijgen op algoritmes en AI is overkoepelend zicht op het gebruik door de overheid en (publieke en private) maatschappelijke organisaties cruciaal. De AP is daarom positief over het algoritmeregister voor overheidsorganisaties, maar roept wel op tot afbakening met vooral oog voor de algoritmes met een hoog risico.
De AP adviseert om alvast aan te sluiten bij de (verwachte) classificatie van hoogrisico-systemen onder aankomende Europese wetgeving. De AP roept het kabinet op om overheidsorganisaties één jaar te geven om het algoritmeregister verplicht te vullen met alle hoogrisico-algoritmes.
Verleidelijk
Verder waarschuwt de AP voor de inzet van de recentste AI-innovaties. Nieuwe AI-toepassingen staan volop in de aandacht en het is verleidelijk om hiermee te experimenteren, bijvoorbeeld bij de beoordeling van sollicitanten, het opsporen van fraude, het beoordelen van klanten als die iets willen kopen of een lening willen aangaan, of bij het beoordelen van patiënten.
Rapportage
De Rapportage Algoritmerisico’s Nederland is een eerste totaaloverzicht van ontwikkelingen, risico’s en uitdagingen, bijeengebracht vanuit het overkoepelende risicoperspectief. De AP zal vanaf nu elk half jaar een Rapportage Algoritmerisico’s Nederland publiceren.