Het Nederlandse bedrijfsleven vindt zichzelf onvoldoende ingericht voor het gebruik van algoritmes die persoonsgegevens verwerken. Dat blijkt uit een enquête die de Autoriteit Persoonsgegevens (AP) afnam onder 1600 bedrijven. Het merendeel van deze bedrijven weet niet helemaal zeker of ze algoritmes gebruiken om persoonsgegevens te verwerken. En wanneer ze daarvoor algoritmes gebruiken, weet men vaak niet om welke algoritmes het precies gaat.
▼
Algoritmes, inclusief AI, veranderen de manier waarop bedrijven werken en met klanten en hun persoonsgegevens omgaan. Zo kan een bedrijf geautomatiseerd een besluit over klanten nemen, zonder dat hier een mens bij betrokken is. Bedrijven weten echter weinig over de regels en risico’s. Ook zijn ze vaak afhankelijk van leveranciers of andere externe partijen bij de aanschaf van bijvoorbeeld software die met algoritmes werkt. Dit beïnvloedt niet alleen hoe bedrijven inkopen, het zorgt ook voor onvoldoende controle op risico’s van het gebruik.
Checklist
De AP is naar aanleiding van de uitkomsten met deze bedrijven in gesprek gegaan tijdens een bijeenkomst. Daar is een aantal vervolgstappen uitgekomen. Zo gaat de AP vaker praktische hulpmiddelen publiceren en consulteren over het verantwoord inzetten van algoritmes. Een voorbeeld is de recente consultatie hoe bedrijven ervoor kunnen zorgen dat er betekenisvolle menselijke tussenkomst is bij algoritmische besluitvorming. Ook werkt de AP aan een checklist voor bedrijven om goed om te gaan met de rechten van mensen waarover ze zo’n algoritmisch besluit nemen.
Verdere acties
De AP gaat verder in gesprek met bedrijven om ‘best practices’ te verzamelen over het opzetten en inrichten van algoritmes die persoonsgegevens verwerken. Ook neemt de AP de verantwoordelijkheid van leveranciers onder de loep en komt er voorlichting over het inkopen van algoritmes. Wanneer bedrijven bij het inkoopproces al kritisch nadenken over het doel waarvoor zij algoritmes willen inzetten en zich bewust zijn van risico’s daarvan, kunnen zij nadelige gevolgen voor bijvoorbeeld hun klanten voorkomen.
AI-geletterdheid
Onder de AI-verordening moet iedereen die binnen of namens een organisatie met AI-systemen werkt, niet alleen vaardigheden, kennis en begrip hebben over de technische werking van AI-systemen, maar ook over de sociale, ethische en praktische aspecten. De AP publiceerde onlangs het document ‘Aan de slag met AI-geletterdheid’ om organisaties op weg te helpen.