Organisaties nemen steeds vaker besluiten over mensen met behulp van algoritmen. Dat een burger recht heeft op uitleg, op menselijke tussenkomst en op bezwaar, weten de meesten niet. Dat blijkt uit onderzoek dat de Autoriteit Persoonsgegevens (AP) liet uitvoeren onder 1.480 mensen.
▼
Rechten bestaan, maar niemand kent ze
Bijna 40 procent wist niet dat hij of zij recht heeft op een menselijke blik bij besluiten die door een algoritme worden genomen. Bijna één op de vijf heeft weleens meegemaakt dat een organisatie zonder uitleg een automatisch besluit nam dat nadelig uitpakte. Van die groep heeft ongeveer twee op de vijf geen melding gedaan.
De rechten zijn er wel. Wie te maken krijgt met een algoritmisch besluit, mag vragen hoe dat besluit tot stand is gekomen, op basis van welke gegevens, en mag eisen dat een medewerker meekijkt. Maar als mensen die rechten niet kennen, staan ze er in de praktijk alleen voor.
Taal is het probleem
Vooral mensen die minder digitaal vaardig zijn, hebben behoefte aan meer informatie over hun rechten. Zij pleiten voor eenvoudige, eerlijke en toegankelijke uitleg over wat er met hun persoonsgegevens gebeurt. Wat er nu beschikbaar is, is juridisch en complex verwoord. Voor wie de weg niet kent, is dat, een doodlopende straat.
Wat organisaties nu doen
Zeven procent van de organisaties die algoritmen inzetten, gebruikt het algoritme met de grootste impact op individuen om beslissingen te nemen zonder menselijke tussenkomst. Dat is volgens de AVG in bepaalde gevallen niet toegestaan. Daarnaast weet 43 procent van de ondervraagde organisaties niet eens welk type algoritmen ze gebruiken. Governance rond algoritmen beoordeelt een groot deel van de organisaties zelf als beperkt of situationeel.
Hoewel het onderzoek van de AP het algemeen houdt, spelen dit soort automatische besluiten al dagelijks. Denk aan het wel of niet toekennen van een lening, het selecteren van kandidaten in sollicitatieprocedures, het detecteren van fraude bij uitkeringen, of het bepalen van premies door verzekeraars.
Deze bevinding sluit aan op een eerdere waarschuwing van de AP die aangaf dat AI zich sneller ontwikkelt dan de regels die het moeten begrenzen. Waar de technologie vooruitgaat, blijft het begrip bij gebruikers én organisaties achter.
Wat dit betekent voor data en AI in organisaties
Voor wie met data en AI werkt binnen organisaties is dit onderzoek een spiegel. Technisch klopt het misschien, juridisch ook, maar als mensen niet begrijpen hoe besluiten over hen worden genomen en niet weten dat ze daar iets tegen kunnen doen, is transparantie een papieren werkelijkheid. Vertrouwen bouw je niet met een privacyverklaring van zes pagina’s. Dat bouw je door mensen te vertellen wat er gebeurt, in taal die ze begrijpen.