De aandacht voor de impact van algoritmen en AI op de samenleving is de laatste jaren sterk toegenomen. Het kabinet vindt het belangrijk om ook te wijzen op de kansen die AI en algoritmen bieden voor innovatie en om maatschappelijke problemen aan te pakken, maar het benadrukt ook beleid en regelgeving rond algoritmen en AI. In een kamerbrief informeerde het kabinet de Kamer onlangs over de voortgang op de lopende beleidstrajecten.
Het kabinet streeft naar mensgerichte AI en werkt dat uit in drie instrumenten. Het zijn hulpmiddelen voor overheidsorganisaties die algoritmen willen inzetten:
- Handreiking AI-systeemprincipes voor non-discriminatie. Dit hulpmiddel biedt een praktisch ontwerpkader dat ontwikkelaars helpt om al in de ontwikkelfase van een AI-systeem discriminerende patronen in gegevens zoveel mogelijk te bestrijden.
- Impact assessment voor mensenrechten bij de inzet van algoritmen (IAMA). Dit impact assessment kan een organisatie gebruiken om bij algoritmische systemen de risico’s voor mensenrechten in kaart te brengen en te mitigeren. Het IAMA wordt in opdracht van het kabinet door de Universiteit Utrecht ontwikkeld en is naar verwachting eind juni gereed.
- Code Goed Digitaal Openbaar Bestuur. Deze code geeft aandacht aan de gevolgen van digitalisering voor Goed Openbaar Bestuur door middel van principes en waarden die in drie ankerpunten democratie, rechtsstaat en bestuurskracht verwerkt zijn.
Het kabinet constateert ook dat de bestaande kaders verder moeten worden ingevuld:
- Actie 1: Het kabinet pakt geconstateerde (juridische) knelpunten rond de algemene kaders met voorrang aan waar het gaat om herleidbaarheid tot individuen en het voorkomen van discriminatie.
- Actie 2: Het kabinet draagt actief bij aan de ontwikkeling en uitwerking van verwachte Europese initiatieven die raken aan de normering, toezicht en transparantie van algoritmen: het witboek AI, het wetgevende voorstel voor AI van de EC en Nederlandse participatie in de haalbaarheidsstudie van de Raad van Europa naar een juridisch raamwerk voor AI.
- Actie 3: Het kabinet zorgt dat er voldoende wettelijke waarborgen voor de inzet van algoritmen zijn. Bij het formuleren van het voorstel zal het gebruikelijk traject met onder meer een internetconsultatie en het betrekken van externe experts, uitvoeringsorganisaties en andere belanghebbenden worden gevolgd.
- Actie 4: Parallel werkt het kabinet verder aan het uitdragen en doorontwikkelen van de richtlijnen voor data-analyse door de overheid.
- Actie 5: In aanvulling op mogelijke regels zoekt het kabinet naar een passend instrument voor overheden om transparant te zijn over de inzet van algoritmen.
- Actie 6: Het kabinet werkt verder aan de ontwikkeling en toepassing van instrumenten die overheden en bedrijven ondersteunen bij het nakomen van bestaande wettelijke verplichtingen en die (daarmee) helpen AI en algoritmen op verantwoorde wijze in te zetten, bv. via gedragscodes.
- Actie 7: Het kabinet blijft mensgerichte AI en verantwoorde inzet van algoritmen ondersteunen via onderzoek en experimenten.
- Actie 8: Het kabinet versterkt de integraliteit van het toezicht op algoritmen en ondersteunt toezichthouders als de ARK en de ADR om te komen tot één consistent toezichtskader voor overheidsorganisaties die algoritmen inzetten. Dit najaar organiseert het kabinet in dat kader een rondetafelgesprek met de toezichthouders op de inzet van algoritmen in de private sector om te borgen dat er goede en integrale samenwerking plaatsvindt. In 2022 laat het kabinet nogmaals een evaluatie van het toezichtlandschap op de inzet van algoritmen uitvoeren.
De brief stond op de agenda van de procedurevergadering van de Tweede Kamercommissie Binnenlandse Zaken van 17 juni. Vermoedelijk zal de nieuwe commissie Digitale Zaken de behandeling van de brief overnemen.