De Rijksinspectie Digitale Infrastructuur en de Autoriteit Persoonsgegevens hebben op 7 november het eindadvies ‘Toezicht op AI’ gepresenteerd. In dit advies wordt beschreven hoe met een geïntegreerde aanpak effectief toezicht gehouden kan worden op het gebruik van AI.
▼
Samenwerking, coördinatie en het optimaal benutten van expertise op gebied van grondrechten en veiligheid. Die elementen vormen de kern van het eindadvies ‘Toezicht op AI’ dat de Rijksinspectie Digitale Infrastructuur (RDI) en de Autoriteit Persoonsgegevens (AP) vorige week presenteerden. Het advies beschrijft hoe met een geïntegreerde aanpak effectief toezicht gehouden kan worden op het gebruik van AI.
Wanneer organisaties AI-toepassingen integreren in producten en diensten zonder de huidige verplichte CE-markering kan het toezicht hierop ook aansluiten bij bestaande toezichtrollen. Het gaat bijvoorbeeld om toepassingen waarbij AI-systemen worden ingezet om besluiten over mensen te nemen. Zoals bij werving en selectie, beoordelingen in het onderwijs of risicoselectie door overheidsorganisaties.
Toezicht niet versplinteren
Voor deze sector-overstijgende toepassingen is het belangrijk dat toezichthouders samenwerken vanuit hun sectorale en domeinspecifieke expertises, zegt de AP. Zo moeten signalen bijvoorbeeld over en weer kunnen worden gedeeld en kunnen toezichthouders samenwerken om geschikte interventies te doen. Het toezicht op de AI-verordening moet plaatsvinden in nauwe samenwerking tussen toezichthouders, zodat het toezicht niet versplintert en de organisaties weten wat er van ze verwacht wordt.
In het eindadvies over het toezicht op de AI-verordening worden coördinerende rollen toebedeeld aan de RDI en de AP. Vanuit een expertrol ondersteunen en adviseren zij andere toezichthouders en faciliteren ze de samenwerking.
Veilig en eerlijk
AP-voorzitter Aleid Wolfsen benadrukt het belang van de beschermende werking van de AI-verordening: ‘Mensen kunnen nu al dagelijks in contact komen met AI-systemen, en het is belangrijk dat burgers erop kunnen vertrouwen dat AI veilig, eerlijk en met respect voor grondrechten wordt ingezet. Door als toezichthouders met elkaar samen te werken waarborgen we de ontwikkeling en veilige inzet van risicovolle AI-systemen over verschillende sectoren heen op basis van een uniforme uitleg van de wet door de gehele Europese Unie. Zoals ook de European Data Protection Board recentelijk schreef kan de AP binnen zo’n structuur vanuit haar rol en kennis een belangrijke bijdrage leveren in het producttoezicht daar waar AI over mensen besluit of beoordelingen doet.’