Het Data & Insights Network heeft in een brief aan de Autoriteit Persoonsgegevens uiteengezet dat er binnen het netwerk volop word gewerkt aan ethische aspecten bij de ontwikkeling en het verwerken van AI-ondersteunende statische toepassingen.
▼
De brief sluit aan bij het streven van de Tweede Kamer om te komen tot een overheidsbrede visie op AI, en dan gaat het vooral om het gebruik en de toepassing van AI. Het Data & Insights Network (D&IN) wil het ontwikkelen van de visie graag ondersteunen en het denkt daarover na in voor dit onderwerp speciaal geformeerde ledengroepen.
In april van dit jaar richtte het D&IN al een taskforce op om het gebruik van AI-systemen in kaart te brengen vanuit een ethisch perspectief, en te onderzoeken welke consequenties het gebruik van AI heeft voor statistisch onderzoek. Tezamen met de richtlijnen uit de AVG en de AI-act moet er daardoor een volwaardige gedragscode voor statistische toepassingen ontstaan.
Taskforce
Hoofdlijnen die de taskforce aan de orde stelt zijn:
- De rol van AI moet in eenvoudige, niet-technische bewoordingen kunnen worden uitgelegd, zowel naar gebruikers als naar kopers.
- Gebruikers en kopers moeten weten of het AI-model eigendom is, of het bij een bestaand model aansluit en of er een derde partij bij betrokken is.
- Het proces van de validatie is een belangrijk aandachtspunt. Daarbij kan gedacht worden aan de suggestie van de Autoriteit Persoonsgegevens om te valideren via een a-selecte steekproef.
- De vraag is in hoeverre je bij het ontwerpen van AI-modellen rekening moet houden met een zorgplicht voor mensen.
- Wat vertel je over het gebruik van AI-technologieën in (een deel van) de data- en insights-modellen?
- Welke ethische principes zijn er gedefinieerd rond het gebruik van AI-gestuurde data-bewerkingen?
Fair data
Het D&IN schrijft in de brief ook dat het einddoel van de taskforce is om een definitie op te stellen van wettelijke, praktische en ethische verplichtingen waaraan de leden zich moeten houden bij het gebruik van op AI gebaseerde diensten, zodat gebruikers en afnemers van de algoritmen zeker weten dat de AI-modellen zijn gebaseerd op ‘fair data’. De wettelijke en ethische verplichtingen zullen worden opgenomen in de gedragscode voor de sector.