Als de wijzigingen definitief worden aangenomen, hoeven organisaties die met AI werken niet langer verplicht te investeren in AI-geletterdheid van hun personeel. Het Europees Parlement stemde in met een pakket wijzigingen van de AI-verordening, waarin deze verplichting wordt afgezwakt tot een aanmoediging. De vraag die overblijft: wat betekent dat voor de bescherming van grondrechten als organisaties zelf bepalen hoeveel zij investeren in AI-geletterdheid en risicobewustzijn?
▼
Vier wijzigingen, één balans
Het pakket, onderdeel van de zogenoemde Omnibus AI, moet de AI-verordening eenvoudiger maken voor bedrijven. Het Europees Parlement en de Raad van de EU bereikten op 7 mei een voorlopig akkoord over de wijzigingen, dat inmiddels door het Parlement is goedgekeurd. Van de aangenomen wijzigingen springen vier onderdelen eruit.
- De registratieplicht voor bepaalde AI-systemen die alleen procedurele taken uitvoeren blijft bestaan. Het voorstel om deze verplichting te schrappen kreeg geen meerderheid.
- De documentatie-inzagebevoegdheid van grondrechtenautoriteiten wordt beperkt. Zij mogen straks niet langer zelfstandig documenten opvragen bij organisaties die hoogrisico-AI-systemen gebruiken, maar moeten dit via markttoezichthouders laten verlopen.
- De invoering van verplichtingen voor hoogrisico-AI-systemen wordt uitgesteld tot december 2027 of augustus 2028, afhankelijk van het type systeem.
- De verplichting tot AI-geletterdheid wordt afgezwakt tot een aanmoediging.
Wat dit betekent voor de sector
Voor organisaties die AI inzetten in onderzoek en data-analyse wordt AI-geletterdheid een eigen keuze in plaats van een wettelijke verplichting. Daarmee verschuift de verantwoordelijkheid voor kennisontwikkeling en risicobewustzijn meer naar organisaties zelf.
Van verplichting naar aanmoediging
De afgezwakte AI-geletterdheidsplicht raakt het meest direct aan hoe organisaties hun personeel voorbereiden op AI-gebruik. Onder de oorspronkelijke verordening moesten organisaties die AI ontwikkelen of gebruiken ervoor zorgen dat medewerkers zich bewust zijn van de risico’s van de systemen waarmee zij werken. Die verplichting wordt nu een aanmoediging. Organisaties worden niet langer verplicht, maar gestimuleerd om hierin te investeren.
Het College voor de Rechten van de Mens uitte zich eerder kritisch over onderdelen van de Omnibus AI die grondrechten kunnen verzwakken, onder meer via brieven aan de Tweede Kamer en consultaties van de Europese Commissie. Het College verwelkomde uiteindelijk dat het voorstel om de registratieplicht te schrappen niet werd overgenomen. Over de versoepeling van de AI-geletterdheidsplicht bleef het kritisch.
Bredere context
Het akkoord van 7 mei introduceerde ook een verbod op zogenoemde nudification-apps, AI-systemen die naaktbeelden genereren zonder toestemming van de afgebeelde persoon. Daily Data Bytes schreef eerder over de aanleiding voor deze nieuwe regels, naar aanleiding van het Grok-nudification-schandaal op X.
De AI-verordening trad in augustus 2024 in werking. De verschillende verplichtingen worden sindsdien stapsgewijs van toepassing. De Omnibus AI laat zien hoe de Europese Unie blijft zoeken naar een balans tussen het stimuleren van innovatie en het beschermen van burgers tegen de risico’s van AI.