De opkomst van generatieve AI-systemen versterkt risico’s op het gebied van discriminatie en onveiligheid. Daarnaast brengt de technologie nieuwe problemen met zich mee voor intellectueel eigendom. Het beleid moeten worden aangescherpt, concludeert het Rathenau Instituut.
Volgens het Rathenau-instituut is er een reële mogelijkheid dat het huidige en aangekondigde beleid, waaronder de nieuwe Europese AI-verordening, niet voldoende zijn om de risico’s van generatieve AI-systemen tegen te gaan. Het instituut beveelt beleidsmakers en politici aan om nationaal en Europees beleid door te lichten en aan te scherpen, en met de AI-verordening de mogelijkheid te creëren om risicovolle generatieve AI-systemen van de markt te halen. In de tussentijd zijn ondersteuning van toezicht, afspraken met ontwikkelaars en maatschappelijk debat nodig over de wenselijkheid van generatieve AI-systemen zoals ChatGPT, Bard en DALL-E.
Druk op democratische processen
De opkomst van generatieve AI-systemen versterkt en compliceert bekende risico’s van digitalisering, zegt het instituut. De productie van desinformatie wordt eenvoudiger en bescherming van data wordt ingewikkelder. En terwijl het al lastig was om transparantie te verkrijgen over de werking van AI-systemen, is dat bij de complexere generatieve AI-systemen vrijwel onmogelijk. Ook brengt generatieve AI nieuwe risico’s met zich mee, zoals voor de bescherming van intellectueel eigendom.
De invloed van enkele grote technologiebedrijven was al groot in maatschappelijke domeinen als de zorg of het onderwijs, maar breidt zich verder uit naar de wetenschap. Al met al zet generatieve AI druk op democratische processen zoals de toegang tot kennis, de nieuwsvoorziening en het publieke debat, en wordt het nog lastiger om democratische zeggenschap te krijgen over de technologie.
Het Rathenau Instituut ontwikkelde zijn zienswijze in een publicatie die is vervaardigd op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Het onderzoek is gebaseerd op literatuurstudie, werksessies en interviews met deskundigen.