De Europese Consumentenorganisatie (BEUC) vreest dat EU-instellingen een zwakke en onduidelijke benadering kiezen bij de regulering van AI-systemen, zoals ChatGPT of Bard. Een sterk wettelijk kader om consumenten te beschermen tegen de risico’s van generatieve AI is volgens BEUC essentieel om manipulatie van de consumenten, onjuiste informatie, schending van privacy, fraude en desinformatie tegen te gaan.
De zorg van BEUC is gebaseerd op uitgelekte documenten die binnen de EU-overlegorganen worden besproken. Daarin staat een aanpak die volgens BEUC onduidelijk en complex is. De aanpak zou leiden tot grote onzekerheid voor regelgevers, consumenten en de bedrijven die onder de wet zouden kunnen vallen.
Bovendien bestaat het risico dat alleen generatieve AI-systemen van grote bedrijven adequaat worden gereguleerd, en groot aantal generatieve AI-systemen mogelijk slechts aan zwakke transparantie-eisen hoeft te voldoen, waardoor consumenten in te veel gevallen onbeschermd blijven.
Bescherming
Ursula Pachl, adjunct-directeur-generaal van de Europese Consumentenorganisatie (BEUC), zei hierover: ‘Als generatieve AI nu onjuist wordt gereguleerd, zullen de grote bedrijven onze samenlevingen vormgeven in plaats van onze democratische instellingen. Voor consumenten maakt het niet uit of ze te maken hebben met een groot of een klein bedrijf – ze moeten absoluut worden beschermd. Het is nu tijd voor de EU om ervoor te zorgen dat alle generatieve AI veilig is voor consumenten.’ Ze roept het Europees Parlement en de EU-lidstaten op om aan te dringen op wetgeving die consumenten beschermt en mondig maakt bij het omgaan met nieuwe technologieën.
Onderzoek OpenAI
BEUC heeft dit jaar al autoriteiten op het gebied van gegevensbescherming, consumentenbescherming en productveiligheid opgeroepen om de mogelijke schade van de systemen voor consumenten te onderzoeken. In de VS heeft de Federal Trade Commission, die verantwoordelijk is voor consumentenbescherming, een onderzoek ingesteld naar OpenAI vanwege de manier waarop het gegevens verzamelt en vanwege beweringen dat ChatGPT valse informatie produceert.