Begin augustus trad Europese AI Act in werking. Klantcontactcentra moeten ermee rekening houden. Op de website Klantcontact.nl wordt uiteengezet wat de Act betekent voor emotiedetectie en sentimentanalyse. ‘Wat vandaag een handige innovatie lijkt, kan morgen in strijd zijn met de wet.’
▼
De website van Klantcontact stelt dat emotiedetectie en sentimentanalyse vaak door elkaar worden gehaald, maar dat er toch een juridisch en technisch onderscheid is tussen de twee.
Van sentimentanalyse is sprake als AI geschreven of gesproken taal analyseert en categoriseert als positief, neutraal of negatief. ‘De analyse gebeurt op tekstniveau, niet op basis van fysieke of fysiologische signalen. Daarom valt sentimentanalyse buiten het strengste risicodomein van de nieuwe AI-wetgeving.’
Anders is het bij emotiedetectie. Dan worden emoties afgeleid uit non-verbale signalen zoals stemintonatie, gezichtsuitdrukking of hartslag. Vooral spraak- of videotechnologieën die woede, stress of enthousiasme proberen te herkennen, vallen hieronder, zegt Klantcontact. ‘Deze toepassingen grijpen direct in op de menselijke waardigheid en privacy, aldus de Europese wetgever – en worden daarom vanaf 2026 als zogeheten hoog-risico AI of zelfs verboden AI beschouwd.’
Risico’s op een rij
Volgens de Europese AI Act zijn AI-systemen verboden die emoties detecteren op de werkvloer, in onderwijs of rechtshandhaving, Het gebruik van emotiedetectie tijdens gesprekken met klanten is niet verboden, maar er zitten wel risico’s aan. Klantcontact zet ze op een rij. Organisaties moeten kunnen aantonen dat:
- er een legitiem belang is (bijvoorbeeld betere dienstverlening),
- klanten expliciet geïnformeerd zijn en akkoord gaan,
- de technologie betrouwbaar en niet-discriminerend werkt,
- alternatieven zijn overwogen,
- en dat er geen onnodige inbreuk is op de persoonlijke levenssfeer.
Privacy by design
De Autoriteit Persoonsgegevens (AP) heeft al geconcludeerd dat veel organisaties AI-systemen inzetten zonder goed zicht op onderliggende risico’s, vooral bij voicebots, spraakherkenning en monitoringtools. De AP waarschuwt dat het combineren van spraakdata met emotieherkenning snel leidt tot verwerking van biometrische of gevoelige persoonsgegevens, waarvoor zwaardere privacy-eisen gelden.
De toezichthouder noemt emotiedetectie expliciet als risico bij klantinteractie en benadrukt het belang van privacy by design. Daarbij hoort ook dat bedrijven niet alleen juridische, maar ook ethische afwegingen maken: hoe voelt een klant zich als hij weet dat zijn stem wordt geanalyseerd op boosheid?
Wie gebruikmaakt van AI in klantgesprekken doet er verstandig aan nu al een impactanalyse uit te voeren, zegt Klantcontact. ‘Kijk kritisch naar de onderliggende technieken van voicebots, realtime dashboards en feedbacksystemen. Want wat vandaag een handige innovatie lijkt, kan morgen in strijd zijn met de wet.’
Bron: klantcontact.nl