Na klachten over haatzaaiende uitlatingen tegen seksuele minderheden is deze maand de Zuid-Koreaanse chatbot Lee Luda even stilgezet. Lee Luda is een door KI-gevoede bot, die een 30-jarige studente verbeeldt. In 20 dagen tijd vergaarde ze zo’n 750.000 volgers.
De chatbot werd van Facebook gehaald nadat gebruikers klaagden dat ze provocerend sprak over de LGBT-gemeenschap en mensen met een handicap.
De makers van Lee Luda, startup Scatter Lab, boden hun excuses aan. Ze beloven dat de chatbot weer terugkomt als de zwakke punten verholpen zijn. De verklaring hoever het zo heeft kunnen komen met Lee Luda? De chatbot maakt gebruik van berichten van koppels op berichtensite KakaoTalk. Maar het (on)begrip van de taal en de afkortingen op sociale media resulteerden in seksueel beledigende termen. Lesbiennes werden getagd als ‘griezelig’ die Lee Luda ‘echt haatte’. En de chatbot had te lijden van manipulatie. Zo was er een groep die zich ten doel had gesteld van Luda een seksslaaf te maken.
Scatter Lab zet filters in om Luda’s woordenschat te kuisen, zodat ze weer sociaal aanvaardbare woorden spreekt. Overigens heeft het bedrijf nog niet uitgelegd hoe het aan de privé-berichten op KakaoTalk is gekomen.