Meike Nauta (29) is genomineerd voor de Young Talent Award van het Data & Insights Network. Als senior data scientist en sinds kort ook manager business development bij Datacation is ze ook verantwoordelijk voor de visie van het bedrijf op AI. Komende donderdag wordt bekend wie de awards gaan winnen. Lees hier en hier ook de interviews met de twee andere genomineerden voor de Young Talent Award.
Vertel, waar gaat het heen met AI?
‘Oe, dat is heel breed. Ik zie een groot verschil in hoe bedrijven nu met AI bezig zijn vergeleken met tien jaar geleden toen ik mijn studie Informatica begon. Toen bestond AI ook al, maar leefde het helemaal niet bij bedrijven. Dat is ook de reden dat ik in 2018 heb gekozen academisch onderzoek te gaan doen in plaats van bij een bedrijf aan de slag te gaan. Pas eind 2022, toen ChatGPT uitkwam, steeg de interesse van bedrijven in AI. Inmiddels zie je de theorie en praktijk meer samenkomen. Ik zit al jarenlang in de wereld die AI vanuit theoretisch oogpunt begrijpt, maar ik heb altijd interesse gehad in hoe we AI ook echt in de praktijk inzetten.’
Je bent cum laude gepromoveerd in ‘uitlegbare AI’. Waar gaat dat over?
‘De meeste AI was ontwikkeld door ontwikkelaars die puur vanuit technisch oogpunt denken. Ik vind het ook interessant te kijken hoe we de menselijke kant in AI mee kunnen nemen. Waar is vraag naar en waar moeten we rekening mee houden? Die twee komen samen in mijn onderzoek en dat is ook wat ik nu doe: de menselijke kracht teruggeven in plaats van dat AI het volledig overneemt.’
Waar zit dat menselijke stuk precies in?
‘Daar zijn allerlei verschillende keuzes in te maken. Tijdens mijn onderzoek heb ik nieuwe modellen ontwikkeld waarmee we niet alleen trainen op de output, maar ook de uitleg hoe de AI daartoe is gekomen. Zodat de AI wat meer leert denken zoals een mens ook denkt.’
‘AI moet leren denken zoals een mens denkt’
Noem eens een voorbeeld?
‘In data zitten vaak biases of shortcuts waarvan wij niet weten dat die in data zitten, en die AI eigenlijk misbruikt om de makkelijkste weg naar het goede antwoord te geven. Een voorbeeld is de AI die op basis van een scan moest oordelen of iemand covid had of niet. Hij leek dat heel goed te kunnen. Maar toen bleek dat er twee scanners waren gebruikt en dat de longscans van de mensen die geen covid hadden allemaal waren gemaakt door de ene scanner. Mensen die wel covid hadden, waren gescand door de andere scanner. En blijkbaar was de grijswaarde van de ene scanner net een beetje anders dan die van de andere. Dus de AI leek het goed te kunnen herkennen. Maar eigenlijk heeft hij helemaal niet geleerd om covid te herkennen: hij had gewoon geleerd te herkennen van welke scanner de foto kwam.’
Hoe kwamen ze daar dan achter?
‘Toen ze de AI gingen inzetten in het ziekenhuis was de performance veel lager dan eerst. Dus voordat je een model gaat gebruiken, en dan kom je op mijn terrein, wil je weten welke redenering achter het model ligt. Ik heb een AI gebouwd die uit zichzelf laat zien wat de redenering is. Vooraf en niet pas achteraf.’
Hoe heb je dat gedaan?
‘Ik heb bijvoorbeeld een AI ontwikkeld om vogels op basis van een foto te herkennen. Daar heb je al allerlei apps voor. Maar dit systeem vertelt niet alleen dat het een specht is, maar geeft ook de uitleg waarom het een specht is. Namelijk omdat hij zwarte vleugels heeft, met daar stippels en daar een rode vlek. Zo’n AI reageert dus veel meer zoals een mens denkt.’
‘Er is meer aandacht nodig voor begrijpelijke AI’
Wat is de volgende stap?
‘Om van 2D-beeld, dus foto’s, naar 3D-scans te gaan. Samen met het UMC Utrecht kijken we nu naar CT-scans voor het herkennen van alvleesklierkanker. En kunnen we daar ook de uitleg in vinden, zodat we aan de arts kunnen uitleggen waarom de AI denkt dat er alvleesklierkanker aanwezig is. Als de AI het fout heeft, kun je het direct aanpassen. Zo leer je sneller. En het maakt ook dat artsen meer openstaan voor AI. Ook willen we de uitlegbare AI uitbreiden naar taalmodellen, waarvoor we samenwerken met bibliotheken in de regio van Eindhoven.’
Wat is voor jou een belangrijk leermoment geweest?
‘Als ik terugkijk, kan ik zeggen dat als je ergens van overtuigd bent, je door moet zetten. Toen ik in het begin vertelde dat ik die uitlegbaarheid in AI wilde inbouwen zodat je niet pas achteraf een uitleg hebt, dachten veel mensen dat dat überhaupt niet kon. De eerste pogingen die ik deed, slaagden ook niet. Ik heb op het punt gestaan op te geven. En nu vinden mensen het heel normaal dat uitleg-by-design bestaat.’
Wat zou jij in dit vakgebied per direct willen veranderen?
‘Ik zou willen dat er nog meer aandacht komt voor begrijpelijke AI. Want iedereen zou een basisbegrip moeten hebben van wat AI is en hoe het werkt. Dat helpt ook de angst bij bedrijven en in de samenleving weg te halen.’
Aanstaande donderdag 27 juni worden in Zandvoort de D&IN-awards uitgereikt. De uitreiking van de prijzen en het aansluitende feest – met barbecue – vindt plaats bij Strandpaviljoen Tijn Akersloot. Reserveer hier nog snel een plaats!