AI neemt steeds vaker beslissingen zonder directe menselijke tussenkomst. In militaire context gebeurt dat onder de hoogste druk, met levens op het spel. Onderzoek van de Universiteit van Amsterdam laat zien dat bestaande regels moeite hebben om deze ontwikkelingen bij te houden. De vraag die overblijft, geldt ook ver buiten het slagveld: wie houdt de controle als systemen zelf keuzes maken?
▼
Beslissingen zonder directe mens
In moderne oorlogsvoering ondersteunen AI-systemen niet alleen analyses, maar ook keuzes. Ze helpen bepalen wat een doelwit is, welke actie volgt en hoe snel die wordt uitgevoerd. Daarbij treden fouten op die niet willekeurig zijn. Onderzoeker Taylor Kate Woodcock stelde vast dat beperkte AI-systemen fouten niet alleen maken, maar ook stelselmatig herhalen op een manier die moeilijk te corrigeren is. Zo worden mannen vaker als doelwit herkend dan vrouwen.
Juridische categorieën als “burger” en “soldaat” kunnen door AI op nieuwe manieren worden geïnterpreteerd. Het internationaal recht gaat uit van menselijke beoordeling. Zodra systemen zelf stappen zetten, wordt onduidelijk wie verantwoordelijk is voor de uitkomst.
Hetzelfde doet zich voor in het bedrijfsleven, waar systemen steeds vaker beslissingen nemen, van prijsbepaling tot targeting en contentselectie.
Controle verdwijnt ongemerkt
Woodcock laat zien dat controle niet vanzelfsprekend blijft zodra AI een grotere rol krijgt. Beslissingen komen voort uit data, modellen en optimalisaties die niet altijd inzichtelijk zijn. Daardoor wordt het lastig om achteraf te begrijpen waarom een keuze is gemaakt, wie daarvoor verantwoordelijk is en of die keuze te verantwoorden valt. In militaire context valt dat direct op. In commerciële toepassingen gebeurt hetzelfde, maar vaak minder zichtbaar.
Wat betekent dit voor het bedrijfsleven?
De les uit militaire AI is niet dat systemen minder gebruikt moeten worden, maar dat controle bewust moet worden ingericht. Dat begint bij keuzes die vooraf worden gemaakt: waar mag AI zelfstandig beslissen, waar blijft een mens betrokken en hoe leg je beslissingen achteraf uit? Zonder die keuzes verschuift controle ongemerkt naar het systeem zelf.
Regels alleen zijn niet genoeg. Controle moet onderdeel zijn van hoe systemen worden gebouwd en ingezet. AI is daarmee niet alleen een kwestie van optimalisatie en efficiëntie, maar ook een organisatorische. Wie kijkt mee, wie grijpt in en wie draagt verantwoordelijkheid?