Hoe Defensie worstelt met big data en artificial intelligence

Oorlogsvoering en handhaving vindt al lang niet meer plaats op de traditionele speelvelden. Naast land, zee, lucht en ruimte is er een vijfde slagveld bijgekomen: het digitale strijdtoneel.

Het klassieke voorbeeld is natuurlijk Stuxnet. De computerworm dook in 2010 op en zou door de VS en Israël zijn ontwikkeld om de kerncentrales van Iran te saboteren. Deze digitale oorlogsvoering vergt een andere strategie: er gaat niemand op een knop drukken, systemen zijn vaak niet online en een foutmelding na een aanval kan de hele missie op z’n kop zetten.

Dan zijn daar big data en kunstmatige intelligentie: twee termen die je de afgelopen maanden om de oren vliegen. Elke organisatie, van peuterspeelzaal tot de Rijksoverheid, lijkt ermee aan de slag te willen. Zo ook Defensie: het jaarlijkse Kooy symposium, waarbij onder andere defensiemedewerkers worden bijgepraat over de opkomst van deze technologieën, stond dit jaar in het teken van big data, artificial intelligence en innovatie. Wat kunnen en moeten we daarmee?

Elke organisatie, van peuterspeelzaal tot Defensie, lijkt met big data aan de slag te willen. Deel deze quoteWant wat al wel duidelijk is, is dat de traditionele innovatiecyclus van Defensie al lang niet meer genoeg is om tegenwoordig bij te blijven. Wie mee wil praten, moet innoveren. Waar voertuigen en machines vroeger tientallen jaren meegingen, zijn de nieuwste systemen bij wijze van spreken al bijna achterhaald voordat ze ingezet worden. Moore’s Law wordt tijdens het symposium meerdere malen aangehaald. Het komt er kort gezegd op neer dat computers elke twee jaar twee keer zo snel worden.

Aan de slag

Gepaard met deze druk om bij te blijven, wordt er druk gespeculeerd over de potentie van big data en artificial intelligence. Wat als je de routegegevens van een land kunt combineren met de historische gegevens van de momenten waarop rebellen toeslaan en de momenten waarop vluchtelingen overvallen worden? Daarmee zou je inzicht kunnen krijgen in patronen en de tijd en plaats van een volgende aanslag kunnen voorspellen.

Maar is de complexe werkelijkheid van een slagveld wel te voorspellen? En gaat de vijand dan juist niet rekening houden met die modellen, waarna ze hun eigen strategie er ook weer op aanpassen? En als je strategie zo afhankelijk wordt van voorspelbaarheid die je uit eerdere data haalt, hoe ga je dan om met onverwachte omstandigheden?

Vragen waar op dit moment nog weinig antwoorden bij gepaard zijn. De eerste stap is namelijk het verzamelen van al die gegevens. Big data kan namelijk pas interessant zijn als er zoveel mogelijk van verzameld wordt. Kán pas interessant zijn. Want aan een gigantische hoeveelheid gigabytes aan gegevens heb je niet zoveel.

Het wordt pas interessant als je daar informatie uit kunt halen die je eerder niet gezien hebt. En dan ben je er nog niet. Want informatie leidt tot een nieuw inzicht, maar vervolgens moet daar een besluit over genomen worden. Pas daarna kan blijken of deze gegevens op de lange termijn een strategisch voordeel opleveren.

Dat is paradoxaal. Net als in veel andere bedrijfstakken wordt de term big data je om de oren geslingerd: dat gaat het helemaal worden. Wat we er precies uit gaan halen? Dat weten we nog niet. Maar laten we in ieder geval maar zoveel mogelijk data verzamelen. Want de boot missen, dat wil niemand.

Gelukkig zijn er onderdelen waar Defensie met kunstmatige intelligentie al concreet een duidelijk voorbeeld aan heeft, zoals predictive maintenance. Dat is een toepassing van artificial intelligence waarbij een machine zichzelf leert om te herkennen wanneer een onderdeel kapot dreigt te gaan. Aangezien alle werktuigen, helikopters en tanks een belangrijk onderdeel vormen van de strategie, is dat voor Defensie een aantrekkelijk model.

Wie is verantwoordelijk als een automatisch wapensysteeme burgerslachtoffers maakt? Deel deze quoteOndertussen druipt het er bijna vanaf: er zit meer in dan we nu weten. We staan aan de vooravond van iets heel groots. Juist nu is het moment. Big data en artificial intelligence versterken elkaar. Door de opkomst van big data is het interessant geworden om kunstmatige intelligentie toe te passen. Data is immers nodig om machines te laten analyseren en laten leren. Zonder of met veel te weinig input kan een machine nooit een betrouwbare output genereren. Big data is het toverwoord: ook bij de handhaving binnen onze landsgrenzen. Verzamelen, verzamelen, verzamelen, want wie weet hebben we er ooit wat aan.

Ethiek

Daarnaast kunnen verschillende aspecten van kunstmatige intelligentie voor Defensie interessant zijn, zoals beeldherkenning, technieken voor zelfrijdende voertuigen en automatische wapensystemen. Maar net zoals dat voordelen met zich mee kan brengen, zorgt het ook voor dilemma’s. Wat als we over tachtig jaar echt autonome wapensystemen hebben die net zo slim zijn als een mens?

En met die vraag worstelt Defensie op dit moment waarschijnlijk nog harder dan de vraag hoe big data en AI ingezet ‘moeten’ worden: is dat wel verantwoord? Met technologische groei verdampt de verantwoordelijkheid, betoogt een van de sprekers. Want het lijkt prachtig als een machine voor ons ja of nee kan zeggen. Maar wie voert dan de oorlog, als er niemand meer is die aan de touwtjes trekt? Zelfs bij predictive maintenance zou de mens eigenlijk moeten verifiëren of het klopt wat de computer zegt.

Kunstmatige intelligentie staat op dit moment nog slechts in de kinderschoenen. De vraag of het over tientallen jaren technisch mogelijk is om aanvalsdrones te ontwerpen die zelf de beslissing kunnen nemen, is een volmondig ja. Dat roept ook directere vragen over verantwoordelijkheid op. Waar liggen de grenzen? Het kan. Maar mag het ook? Want als die drone een burgerslachtoffer raakt, krijgt de computer de schuld.

En als we bij wijze van morele verantwoordelijkheid toch onszelf in de ogen willen kunnen kijken, wie stellen we dan aansprakelijk? Is het de ontwerper van de drone? Degene die hem bouwt? De maker van de software…? Degene die bepaalde dat het tijd was om te vliegen? Of degene die nu besluit dat Defensie moet investeren in kunstmatige intelligentie?

Beeld: Ministerie van Defensie