De Verenigde Naties-conventie over Certain Conventional Weapons (CCW) ofwel de Inhumane Weapons Convention staat op het punt om stappen te ondernemen voor een internationaal verbod op zogenaamde ‘killer robots’.
Activtisten pleitten al jaren voor een verbod om volledig geautomatiseerde dodelijke wapens, door de Amerikaanse overheid gedefinieerd als wapens die “once activated, can select and engage targets without further intervention by a human operator.” Dat zijn bijvoorbeeld drones die automatisch een bom laten vallen op het moment dat ze hun doel bereikt hebben.
Het leger geeft drones natuurlijk niet deze vrijheid – in elk geval niet voor zover bekend is. Het Amerikaanse leger zegt zelfs dat robotische wapens altijd een mens “in the loop” moeten hebben, althans voor nu. De technologie voor ‘killer robots’ bestaat echter al wel. Het Israëlische leger maakt namelijk gebruik van raket-verdedigingssystemen die automatisch schieten, het Zuid-Koreaanse leger heeft wachtpost-robots die ingesteld kunnen worden om te schieten zodra het verkeerde wachtwoord wordt ingevoerd, en drones zouden theoretisch gezien geprogrammeerd kunnen worden om bommen te laten vallen op basis van geolocatie.
Op de CCW-conventie vindt vanaf gisteren een vierdaagse, informele bijeenkomst van experts plaats om in gesprek te gaan over de hoeveelheid autonomie die wenselijk is in ‘killer robots’. Op de agenda staan onder meer presentaties over de definitie van autonomie, bestaande robotische wapens en de uitdaging van verantwoordelijkheid; wie is er verantwoordelijk wanneer een robot dodelijk geweld gebruikt? Bovendien zullen er discussies gevoerd worden over internationaal humanitair recht en de ethische implicaties van ‘killer robots’.
Militaire wapens zoals dodelijke drones en onderwater ‘killer robots’ vermenigvuldigen zich snel en tegelijkertijd is er steeds minder menselijk toezicht nodig voor de besturing van deze wapens. De Verenigde Naties neemt deze dreiging daarom serieus; vorig jaar deed het Human Rights Council nog de aanbeveling dat landen de ontwikkeling van ‘killer robots’ zouden moeten uitstellen totdat een “internationally agreed upon framework” vastgesteld is.
Tijdens de bijeenkomst zal er ook een debat plaatsvinden tussen Ronald Arkin, een roboticus en ethicus aan het Georgia Institute of Technology die heeft samengewerkt met het Pentagon aan verschilende robotische systemen, en professor Noel Sharkey, een professor aan de Universiteit van Sheffield en co-founder van het International Committee for Robot Arms Control (ICRAC).
“Autonomous weapons present a new danger to humanity that needs to be stopped before states become too invested in the technology,” zeg Sharkey tegen The Verge. “We are hoping that his week at the CCW will begin a process towards a legally binding agreement to ban weapons that once activated, select their own targets and attack them without human intervention.”
Aan de andere kant gelooft Arkin dat het gebruik van robots in oorlogen juist het aantal doden kan verminderen door mensen buiten het geweld te houden en dodelijk geweld preciezer te maken. Hij hoopt meer bewustzijn te creëren over dat technologie het lijden van burgers juist kan verminderen met behulp van moderne oorlogsvorming.