De secretaris-generaal van de VN en de voorzitter van het Internationale Comité van het Rode Kruis hebben dinsdag staten opgeroepen de stap te zetten waarover ze al jaren praten: te beginnen met het onderhandelen over juridisch bindende regels om duidelijke verboden en beperkingen op autonome wapensystemen vast te stellen.
António Guterres en Mirjana Spoljaric hebben november aangemerkt als een cruciaal moment. Volgens hen biedt de zevende herzieningsconferentie van het Verdrag inzake bepaalde conventionele wapens de duidelijkste weg voor landen om overeen te komen formeel met deze onderhandelingen te beginnen.
Het verzoek komt drie jaar na hun eerste gezamenlijke oproep en op een moment dat, zo waarschuwen ze, de kloof tussen technologische vooruitgang en het vermogen van staten om deze te reguleren groter is geworden.
“Vandaag herhalen we deze oproep met nog grotere urgentie. De fundamentele zorgen zijn niet veranderd, maar de risico’s zijn toegenomen. We staan gevaarlijk dicht bij het overschrijden van een morele grens: machines die autonoom mensen als doelwit kiezen”, verklaarden ze.
Menselijke controle staat centraal in het debat.
De kernvraag is hoeveel controle mensen zullen behouden over het gebruik van geweld naarmate wapens een grotere mate van autonomie krijgen.
Guterres en Spoljaric stellen dat meer autonomie een escalatie betekent, omdat het de menselijke controle over het gebruik van geweld vermindert, in een tijd waarin geavanceerde technologieën die op het slagveld worden gebruikt, de risico's voor burgers en civiele infrastructuur al vergroten.
Voor beide leiders is het moment aangebroken om jarenlange discussies om te zetten in concrete regels.
"Staten moeten politieke moed tonen en van geleidelijke discussies overgaan tot daadkrachtig optreden."
Wanneer het ook nog eens lastig wordt om te weten wie er reageert.
Meer autonomie roept in elk conflict ook een essentiële vraag op: wie is verantwoordelijk als er een fout wordt gemaakt of het internationaal recht wordt geschonden?
In het beroep wordt gewaarschuwd dat het zonder duidelijke verboden en beperkingen steeds moeilijker kan worden om verantwoording vast te stellen voor fouten of schendingen, en dat de bescherming die het internationaal humanitair recht biedt, kan worden uitgehold.
“Een gebrek aan snel en doortastend optreden zal levens kosten. Het zal toekomstige generaties een wereld nalaten waarin de afwezigheid van duidelijke en specifieke verboden en beperkingen op deze wapens de deur openzet voor praktijken die de bescherming ondermijnen die het internationaal humanitair recht beoogt te garanderen.”
Een race die al begonnen is
Volgens Guterres en Spoljaric is de race naar systemen met een grotere mate van autonomie al in volle gang, en de technologiegemeenschap zelf is al begonnen te waarschuwen voor de risico's.
Wetenschappers en ingenieurs die betrokken zijn bij de ontwikkeling van deze systemen hebben opgeroepen tot het vaststellen van limieten.
"Wanneer de architecten van deze technologie om beperkingen vragen, kunnen staten het zich niet veroorloven passief te blijven."
November biedt de mogelijkheid om over te gaan tot onderhandelen.
Staten bespreken deze wapens al jaren, zowel in de Algemene Vergadering van de VN als in een groep regeringsdeskundigen van het Verdrag inzake bepaalde conventionele wapens.
Volgens het beroep hebben deze gesprekken vooruitgang mogelijk gemaakt in de richting van een gemeenschappelijk begrip over de mate van menselijk oordeel en controle die moet worden gehandhaafd, alsmede over de maatregelen die nodig zijn om te voldoen aan het internationaal humanitair recht, ethische kwesties aan te pakken en het lijden in gewapende conflicten te verminderen.
Guterres en Spoljaric zijn van mening dat dit werk al een basis vormt voor de onderhandelingen over een juridisch bindend instrument. Zij beschouwen de conferentie die in november gepland staat als dé gelegenheid voor staten om te besluiten deze stap te zetten en te voorkomen dat de vooruitgang van de afgelopen drie jaar verloren gaat.
De beslissing, zo stellen ze, zal gevolgen hebben die veel verder reiken dan de huidige conflicten.
"Toekomstige generaties zullen zich afvragen of leiders hebben ingegrepen toen er nog een kans was om grenzen te stellen voordat deze wapens zich ongecontroleerd verspreidden," stellen ze.
“De weg is duidelijk. De noodzaak is urgent. Innovatie moet de mensheid dienen, niet in gevaar brengen.”