Tekst Max van Rij

Van 3 t/m 13 augustus vond de eerste sessie van 2021 van de Group of Governmental Experts (GGE) on Lethal Autonomous Weapon Systems (LAWS) in Genève plaats. Nederland neemt actief deel aan de internationale discussie over autonome wapensystemen, waarbij onder andere wordt ingezet op het belang van betekenisvolle menselijke controle. De consultaties worden vrijdag 24 september in Genève hervat.

Leestijd: 3 minuten

Sinds 2013 voert Nederland discussies over het gebruik en de ontwikkeling van autonome wapensystemen in internationaal verband. Deze gesprekken vinden plaats binnen de Group of Governmental Experts (GGE) on LAWS (Lethal Autonomous Weapon Systems), gemandateerd onder de Convention on Certain Conventional Weapons (CCW)1. Nederland werkt momenteel samen met andere landen om aanbevelingen te formuleren voor een mogelijk normatief en operationeel raamwerk voor LAWS. De meningen hierover lopen uiteen.

1In 2018 en 2019 zijn er door de GGE elf “Guiding Principles” aangenomen voor het gebruik en de ontwikkeling van autonome wapensystemen. Centraal hierin is de erkenning dat het internationaal humanitair oorlogsrecht volledig van toepassing is op autonome wapensystemen. Daarnaast moet interactie tussen mens en machine ervoor zorgen dat het internationaal recht gerespecteerd wordt. De noodzakelijke mate van interactie is afhankelijk van de operationele context en de karakteristieken van het wapen.

Er zijn op dit moment ruwweg vier groepen te onderscheiden:

  1. Landen die voorstander zijn van een nieuw internationaal verbod op autonome wapensystemen en vergaande verplichtingen voor autonome wapensystemen die wel zijn toegestaan.
  2. Landen die vinden dat het huidig recht volstaat en die geen voorstander zijn van verdere maatregelen.
  3. Landen die een verbod op volledig autonome wapensystemen kunnen steunen en pleiten voor verdere discussie over de regulering van de overige categorie autonome wapensystemen.
  4. En tot slot, landen die pleiten dat het bestaand kader verduidelijkt moet worden en (nog) niet bereid zijn om een eventueel verbod en positieve verplichtingen te omarmen of zich hierover uit te spreken.

Waar staat Nederland?

Nederland vindt het belangrijk dat autonome wapensystemen altijd onder betekenisvolle menselijke controle moeten staan. Het concept van menselijke controle is onder andere van belang om een onderscheid te maken tussen autonome wapens die wel en niet geoorloofd zijn. Zolang wapensystemen onder betekenisvolle menselijke controle staan kunnen deze systemen, afhankelijk van de operationele context, conform het internationaal recht gebruikt worden. Hoewel veel landen het belang van enige vorm van menselijke betrokkenheid erkennen, is er over de exacte rol van de mens nog geen overeenstemming2.  Nederland zet ook aankomende consultaties in op de verdere verduidelijking van het concept van betekenisvolle menselijke controle.

2Er kan op verschillende manieren en momenten sprake zijn van menselijke controle, bijvoorbeeld in de ontwikkelingsfase en productiefase, de uitvoering van legal weapons review, het opstellen van procedures, het zogenaamde targeting process en door de training van militairen.

De discussie in de GGE wordt bemoeilijkt omdat er geen internationale definitie is van een ‘autonoom wapen’. Het is in ieder geval van belang om een onderscheid te maken tussen autonome en volledig autonome wapensystemen. De laatste categorie wordt ook wel de ‘killer robots’ genoemd. Waar bij autonome wapensystemen de mens nog een cruciale rol kan spelen, heeft de mens bij volledig autonome wapensystemen geen rol van betekenis meer. Nederland verwerpt op voorhand de ontwikkeling en inzet van volledig autonome wapensystemen.

De consultaties

In de consultatieronde van 24 september t/m 1 oktober zal de GGE verder gaan met het discussiëren over mogelijke aanbevelingen voor een mogelijk normatief en operationeel raamwerk voor LAWS. Deze aanbevelingen moeten worden aangeboden aan de Zesde Toetsinsconferentie van de Convention on Certain Conventional Weapons (CCW). Tijdens deze toetsingsconferentie in december, moet ook een besluit worden genomen over het vervolg van de GGE. Nederland zal wederom proactief deelnemen en nauw betrokken zijn bij de verdere vormgeving van het concept van betekenisvolle menselijke controle in aanloop naar de toetsingsconferentie.

Begin oktober wordt ook een nieuw AIV/CAVV-advies over autonome wapensystemen verwacht. Op grond van dit advies zal Nederland zijn huidige positie evalueren en waar nodig herzien, om dit vervolgens in internationaal verband in te brengen.