De werkgroep “Politiek en DV techniek” analyseert actuele politieke ontwikkelingen in de defensiesector. Zij levert onafhankelijke feiten en duiding vanuit de technologische kennis en ervaring van ingenieurs.
De werkgroep Politiek en DV techniek heeft vragen en opmerkingen over de initiatiefnota van D66 over autonome wapens van 18 mei 2021 en de reactie van de regering van 28 juni 2021 op deze nota..Het commentaar is opgesteld op basis van openbaar beschikbare informatie en kennis en ervaring op het gebied van defensietechnologie.
Download hier een PDF van dit commentaar.
De nota lijkt vooral geschreven vanuit de optiek van bewapende UAVs, zoals een bewapende MQ-1 Predator zou kunnen zijn. In het marine-domein zijn echter al ruim 30 jaar autonome wapens beschikbaar en in het land-domein zullen de mogelijkheden snel groeien. Denk aan Goalkeeper, zee- en landmijnen, bewapende onbemande voertuigen (USVs), etc. Juist op het land zijn de humanitaire risico’s groter en de technische beheersbaarheid beperkter.
De werkgroep onderschrijft het in de reactie op de nota neergelegde standpunt van de regering dat het van belang is om kennis op te bouwen over autonome wapens. Dat geldt ook voor de visie van het kabinet dat een verwijzing naar het internationaal recht, in het bijzonder het humanitair oorlogsrecht, voldoende is.
De manier waarop aan beide aspecten inhoud wordt gegeven moet echter wel worden gepreciseerd.
De door de regering onder beslispunt 1 aangegeven discussies over juridische begrippen en kaders dragen slechts beperkt bij tot oplossingen. De werkgroep is van mening dat een krachtigere en actievere standpuntvorming noodzakelijk is. De techniek ontwikkelt zich immers wél verder. Vooral bij potentiële tegenstanders. Het is voor ingenieurs, militairen en de organisaties waarin zij actief zijn noodzakelijk om houvast te hebben en zich waar nodig op deze regelgeving of afspraken te kunnen beroepen.
Bij beslispunt 2 wijst de werkgroep er op dat de gevraagde procedures en technologie om menselijke controle in systemen te verankeren over het algemeen eenvoudig te omzeilen zijn. (vgl. sjoemeldiesels). Zelfs toegang tot broncode heeft bij zelflerende systemen weinig zin meer. Het lijkt ons aan te bevelen om een onafhankelijke multinationale organisatie, zoals de Verenigde Naties, normen te laten vaststellen en de in art. 36 van het aanvullende Protocol I bij de Verdragen van Genève bedoelde analyse te laten uitvoeren. Niet de opdrachtgever voor de ontwikkeling van het product, zoals in dat artikel staat aangegeven.
Ten aanzien vanbeslispunt 3 is het standpunt van de regering van belang over het programmeren van de kenmerken van de aan te vallen doelen en bij de beslissing over de inzet van het wapen. Als bij verdediging tegen een concrete aanval altijd een nadrukkelijke beslissing voorafgaand aan iedere inzet nodig is, kan dit een overlevingsrisico opleveren. De mens handelt immers nu al trager dan de techniek en zal bij een hoge dreiging minder snel en minder nauwkeurig beslissingen nemen dan de machine. Een goede programmering van de aan te vallen doelen en een veto-knop om inzet te annuleren lijkt effectiever. Daarnaast is het van belang om goed vast te leggen onder welke omstandigheden van dreiging een wapensysteem in de volledig automatische stand mag worden gezet, zoals dat o.a. bij de Goalkeeper aan boord van marineschepen al sinds 1980 het geval is.
De door D66 in beslispunt 4gewenste beperking van ontwikkeling van volledig autonome wapens zal het opbouwen van de benodigde kennis belemmeren. Ook als bekend is dat potentiële tegenstanders zich wél met die ontwikkeling bezighouden. Gebrek aan kennis vormt een risico voor de eventueel noodzakelijke verdediging tegen volledig autonome wapens van een tegenstander.
Met betrekking tot beslispunt 5 betwijfelt de werkgroep de stelling van de regering dat alle systemen die door Nederland worden verworven een registratie-functionaliteit hebben die informatie over gebruik naar een centrale centrale database stuurt. Wellicht kan de regering deze stellingname preciseren en aangegeven welke wapensystemen informatie naar welke databases sturen (F-35, MQ-1, marineschepen?) en door wie die worden beheerd. Het beoogde doel om schendingen van het internationaal recht vast te kunnen stellen lijkt de werkgroep vanuit technisch oogpunt overigens moeilijk of onmogelijk te realiseren. Vooral voor grondgebonden toepassingen en als de database op afstand wordt geplaatst. Zo’n registratie vereist transport grote hoeveelheden hoge resolutie-data, waarvoor de noodzakelijke verbindingen vooralsnog ontbreken. Bovendien is het om detectie te voorkomen in ernstomstandigheden meestal ongewenst om actieve (radio) verbindingen te leggen.
_____________________________
Den Haag, 23 augustus 2021
Meer informatie over de werkgroep Politiek en Defensietechniek vindt u via deze link.
Heeft u nog vragen? Neem dan contact op met de werkgroep via E: politiektechniek@kividv.nl
Wilt u de commentaren en adviezen van de werkgroep per email ontvangen? Meld u aan via deze link.
Disclaimer: De gegeven feiten en meningen zijn gebaseerd op open bronnen en op de kennis en ervaring van werkgroep leden.
Als onderdeel van de beroepsvereniging KIVI is de werkgroep onafhankelijk van politieke partijen, overheden en bedrijven.
Dit is geen officieel standpunt van KIVI. De vereniging aanvaardt geen aansprakelijkheid voor hetgeen door de werkgroep of haar leden naar voren is gebracht.
Foto: Ministerie van Defensie
