Journal De Bruxelles - Druk van investeerders en VN voor strengere regels op autonome wapens

Een breed coalition van institutionele beleggers en internationale organisaties eist dringend een internationaal bindend verdrag voor de ontwikkeling en inzet van autonome wapensystemen. Deze oproep komt op het moment dat de Verenigde Naties zich voorbereiden op een cruciale conferentie in november, waarbij de vraag centraal staat of de wereldgemeenschap al dan niet zal overgaan tot formele regelgeving.

Aldo Bonati, stewardship- en ESG-netwerkmanager bij Etica Sgr, benadrukt de urgentie van het probleem. Hij stelt dat er een duidelijke tekortkoming zit in de huidige governance: "In de wereld is melk beter gereguleerd dan kunstmatige intelligentie, en dat is een probleem." Volgens Bonati heerst in oorlogssituaties vaak de gedachte dat wie 'vuiler' speelt, beter scoort. Hij pleit ervoor om de inzet van AI in wapensystemen niet langer uit te stellen.

Deze druk komt samen met diplomatieke ontwikkelingen binnen de VN. In september bereikte het Groep van regeringsdeskundigen (GGE) op het gebied van dodelijke autonome wapensystemen (Laws) een unaniem akkoord over een eindrapport. Dit rapport bevat elementen voor een toekomstig juridisch instrument en markeert het eerste substantiële resultaat dat door alle 128 verdragspartijen van de Conventie op conventionele wapens (CCW), waaronder de Verenigde Staten, Rusland en Israël, is gedragen.

Uit de onderhandelingen blijkt een toenemende convergentie: landen willen een menselijke controle behouden bij het gebruik van autonome systemen en streven naar het identificeren van categorieën die volledig verboden of streng beperkt moeten worden. Medio november zal worden besloten of er al dan niet wordt gestart met formele onderhandelingen voor een verdrag. Meer dan 70 staten hebben zich al bereid verklaard om vanuit het GGE-rapport toe te werken naar een juridisch bindend instrument.

De mogelijke uitkomsten variëren van een streng verdrag tot zachte wetgeving of stilstand. De ideale scenario is de oprichting van een internationaal, juridisch bindend verdrag dat autonome wapensystemen duidelijk reguleert. Een alternatief is het aannemen van niet-bindende richtlijnen die staten weliswaar niet dwingen, maar wel richting geven aan hun beleid. Het slechtste scenario zou zijn dat er geen formele onderhandelingen starten en de discussie wordt overgelaten aan een nieuw groep deskundigen.

Naast diplomatieke inspanningen speelt de financiële sector een steeds grotere rol. De Investor Statement on Autonomous Weapons, gepubliceerd in samenwerking met de campagne Stop Killer Robots, heeft al 73 financiële instellingen uit 12 landen en drie continenten aangetrokken. Het doel is om voor de VN-conferentie in november meer dan 100 instellingen te verenigen, zodat een kritische massa aan kapitaal kan worden gevormd die politieke beslissingen beïnvloedt.

Beleggers wijzen op significante financiële, juridische en reputatierisico's die gepaard gaan met autonome wapens. Zonder duidelijke regels is het moeilijk om aansprakelijkheid te bepalen bij fouten van algoritmen of schade veroorzaakt door deze systemen. Deze onzekerheid draagt bij aan marktvolatiliteit en kan ernstige verstoringen teweegbrengen in globale toeleveringsketens, wat zowel bedrijven als economieën treft.

Omdat veel van deze technologieën, zoals geavanceerde chips en herkenningssystemen, 'dual-use' is (zowel civiel als militair inzetbaar), is het voor investeerders moeilijk om duidelijke grenzen te trekken. Er ontbreekt een gestandaardiseerd referentiekader. Organisaties zoals Heartland Initiative proberen dit gat op te vullen met tools zoals 'Red Flag Due Diligence for Defence Tech', die institutionele beleggers helpen risico's op het gebied van mensenrechten te identificeren.

Bonati stelt dat een internationaal normatief kader niet alleen ethisch noodzakelijk is, maar ook de financiële zekerheid bevordert. Het zou marktonzekerheid verminderen, transparantie vergroten en bedrijven aansporen tot hogere verantwoordelijkheid tegenover investeerders en het maatschappelijk middenveld. Volgens hem helpt zo'n kader ook om kortetermijnlogica en predatoire marktgedrag te doorbreken, ten gunste van een langetermijnvisie op veilige technologie.

E.Heinen--JdB