Il latte? «È più regolamentato dell'IA». L'allarme killer robot, su cui ora l'Onu è chiamata a decidere

«Nel mondo il latte è più regolamentato dell’intelligenza artificiale e questo è un problema perché purtroppo nelle guerre l’idea è che più la fai sporca e meglio ti va. Bisogna porre dei limiti all’uso dell’IA nelle armi. Non è più rimandabile», così Aldo Bonati, stewardship and Esg networks manager di Etica Sgr (società di gestione del risparmio), sollecita a trovare un’intesa per arginare l’uso dei cosiddetti killer robot, a pochi giorni da un’opportunità senza precedenti: la Conferenza di Riesame della Convenzione Onu su alcune armi convenzionali (Ccw), in programma dal 16 al 20 novembre.

Qual è lo stato dell’arte del dibattito alle Nazioni Unite riguardo la regolamentazione dei sistemi di arma autonomi?
A settembre il Gruppo di esperti governativi (Gge) sui Sistemi d’arma autonomi letali (Laws) ha raggiunto un consenso per un rapporto finale che contiene un insieme di elementi per un futuro strumento normativo. È il primo risultato condiviso sostanziale ottenuto da tutti i 128 Paesi firmatari della Ccw, tra i quali ci sono anche Stati Uniti, Russia e Israele. Finora è emersa una convergenza sull’intenzione di mantenere un ruolo umano nell’uso delle armi autonome e di individuare delle categorie di sistemi di arma autonoma che dovrebbero essere vietate oppure soggette a restrizioni. A metà novembre si deciderà se avviare o meno un vero negoziato per un trattato che regoli e vieti i killer robot: già più di 70 Stati si sono dichiarati pronti ad avviare un vero negoziato a partire dal testo del Gge per giungere a uno strumento vincolante.

A questo punto, quali sono gli scenari possibili?
La soluzione ottimale sarebbe l’avvio di negoziati formali volti alla creazione di un trattato internazionale legalmente vincolante che regolamenti chiaramente i sistemi d’arma autonomi. Altrimenti, si potrebbe arrivare a un quadro normativo più morbido, con l’adozione di linee guida non direttamente vincolanti, ma comunque in grado di indirizzare la condotta degli Stati. Lo scenario peggiore sarebbe se non si avviasse nessun negoziato formale e si arrivasse a dare semplicemente mandato a un nuovo gruppo di esperti governativi di proseguire le discussioni già in corso.

In che modo la pressione degli investitori può influire sulla decisione?
Gli Stati hanno il debito pubblico e gli investitori hanno i soldi, quindi sicuramente c’è molta attenzione da parte delle istituzioni sul punto di vista degli investitori. Una parte della comunità finanziaria sta già facendo pressione, sollecitando i governi ad avviare negoziati per una nuova norma vincolante attraverso l’ Investor Statement on Autonomous Weapons , una dichiarazione pubblicata insieme a Stop killer robots. L’hanno già sottoscritto 73 istituzioni finanziarie di 12 Paesi e tre continenti. L’obiettivo della campagna è superare le 100 adesioni entro l’appuntamento Onu di metà novembre per avere una massa critica (e di patrimonio complessivo coinvolto) capace di condizionare la decisione finale.

Oltre alla questione etica, i killer robot comportano anche un rischio finanziario?
Le armi autonome comportano rilevanti rischi finanziari, ma anche legali, reputazionali e operativi. Si pensi ad esempio ai danni o agli errori compiuti dagli algoritmi. Senza regole comuni diventa difficile capire dove ricadano le responsabilità e valutare l’esposizione di aziende e investitori. L’assenza di un quadro normativo internazionale aumenta inoltre l’incertezza e la volatilità dei mercati perché consente una più libera diffusione di questi strumenti e quindi può produrre gravi interruzioni nelle catene di fornitura, colpendo aziende ed economie globali.

Gran parte di queste tecnologie – dai chip avanzati agli algoritmi di riconoscimento – nasce però nel settore civile ed è dual-use. Come si gestisce il confine negli investimenti?
Senza regole chiare è difficile stabilire dove tracciare la propria “linea rossa”. Anche i service provider di dati Esg non hanno uno strumento di riferimento normativo e quindi non offrono metriche standard per questo settore. Per colmare questo vuoto stanno nascendo strumenti specializzati, gestiti da organizzazioni di consulenza. Penso alla Red Flag Due Diligence for Defence Tech, uno strumento di analisi finanziaria ed etica promosso da Heartland Initiative, progettato per aiutare gli investitori istituzionali a identificare rapidamente le criticità dal punto di vista dei diritti umani.

L’investitore etico ha dunque degli indicatori per verificare eventuali rischi?
Sì, ma il problema rimane perché spetta sempre al singolo stabilire il confine. Avere un riferimento normativo internazionale condiviso aiuterebbe a creare un ecosistema finanziario strutturato: ridurrebbe l’incertezza dei mercati, definirebbe ciò che è legale, aumenterebbe la trasparenza e la disponibilità di dati delle aziende e ne innalzerebbe l’accountability nei confronti degli investitori e della società civile. L’investitore etico è, insomma, come un agricoltore che dissoda il terreno, pianta il seme, lo innaffia ogni giorno e vede crescere la pianta con radici più solide. Ha una visione di lungo periodo, ma proprio per questo ha bisogno di regole internazionali chiare e condivise sulle tecnologie belliche e sull’intelligenza artificiale. Sono norme che aiuterebbero anche a ostacolare logiche predatorie e di breve termine sui mercati.