È corsa alle armi “intelligenti”. «Così la guerra degli algoritmi può avere esiti imprevedibili»

«Non è lecito affidare a sistemi artificiali decisioni letali o comunque irreversibili. Non esiste algoritmo che possa rendere la guerra moralmente accettabile», lo ha detto in modo chiaro papa Leone XIV nella Magnifica humanitas, ribadendo la sfida etica che si nasconde dietro l’apparente neutralità della tecnologia, che «non sottrae il conflitto alla sua intrinseca disumanità». È ferma la condanna dell’enciclica contro i sistemi di arma autonoma e la richiesta che «lo sviluppo e l’uso dell’IA in campo bellico» siano «sottoposti ai più rigorosi vincoli etici», ma anche che «la catena delle responsabilità» resti «identificabile e verificabile». Questioni che il Papa ha richiamato anche nel tema scelto per la prossima Giornata mondiale della pace e che vanno in parallelo con le richieste di 13 anni di campagna “Stop Killer Robots” della coalizione globale di organizzazioni della società civile. Eppure, il confine tra la Silicon Valley e i comandi militari continua ad assottigliarsi, lasciando cadere anche alcune barricate di salvaguardia, come il precedente divieto all’uso dei modelli di OpenaAI per scopi militari, che ha portato ai recenti accordi tra l’azienda e il Pentagono. «La crescente importanza del settore della tech defence si può intuire anche guardando ai fiumi di denaro che la stanno alimentando: gli oltre 14,6 miliardi di dollari investiti nelle startup del settore nei primi cinque mesi del 2026, hanno eclissato il record di 9,6 miliardi dell’intero 2025, continuando un trend che sembra destinato a non fermarsi», dice ad Avvenire Davide Del Monte – ricercatore e attivista della campagna “Stop Killer Robots” –, condividendo alcuni contenuti del report di cui è co-autore, “AI: Seek & Destroy”, libro che verrà pubblicato a settembre (in collaborazione con IrpiMedia) da info.nodes, organizzazione non profit della quale è membro.

Il flusso di denaro verso le nuove tecnologie, menzionato da Del Monte, mostra una corsa allo sviluppo e l’impiego di questi strumenti nelle armi, nella difesa e nei conflitti. Basti pensare al caso di Palantir che a inizio mese ha rivisto al rialzo le previsioni di fatturato (fino a 8,16 miliardi di dollari) e l’utile operativo per l’intero anno grazie a vendite, nel secondo trimestre, di gran lunga superiori alle stime degli analisti e una «straordinaria» domanda per i suoi strumenti di analisi dei dati. Per l’azienda americana – sviluppatrice di software e importante fornitrice del settore militare – solo negli Stati Uniti il giro d’affari è volato del 115% su base annua. La società ha un ruolo strategico fondamentale per la Nato, fornendo il suo sistema basato su IA, che analizza i dati raccolti sul campo anche in tempo reale, suggerisce bersagli e azioni, supportando dunque la pianificazione delle operazioni in tempi rapidissimi. Tra le aziende che stanno cambiando il modo di combattere c’è poi Anduril, che sfrutta l’IA in un sistema operativo per il controllo delle operazioni; jet autonomi; mini missili da crociera e strumenti di sorveglianza, classificazione e tracciamento dei bersagli. Gli investitori hanno mostrato un grande interesse anche su Anduril, a partire dal clamoroso caso di “1789 Capital”, la società di investimento di Donald Trump Jr., che ha acquisito una partecipazione di rilievo nell’azienda, la quale si è aggiudicata anche contratti governativi.

Il risultato, dunque, non è solo economico, ma ha dei risvolti politici e sociali, dato che questa nuova generazione di armi riduce concretamente sul campo lo spazio di valutazione e decisione degli umani. «Fino a pochi mesi fa, riferendosi alle armi autonome, si avevano in mente veicoli aerei, marini o di terra in grado di individuare e colpire in piena autonomia i bersagli designati. Oggi lo scenario è cambiato radicalmente ed è ancor più preoccupante. I nuovi sistemi bellici dotati di IA sono in grado di fornire agli eserciti un supporto che va dalla generazione e valutazione delle possibili azioni da intraprendere alla redazione di elementi utili per gli ordini operativi – continua Del Monte –. Si può dire che le armi autonome stiano scalando la gerarchia militare, sostituendo comandanti e generali nelle scelte strategiche». Un altro esempio significativo di questo nuovo indirizzo bellico è il progetto Linchpin, il programma del Pentagono per inserire in modo stabile l’IA e il machine learning nei sistemi d’arma e nei sensori militari: «In pratica, l’infrastruttura raccoglie i dati provenienti da una moltitudine di sensori sul campo (droni, satelliti, radar) per creare un ambiente sicuro in cui addestrare, testare e aggiornare costantemente gli algoritmi di intelligenza artificiale. L’obiettivo è quello di stabilire un flusso continuo per riaddestrare e ridistribuire gli algoritmi sul campo, garantendo che i modelli si adattino ai mutevoli scenari di minaccia senza una revisione completa del sistema». Si va, insomma, sempre di più verso una maggiore autonomia e velocità. Persino nel settore aerospaziale, con «la stessa Lockheed Martin che definisce con orgoglio l’F-35 Lightning II, suo prodotto di punta, come “il caccia più letale, resistente e connesso al mondo, anche in virtù di sistemi software e di componenti hardware specifici in grado di operare con livelli di autonomia e automazione elevatissimi», aggiunge Del Monte. Questo caccia è dotato, infatti, di una funzionalità basata su IA, che lo rende un’arma a percezione autonoma, sul terreno o in mare. In pratica, «elaborando in tempo reale i dati di telecamere a infrarossi, radar ed elettro-ottiche a bordo, riesce a identificare, classificare e tracciare bersagli fissi o mobili in modo completamente autonomo».

Oggi, insomma, l’IA è un asset fondamentale del settore militare. Tra gli esempi più rilevanti che vengono dall’hub a cielo aperto che suo malgrado l’Ucraina è diventata, c’è il sistema di guida a terminale basato sull’IA e la tecnologia del Saker Scout, che, una volta agganciato un obiettivo, permette a un drone di completare l’attacco in autonomia anche se ha perso il collegamento con l’operatore. Tuttavia, l’IA è un soldato alla sua prima esperienza, che apprende direttamente sul campo e spesso sbaglia. Un errore che però costa vite umane. Tra i casi più noti c’è quello di Lavender, il programma con IA usato dalla difesa israeliana per decidere gli attacchi da compiere, che in autonomia aveva etichettato 37mila palestinesi come membri di Hamas o della Jihad Islamica, sbagliando circa una volta su 10. In Iran, invece – dove l’esercito degli Stati Uniti ha impiegato l’IA per identificare e colpire oltre mille bersagli in sole 24 ore –, anche il software di Palantir è stato accusato di aver rilevato come bersaglio una scuola, bombardata a febbraio dalle forze americane probabilmente proprio a causa di un’informazione non verificata e all’eccessiva fiducia umana nello strumento. “Danni collaterali” che al di là di ogni valutazione politica ed economica, dovrebbero imporre una riflessione etica, non più rimandabile.

«L’intelligenza artificiale nella difesa è ormai adottata da tutte le grandi potenze e perfino dalle forze di Stati minori. Tutti usano una tecnologia per cui non esistono ancora leggi e norme e che, a ben guardare, viola quelle esistenti. Ne segue che chi la adotta è pronto a ignorare il diritto umanitario internazionale, compresi gli Stati che se ne proclamano paladini. È cominciata un’erosione sistemica di queste leggi e la cosa dovrebbe preoccuparci», a mettere insieme i pezzi è la filosofa Mariarosaria Taddeo, docente di Digital Ethics and Defence Technologies all’Università di Oxford e autrice di “Codice di guerra. Etica dell’intelligenza artificiale nella difesa” (Raffaello Cortina Editore).

La troviamo su tre fronti: il supporto alle funzioni strategiche, con l’intelligence aumentata e la logistica predittiva; i conflitti non cinetici, a partire dal cyberspace; i conflitti cinetici, dove l’integrazione nei sistemi d’arma autonomi pone la domanda più radicale, se sia lecito delegare la forza letale a entità non umane. Sono fattori dirompenti, che cambiano il nostro stesso modo di concepire la guerra e le sue implicazioni etiche e legali. Quanto al plausibile, è il punto che mi interessa di più. In pochi anni la generazione algoritmica di bersagli è passata da scenario ipotetico a routine operativa, e la soglia di ciò che appare normale, perfino inevitabile, si è spostata quasi senza che ce ne accorgessimo. L’hype pesa quanto i fatti. Le analisi indipendenti mostrano che le capacità dimostrate sul campo sono spesso inferiori alle attese, eppure l’adozione continua, in certi casi frettolosa, spinta da promesse di vantaggi decisivi che spesso non si realizzano.

Quelle che mi preoccupano di più sono quattro. La prima è l’imprevedibilità. I sistemi di apprendimento automatico possono produrre esiti che chi li progetta e li impiega non aveva previsto e non poteva prevedere, minando le fondamenta del diritto internazionale e limitando di fatto il controllo umano sulla tecnologia. La seconda è la coppia velocità e scala: la mediazione tecnologica anestetizza il giudizio morale. La terza è l’erosione della responsabilità, uno degli argini (sottilissimi) che impediscono alla guerra di degenerare in atrocità. Se la responsabilità morale per le azioni di sistemi AI non può essere attribuita in partenza, l’adozione di questa tecnologia nella difesa incontra un limite serio. Io credo che la responsabilità morale per le azioni dell’IA possa essere ascritta solo parzialmente. La quarta è l’escalation cibernetica. In un vuoto regolatorio, il conflitto cibernetico abilitato dall’IA può degenerare fino a minacciare la stabilità internazionale.

Chi progetta o impiega questi sistemi fa una scommessa morale, moral gambit. Si accetta in anticipo di rispondere personalmente anche degli esiti che non si volevano. Come chi firma una cambiale in bianco. In difesa, per sistemi AI usati per funzioni di supporto e non-cinetiche questa scommessa è accettabile. Lo è anche per i sistemi d’arma autonomi non letali. Per un’arma autonoma letale no, perché la posta non è tua. Nessuno ha il diritto di scommettere la vita degli altri.

Il diritto internazionale umanitario si applica anche all’IA, sulla carta. Il problema è che è stato scritto per armi che non imparano. Un esempio: l’articolo 36 del primo Protocollo addizionale alle Convenzioni di Ginevra impone di testare le armi prima del loro uso in guerra. Con l’IA l’applicazione dell’articolo vacilla. Questi sistemi imparano e si trasformano imparando. Quelli ad apprendimento continuo sono sistemi diversi alla fine di ogni missione. Applicato alla lettera, l’articolo imporrebbe di ritestarli prima di ogni singolo impiego. Non è fattibile. Progressi ce ne sono stati, ma impercettibili. Penso, ad esempio, alla Ccw (Convenzione su certe armi convenzionali, ndr) delle Nazioni Unite, dove il Gruppo di esperti governativi lavora a un testo che copre aspetti come proibizioni e responsabilità, ma viene bloccata dalla regola del consenso unanime. Uno strumento vincolante specifico ancora non esiste. Il risultato è sotto gli occhi di tutti. La scadenza del 2026 fissata da Guterres per un trattato vincolante è passata a luglio.

Chi aspetta il trattato perfetto sta regalando tempo a chi non vuole alcun trattato. Vedo tre direttrici. La prima, “operazionalizzare” l’etica dentro le istituzioni della difesa, subito, applicando in progettazione, sviluppo e impiego i principi di responsabilità, spiegabilità, tracciabilità, affidabilità e governabilità. La seconda, è che Nato e Unione Europea preparino il terreno a un’iniziativa guidata dalle Nazioni Unite. La terza è il pragmatismo definitorio. Meglio convergere su caratterizzazioni funzionali che inseguire definizioni onnicomprensive. L’approccio a due livelli – proibire i sistemi imprevedibili e quelli che bersagliano esseri umani e regolare tutti gli altri – è il punto di convergenza più realistico. Ed è coerente con la conclusione a cui sono giunta da filosofa. La scommessa morale sulle vite altrui non è mai lecita. Tutto il resto si può negoziare, questo no.