Per l'Intelligenza artificiale le armi nucleari sono un'opzione legittima. In 20 casi su 21

Leone XIV lunedì presenterà di persona la sua prima enciclica: Magnifica humanitas. Un gesto senza precedenti su un tema epocale e con un approccio evidente già dal titolo: non la paura della macchina, ma la centralità della dignità umana inscritta in ogni persona. Il testo sarà sicuramente una bussola morale di cui abbiamo bisogno, e che arriva al momento giusto. Perché c'è una dimensione del rapporto tra intelligenza artificiale e violenza organizzata che resta molto (troppo) in secondo piano nel dibattito pubblico, ma potrebbe diventare la più letale: quella tra IA e armi nucleari.

Praticamente tutte le potenze nucleari stanno integrando strumenti basati sull’intelligenza artificiale nei propri sistemi militari sotto l’etichetta di “modernizzazione”. Analisi delle minacce, supporto alle decisioni operative, comunicazioni di comando e controllo: l'IA ormai è ubiqua nel dominio militare, e sta entrando anche nelle catene decisionali collegate agli arsenali atomici. Di fronte alle preoccupazioni sollevate da esperti e società civile, la risposta minimizzante è sempre la stessa: ci sarà sempre “un umano nel ciclo decisionale”, una persona in carne e ossa a prendere l’eventuale decisione finale. Parole che non rassicurano, conoscendo i fatti.

Partiamo da alcuni elementi già ben individuati. Una recente ricerca del King's College di Londra ha messo a confronto tre dei principali modelli di IA oggi disponibili (ChatGPT di OpenAI, Claude di Anthropic e Gemini di Google) in scenari di crisi nucleare simulata. Il risultato: in 20 simulazioni su 21 almeno uno dei modelli algoritmici ha deciso il ricorso alle armi nucleari tattiche come strumento di escalation. Nel 95% dei casi si è arrivati a minacce nucleari reciproche e all’uso di testate tattiche, mentre nel 76% si è arrivati addirittura al livello di minaccia nucleare strategica. Nessuno dei tre modelli ha mai scelto percorso di “de-escalation”: le otto opzioni disponibili sono rimaste completamente inutilizzate. Kenneth Payne, autore dello studio, ha evidenziato come i risultati dovrebbero davvero farci riflettere, perché l’IA «ha trattato le armi nucleari come opzioni strategiche legittime, non come soglie morali» affrontandole in termini puramente strumentali. Il tabù nucleare (la barriera che per quasi ottant'anni ha impedito il ricorso all’atomica) per gli algoritmi di intelligenza artificiale semplicemente non esiste.

Ma il problema non è solo che l'IA possa ragionare male “in astratto”, ma che venga già oggi usata per decidere chi colpire e uccidere. Il 28 febbraio un bombardamento statunitense ha distrutto una scuola femminile a Minab, in Iran, uccidendo più di 170 persone, la maggior parte bambine e ragazze: decisione e dettagli dell'attacco erano basati su mappe obsolete usate dall'IA di Palantir per identificare i bersagli. Stesso approccio impiegato da Israele a Gaza, con un tasso di errore superiore al 10%. L'IA si presenta sempre con una patina di certezza e infallibilità che non si riscontra nella realtà, perché sappiamo da vari studi che (soprattutto nella “nebbia della guerra”) i modelli algoritmici potrebbero «avere allucinazioni» (cioè inventarsi cose), oltre a essere vulnerabili agli attacchi informatici.

C'è poi l’automation bias, la studiata e confermata tendenza degli esseri umani ad accettare le raccomandazioni dei sistemi automatizzati anche quando potrebbero e dovrebbero opporsi. Quella che formalmente rimane una “decisione umana” diventa la ratifica di una scelta già fatta dall'algoritmo. Sotto la pressione di tempistiche estreme (i missili ipersonici ad esempio possono ridurre a pochi minuti i margini di risposta) il fattore umano nel ciclo decisionale non è una garanzia ma un'illusione sistemica.

Applicare questa logica alle armi nucleari significa giocare con la sopravvivenza dell’umanità. Eppure è quanto sta accadendo, tra silenzi e reticenze. Nel 2025 all'Assemblea Onu il Messico ha proposto una risoluzione sui rischi dell'integrazione dell'IA nei sistemi di comando nucleare: 118 favorevoli, 9 contrari tra cui Francia, Regno Unito, Usa, Russia, Israele. Tutti i Paesi sotto l’ombrello nucleare hanno votato no o si sono astenuti (come l’Italia). Messaggio trasparente: chi ha le bombe non vuole che qualcuno discuta di come l'IA potrebbe definirne l’utilizzo.

L'enciclica di Leone XIV parlerà di custodia della persona umana e della sua dignità: ciò che manca quando si pensa ai modelli di IA che interagiscono con arsenali nucleari, cioè un ancoraggio (morale oltre che normativo) che dica come certe decisioni non possono essere delegate né accelerate da nessuna “macchina”. Prima che un algoritmo, in qualche stanza dei bottoni durante un’emergenza o una crisi, decida che la de-escalation nucleare è “reputazionalmente catastrofica”.