Un “algoritmo umano” per l’IA. La misura per giudicare le macchine

Quando ho scelto il titolo Solo Dio ci può salvare? , avevo naturalmente in mente la celebre e controversa affermazione di Martin Heidegger allo Spiegel nel 1976: «Ormai solo un Dio ci può salvare». Il filosofo tedesco avvertiva allora il rischio di un dominio della Tecnica sull’Umano. Ho aggiunto un punto interrogativo, perché non volevo dare una risposta ma porre una domanda. Oggi, mentre il libro arriva ai lettori, quella domanda risuona con una forza che forse neppure io avevo previsto. Solo Dio ci può salvare? Non sono più soltanto filosofi, teologi o umanisti a interrogarsi. Sono gli stessi protagonisti della rivoluzione tecnologica a lanciare allarmi sempre più espliciti. Nei giorni scorsi Dario Amodei, Ceo di Anthropic, insieme a Sam Altman di OpenAI e ad altri protagonisti del settore, è intervenuto davanti al Consiglio di Sicurezza delle Nazioni Unite per richiamare l’attenzione sui rischi dei sistemi di Intelligenza artificiale più avanzati e sulla necessità di una collaborazione internazionale per governarli.

E papa Leone XIV, tornando dalla Francia, lo ha detto con chiarezza. Lui non è «nel panico», «la notte dormo», ma le preoccupazioni sollevate dagli esperti devono essere prese sul serio e non liquidate come fake news. E ha aggiunto una cosa decisiva: dobbiamo sederci insieme e discuterne, chiamando al tavolo leader politici, protagonisti dell’IA, organizzazioni sociali e associazioni. È esattamente questo il punto. Non serve alimentare una nuova apocalittica tecnologica. Sarebbe irresponsabile però anche l’atteggiamento opposto: continuare ad accelerare confidando che la tecnica trovi da sola la propria direzione. Nel libro ricordo che già nel 2023 centinaia di ricercatori e dirigenti del settore definirono la mitigazione del rischio di estinzione legato all’IA una priorità globale, accanto alle pandemie e alla guerra nucleare. Non significa dire che la catastrofe avverrà. Significa prendere sul serio una tecnologia che i suoi stessi costruttori riconoscono come potenzialmente pericolosa.

Qualche giorno fa, a New York, ne ho parlato anche con Bill Gates. Sono contento di aver insistito con lui perché chi dispone di capacità, risorse e influenza così grandi assuma in prima persona la responsabilità di questo dibattito. E sono contento di vedere che lo sta facendo in maniera seria e non ideologica. Il Goalkeepers Report 2026 ha posto al centro una domanda molto netta: l’IA sarà un grande fattore di uguaglianza oppure allargherà ancora di più le distanze? La Gates Foundation ha scelto di impegnare almeno un miliardo di dollari nei prossimi due anni per orientare l’Intelligenza artificiale verso la salute, lo sviluppo e la riduzione delle disuguaglianze. Il fatto che, contemporaneamente, altre figure centrali dell’industria dell’IA abbiano iniziato a porre con ancora maggiore nettezza il problema della sicurezza e del governo di questi sistemi conferma una mia convinzione: il dibattito è finalmente entrato in una nuova fase.

A Goalkeepers ho provato a dirlo con una formula semplice: non basta discutere se dobbiamo andare più veloci o più lentamente. Rallentare può darci tempo, certo. Ma tempo per fare che cosa? Dobbiamo discutere anzitutto della direzione. E quindi porci una domanda ben più radicale: quale umanità vogliamo costruire nell’epoca dell’Intelligenza artificiale? La macchina può calcolare, apprendere, generare parole e immagini. Ma l’essere umano è relazione, origine e destino, fragilità e forza, dipendenza e cura. Prima ancora di poter pronunciare la parola «io», ciascuno di noi apparteneva già a un «noi». E proprio questo «noi» oggi rischia di indebolirsi.

Per questo credo che sia arrivato il momento di fare un passo ulteriore rispetto alla Rome Call for AI Ethics, che lanciammo nel 2020. Ne sono ancora orgoglioso. Affermare che anche gli algoritmi debbano essere sottoposti all’etica fu allora un passaggio importante. Ma sei anni, nell’universo dell’IA, sono un’epoca. Nel libro scrivo esplicitamente che i principi, da soli, non bastano: devono diventare istituzioni, regole, responsabilità condivise. La stessa struttura del volume conduce dalla prima Rome Call alla necessità di un nuovo patto. La chiamerei quasi una Rome Call 2.0 , e forse dovremmo avere il coraggio di cambiarne anche il nome: non soltanto Rome Call for AI Ethics , ma Rome Call for AI Humanity. Non più semplicemente un’etica per l’Intelligenza artificiale, ma un’Intelligenza artificiale per l’umanità. Papa Leone XIV, con Magnifica humanitas , ci offre la cornice più ampia: non un’enciclica tecnica sull’IA, ma una riflessione sull’uomo nell’epoca della tecnica. La sua prima enciclica parte proprio dall’alternativa tra una nuova Babele e una città in cui l’umanità possa crescere verso la propria pienezza. In Francia il Papa lo ha ribadito: occorre riportare la persona al centro, perché il progresso tecnologico può migliorare enormemente la vita, ma può anche danneggiarla quando perde l’orientamento verso il bene.

È questo, in fondo, ciò che ho cercato di dire anche a New York: «Non ho paura dell’Intelligenza artificiale ma della stupidità umana», quella che è fatta di guerre, di corsa agli armamenti, di un sistema economico che sfrutta l’ambiente, nonostante sappia ormai bene che sta segando l’albero su cui è seduta l’umanità. Allora non basta “restare umani”. La sfida è diventare “più umani”. Più capaci di relazione, di cura, di fraternità, di giustizia, di pace. Una casa, una famiglia, una tavola alla quale nessuno sia escluso. L’IA può aiutarci in questa direzione: può favorire le relazioni anziché sostituirle, ridurre le disuguaglianze anziché moltiplicarle, servire la pace anziché rendere più potente la guerra. Ma questo non avverrà automaticamente.

Solo Dio ci può salvare? prova allora a compiere un percorso molto concreto. Nella prima parte cerco di spiegare che cosa sia realmente l’Intelligenza artificiale e perché la questione della tecnica sia inseparabile dalla domanda sull’umano. Ne emergono tre dimensioni che nessuna macchina può sostituire: l’altro, il noi, la fragilità. Non sono debolezze dell’uomo: sono ciò che lo costituisce. È quello che nel libro chiamo «algoritmo umano», non un altro codice da opporre al codice delle macchine, ma una misura con cui giudicarle. Nella seconda parte guardo invece a ciò che sta già accadendo quando deleghiamo troppo alla macchina: nel pensiero e nell’educazione, nel lavoro, nella medicina e nella cura, nella democrazia, nella ricerca della verità, nell’ambiente e nella sicurezza. La domanda che attraversa queste pagine è sempre la stessa: la tecnologia ci rende più capaci oppure semplicemente più comodi? Ci restituisce tempo per pensare, amare, prenderci cura, oppure comincia lentamente a pensare, scegliere e perfino relazionarsi al posto nostro? Nella terza parte provo infine a tradurre l’«algoritmo umano» in una proposta politica e istituzionale attraverso tre grandi Accordi: Prosperità condivisa, perché i vantaggi dell’IA non finiscano nelle mani di pochi; Sviluppo integrale della persona, perché la tecnologia faccia crescere l’uomo invece di atrofizzarne le capacità; Casa comune, perché l’IA non alimenti guerre, divisioni e nuove forme di dominio, ma contribuisca alla convivenza tra i popoli. Il punto di arrivo è una governance globale, un vero umanesimo planetario.

E qui torna la domanda del titolo. Non intendo certo invocare un deus ex machina che intervenga a spegnere le macchine quando diventeranno troppo potenti. Dio ci «salva» ricordandoci ciò che siamo: creature, non creatori di noi stessi; esseri fragili, relazionali, dipendenti gli uni dagli altri. Babele nasce quando la potenza dimentica il limite e il legame. Gerusalemme nasce quando si ricostruiscono i legami prima ancora delle pietre. Questa è forse la scelta decisiva che l’Intelligenza artificiale ci pone davanti. Il futuro dell’IA, infatti, non è già scritto. Non abbiamo bisogno di meno tecnologia, ma di orientarla. Dobbiamo umanizzare la tecnica, non tecnicizzare l’uomo. E questa responsabilità non appartiene soltanto a governi e grandi aziende: riguarda educatori, famiglie, scienziati, religioni, cittadini, ciascuno di noi. Il paradosso è proprio questo: più le macchine diventano potenti, più siamo chiamati a coltivare ciò che in noi non può essere automatizzato. Le parole pronunciate da Leone XIV mi sembrano allora la migliore conclusione, o forse il miglior inizio: sediamoci e discutiamone. Con chi costruisce questi sistemi, con la politica, con le religioni, con gli scienziati, con la società civile, con i giovani. Nessuno possiede da solo la risposta.
Il dialogo è appena cominciato.