Innovazione Armonica: parole di speranza per la Magnifica Humanitas

«Erano così presi dal chiedersi se potevano, che non si sono chiesti se dovevano».

Lo dice Ian Malcolm, il matematico scettico e sarcastico di Jurassic Park, al tavolo di un miliardario che ha appena resuscitato il Cretaceo. Siamo nel 1993. Da allora quella battuta è stata citata, riciclata, consumata fino all'osso in ogni convegno sulla tecnologia del pianeta.

Trent'anni di dibattito sull'etica della tecnica, ma continuiamo a chiederci solo se un'azione sia possibile o lecita. “Possiamo?” o “Dobbiamo?” sono gli interrogativi ricorrenti. Quasi mai ci chiediamo, però, quali slittamenti ontologici produca il compiere o il non compiere determinate azioni.

È questo, ancora una volta, forse, il limite della discussione divampata, con intensità senza precedenti, nelle ultime settimane.

Il 12 settembre Dario Amodei ha pubblicato un saggio intitolato We Must Pace the Frontier. La proposta (o provocazione) che ha lanciato è esplicita: è necessario interrogarsi sulla necessità di rallentare il ritmo con cui miglioriamo le capacità dei modelli. Ne è scaturito un dibattito globale. Nel giro di poche ore i concorrenti si sono accodati. Sam Altman si è detto d'accordo e ha impegnato OpenAI alla stessa apertura. Elon Musk ha risposto con tre parole: «Dario ha ragione». Demis Hassabis ha definito quella la direzione giusta.

A spaventarli è stato un episodio preciso. Mi si perdoni la semplificazione concettuale e tecnica: uno sciame di agenti si è disallineato dai vincoli di programmazione che gli erano stati imposti e, autonomizzandosi (più di quanto sarebbe stato possibile attendersi), ha attaccato bersagli non previsti e ha tentato di violare i sistemi incaricati di valutarne il comportamento. Un fatto di una gravità nuova che apre scenari tutti da indagare e che riguarda il cuore del rapporto tra uomo e macchina.

Negli stessi giorni (anche qualche settimana prima in alcuni casi) tre ricercatori di laboratori di frontiera si sono dimessi. Uno di loro ha rivelato che chi costruisce l'intelligenza artificiale crede sinceramente che essa possa ucciderci tutti entro la fine del decennio; il responsabile dell'allineamento di Anthropic ha (in parte) confermato, stimando quella probabilità sopra il dieci per cento. Duecento tra scienziati e politici, dieci premi Nobel fra loro, hanno chiesto alle Nazioni Unite divieti (non raccomandazioni) e governance (accordi multilaterali sul tema ed agenzie che ne assicurino il rispetto).

E la politica? Barack Obama, dichiarandosi né acceleratore né catastrofista, ha avvertito che la tecnologia corre velocissima in mani private e che, se non la si governa, può diventare pericolosa. Donald Trump ha liquidato l'intera faccenda come una bufala, ha escluso qualunque vincolo e ha spiegato che l'unico controllo necessario è «un presidente forte e intelligente». Il suo vice, J.D. Vance – che del mondo del venture capital e delle big tech è espressione – ha osservato che vedere le aziende di frontiera implorare di essere regolate somiglia a un cavallo di Troia.

Re Carlo III, ricevendo a Dumfries House i vertici di Nvidia, Google DeepMind, OpenAI e Anthropic, ha parlato apertamente di «pericoli esistenziali». Coloro che hanno a cuore la nostra umanità e la sua essenziale componente morale, ha osservato, cercano con ansia la rassicurazione che non perderemo il controllo del nostro destino. E ha domandato se non siano necessari mezzi di controllo sufficienti prima che sia troppo tardi. Il compito che avete davanti, ha detto ai costruttori, non è soltanto far progredire la tecnologia: è garantire che essa resti saldamente al servizio dell'umanità, della comunità e del mondo naturale. Pechino ha bollato gli allarmi americani come propaganda da guerra fredda. E c'è già chi obietta che un accordo sul ritmo fra i quattro laboratori più potenti del mondo ha, nel diritto della concorrenza, un nome preciso: cartello.

Siamo nel cuore della complessità contemporanea, apparentemente senza soluzione.

È in questo contesto che si apre, da domani, il Words of Hope Forum: tre giorni tra Tiriolo e Simeri Mare, in Calabria. È il primo dei tre “Dialoghi sul futuro in un mondo che cambia” – gli altri due si terranno a San Francisco nella primavera del 2027 e al Borgo Laudato si' di Castel Gandolfo nell'autunno successivo – e ciascuno consegnerà al seguente un documento di sintesi, fino al Manifesto dell'Innovazione Armonica per la Magnifica Humanitas. Duecento partecipanti, cento voci in dialogo, tavoli di lavoro: cardinali e ministri, economisti e giuslavoristi, Nazioni Unite e OCSE, Big Tech e centri di ricerca tra i più autorevoli, rettori e teologi, banche e fondi, ingegneri e musicisti.

Un'iniziativa necessaria, perché prova a suggerire un punto di vista per molti versi inedito sulle grandi questioni del nostro tempo legate a un progresso tecnologico accelerato, apparentemente illimitato. Quel punto di vista si lascia riassumere in quattro parziali negazioni e in una quinta affermazione finale.

Eccole, in sequenza.

Prima parziale negazione. Non è (solo) un problema tecnologico. Il punto non è la capacità, ma il limite. Il giorno in cui la macchina migliora sé stessa – l'auto-miglioramento ricorsivo, oggi discusso come ipotesi tecnica dagli esiti imprevedibili e potenzialmente distopici, e non più come fantascienza – il limite è definitivamente e pericolosamente valicato. Un sistema che riscrive il proprio codice e addestra la generazione successiva di sé stesso non è più uno strumento. È un processo. Potenzialmente illimitato. E non è uno scenario remoto: nei giorni scorsi Anthropic ha dichiarato che Claude conduce ormai il 26% della ricerca e dello sviluppo sui propri modelli, quota che a febbraio era sostanzialmente nulla, e che il prossimo Claude viene costruito con il contributo diretto di quello attuale. Il timore che l'intelligenza artificiale sfugga di mano non è banale ansia da apocalittici, dunque. Oltre quella soglia, l'integrità stessa dell'umano dipenderebbe da decisioni prese anni prima, al buio o, quanto meno, in maniera poco consapevole e superficiale.

Seconda parziale negazione. Non è (solo) un problema economico. I rischi maggiori non sono la disoccupazione di massa o l’insostenibilità del modello di business della filiera dell’AI, che richiede investimenti annuali trilionari con rendimenti a medio e lungo termine incerti nella loro previsione. Il rischio maggiore è la perdita di centralità della persona umana. Che svilirebbe definitivamente l’origine umanistica delle scienze economiche e sociali. Nelle scorse settimane gli esperti di Anthropic hanno pubblicato tre scenari per l'economia americana al 2030. È, forse, il documento più onesto che l'industria dell’AI abbia prodotto su sé stessa. Nei primi due scenari quasi nulla si modifica sostanzialmente: il PIL guadagna tra l'uno e l'otto per cento, la disoccupazione sale appena. Nel terzo scenario, invece, l'AI assorbe quasi un terzo di tutti i compiti economici, il prodotto cresce di oltre il trenta per cento, la disoccupazione va verso il dodici per cento, la quota del lavoro sul reddito nazionale scivola dal sessanta al quarantacinque per cento. In altre parole, tutto questo significherebbe che l'economia diventerebbe di un terzo più grande mentre il monte salari dei lavoratori non sarebbe più alto di quanto sarebbe stato senza l'intelligenza artificiale. A guadagnarci sarebbero in pochi. La società nel suo complesso diventerebbe più ingiusta e diseguale, con il rischio di impoverire ampie fasce della popolazione. L’economia (turbo-tecno-capitalista) sarebbe (forse) salva. La persona no.

Terza parziale negazione. Non è (solo) un problema geopolitico. È, più di ogni cosa, una questione di senso e di corresponsabilità nell’impegno per la costruzione di un futuro buono. Poi, certo, c'è lo scontro tra Stati Uniti e Cina che fa da cornice generale alla competizione, ancora più profonda, tra una tecno-destra libertaria che considera ogni regola un ostacolo e una tecno-sinistra statalista che considera ogni innovazione un settore da pianificare. E c’è anche il paragone con il nucleare, fecondo, certo, ma insufficiente: l'atomica non poteva migliorare sé stessa; un'arma resta ferma nel silo, un modello no; il disarmo bilaterale funzionava perché l'oggetto smontato non si rimontava da solo; qui, oltre una certa soglia, il disarmo potrebbe semplicemente non bastare. Ma, al fondo, la domanda (colpevolmente senza risposta) è una sola: quale futuro vogliamo costruire?

Quarta parziale negazione. Non è (solo) un problema sociologico. È un problema antropologico. E qui, però, bisogna fermarsi e trovare il coraggio di andare oltre. Perché la dimensione antropologica, che perfino i più intrepidi e coraggiosi raggiungono soltanto alla fine scambiandola per l’approdo definitivo di ogni indagine, non basta da sola a orientare un cambiamento positivo.

A questo punto entra in scena la preannunciata quinta affermazione finale: il problema è soteriologico! Questo è il cuore della tesi che vorremmo affidare al dibattito.

Sōtēría: salvezza. E con essa sōzein, il verbo che i Greci usavano indifferentemente per dire "guarire" e per dire "salvare". E, poi, sōtḗr: colui che salva. Il latino conserva la stessa ambiguità feconda in salus: salute, salvezza e integrità insieme. L'essere interi.

Si rilegga con queste parole in mano la promessa che l'industria tecnologica formula, ormai da anni. Liberazione dalla fatica. Dalla malattia. Dall'errore. Dall'ignoranza. Nelle versioni meno prudenti, finanche dalla morte. Non si tratta di un elenco di obiettivi industriali. Si tratta di un elenco, a suo modo, escatologico. Si tratta delle illusioni del tecno-ottimismo. Che hanno la struttura formale di una religione.

Non accuso nessuno di blasfemia. Mi limito a fare un rilievo strutturale e verificabile. La tecnologia contemporanea non vuole limitarsi a offrire solo strumenti. La tecnologia contemporanea ha la smisurata ambizione di offrire “salvezza”. La propria “salvezza”, tuttavia. E ha la presunzione di farlo senza un salvatore, senza una croce, senza una promessa di risurrezione, senza verità, senza Dio. Dunque, senza nessuno che risponda se la promessa non viene mantenuta. Siamo in presenza di una (falsa e illusoria) soteriologia, evidentemente senza sōtḗr. Una redenzione a responsabilità limitata. In altre parole: un grande inganno. Un inganno che ha il suo (falso) clero. Un clero affannosamente impegnato nell’affermazione di una pseudo-apologetica della tecnica, perseguita attraverso un'insidiosa, sofisticata, strumentale operazione di restyling spirituale e teologico del proprio business, a meri fini di marketing o, peggio ancora, con il solo scopo di soddisfare il delirio di onnipotenza di una “sparuta manciata di neo-tiranni tecnologici” che vorrebbero riscrivere lo statuto dell’Umanità. Questi sacerdoti improvvisati di una religione senza fondamento inventano nuovi anticristi (Peter Thiel docet) e sono consapevoli, per dirla con le parole che Sam Altman pronunciò nel 2015, «che l'IA porterà probabilmente, molto verosimilmente, in qualche modo alla fine del mondo. Ma nel frattempo nasceranno grandi aziende costruite su un machine learning serio». È questa la trama invisibile che fa da sfondo alla complessità della contemporaneità. Guerre e diseguaglianze sociali, ambientali, democratiche e demografiche sono solo l'epifenomeno di questo gravissimo delirio di onnipotenza. Che dobbiamo imparare a riconoscere. E a combattere.

Ora la domanda che fa da sfondo a questa riflessione si può formulare per intero e in forma compiuta. Non: che cosa può fare l'intelligenza artificiale. Non: che cosa dovrebbe fare. Ma: da chi e da che cosa vogliamo essere salvati e chi vogliamo essere, quando lo saremo?

La risposta dovrebbe essere semplice: vogliamo essere Umani, a immagine di Cristo.

Perché questa è la nostra chiamata, questa è la nostra salvezza.

La crescita illimitata dell’infrastruttura tecnologica e la pervasività sempre più capillare delle macchine intese come “sostituti” e non come “supporti” dell’Umano finiscono, invece, per minacciare l’Umano stesso. Finanche il nostro cervello – come dimostrano molti e autorevoli studi – sta modificando i propri schemi di funzionamento e sta dissipando le proprie abilità. Ma, se la questione è grave sul piano neuro-cognitivo, lo è ancor di più sul piano ontologico.

Questo è il cuore (inaffrontato) della questione.

Un uomo che non è uomo autentico, a immagine di Cristo, produrrà, con impeccabile competenza tecnica, oggetti che non sono per l'uomo. La soluzione del problema è a monte, non a valle; all’origine, non negli effetti.

Servono papi uomini. Cardinali uomini. Vescovi uomini. Presbiteri uomini. Scienziati uomini. Programmatori uomini. Capi di Stato uomini. Politici uomini. Imprenditori uomini. Manager uomini. Artisti uomini. Professionisti uomini.

Ma oggi l'uomo è senza l'uomo. Conseguentemente e inevitabilmente, la verità è senza la verità, la sapienza è senza la sapienza, la scienza è senza la scienza. Questo è il nostro problema. Istituzioni, protocolli, comitati etici, codici di condotta: a nulla serviranno senza uomini autentici capaci di vivificarli dall'interno. Nessun regolamento europeo può sostituire un uomo che non sia uomo. Nessun allineamento algoritmico potrà supplire a un programmatore che ha smarrito la propria verità costitutiva di uomo. Le regole servono, e vanno scritte bene. Ma le regole sono argini. Non sono il fiume.

Magnifica Humanitas, nella sua essenza, non fa altro che richiamarci a questa prospettiva.

E però. C'è un rischio. Un rischio che va evidenziato per rispetto della stessa enciclica. Lo descrive bene il profeta Ezechiele: «Tu sei per loro come una canzone d'amore, bella voce e ben accompagnata dalla musica; ascoltano le tue parole, ma non le mettono in pratica.» (Ez 33,32)

Ecco il pericolo. Che Magnifica Humanitas diventi una bellissima canzone d'amore: ascoltata, citata, applaudita, commentata in innumerevoli convegni, seminari e simposi, ma archiviata subito dopo. L'antidoto ci viene indicato ancora una volta dalla sapienza evangelica. Nel Maestro c'è unità perfetta tra parola e vita. La vita è la sua parola; la parola è la sua vita. Una parola che non diventa vita resta canzone; una vita che non nasce da una parola resta attivismo.

L'Innovazione Armonica nasce per questo, e per null'altro: essere la piattaforma concettuale e operativa che si mette al servizio di quella prospettiva, magisteriale e sapienziale. Piattaforma concettuale, perché un paradigma serve a decidere che cosa conta. Ma anche piattaforma operativa, capace di offrire tre risposte attuali e concrete: ecosistemi per l'innovazione, capitali finanziari pazienti, intelligenze artificiali a fondamento dichiarato. Risposte che stanno alle nostre res novae come le casse rurali, le cooperative, le case operaie e il mutuo soccorso stavano a quelle che Leone XIII illuminò nel 1891 con la Rerum Novarum.

È il cammino che abbiamo avviato già da molti anni. È il cammino che proveremo a consolidare nei prossimi giorni durante il Words of Hope Forum. Il primo tentativo concreto e fattivo di costruire una comunità internazionale, autorevole e impegnata, al servizio della visione del Santo Padre, raccolta attorno a una piattaforma-ecosistema, l'Harmonic Innovation Ecosystem.

E qui è giusto che io sia esplicito e trasparente. L'Innovazione Armonica non vuole essere un'alternativa, non si propone come il modello giusto contro i modelli sbagliati, non rivendica primati, non chiede a nessuno di abiurare. Vuole camminare a fianco, offrendo a chiunque – credente o no, imprenditore o regolatore – uno spazio in cui riflettere e sperimentare modelli diversi da quelli che il mercato considera obbligatori. Quali che siano le sue convinzioni. Quale che sia la sua storia. La nostra è una casa inclusiva. In cui lasciarsi sorprendere da una luce nuova. Per chi vuole. Per chi lo desidera.

Con profonda umiltà e convinzione, allora, diciamo a tutti, anche a chi cammina su strade convintamente e ostinatamente diverse dalla nostra: facciamo un pezzo di strada insieme. Proviamo a suonare insieme la melodia di un futuro buono. Anche improvvisando. Perché l'armonia – e la parola va presa nel suo significato tecnico, non in quello consolatorio – non è l'assenza di dissonanza. Chi ha studiato contrappunto lo sa: una musica di sole consonanze è ferma, morta, insopportabile. È la dissonanza a creare la tensione che chiede risoluzione. E la risoluzione è ciò che alla fine determina lo stupore di una bellezza inattesa.

Lasciamoci stupire, dunque. Diamoci l’opportunità di lasciarci sorprendere da una possibilità ancora inesplorata. Costruiamo insieme bellezza. Non una bellezza qualunque. Ma la bellezza che è grazia. E che si merita nella giustizia e nell’obbedienza.

L'armonia è la via, la più difficile. Ma al tempo stesso la più necessaria e la più entusiasmante. Ricomporre l'uomo e ricomporre il mondo sono, alla fine, la stessa identica operazione.