L'IA e la misura della potenza

Nel giro di otto giorni ho ascoltato la stessa parola in due stanze lontanissime fra loro. La prima era una casa settecentesca dei fratelli Adam nell’Ayrshire, Dumfries House, dove il 17 settembre re Carlo III ha riunito i vertici di Nvidia, Google DeepMind, OpenAI e Anthropic insieme al ministro britannico per l’Intelligenza artificiale; la seconda era la Sala I dell’Unesco a Parigi, dove il 25 settembre, dopo una mattinata di confronto con studenti, docenti e artisti sull’enciclica Magnifica humanitas , Leone XIV ha parlato alle nazioni. La parola era “armonia”: il sovrano britannico l’ha evocata come la filosofia che da anni cerca di praticare in quella tenuta, ricordando che ogni innovazione va pensata dentro i sistemi più ampi da cui tutti dipendiamo, mentre il Pontefice l’ha usata per descrivere ciò che nasce quando dalla diversità degli sguardi si giunge a una convergenza e dalla convergenza a un’azione comune.

Che un re e un Papa, due autorità che non comandano eserciti né controllano capitali, sentano il bisogno di pronunciare la stessa parola davanti alla tecnologia più potente del nostro tempo è già un indizio della fase che attraversiamo. Il re lo ha fatto con una domanda secca: non servono forse mezzi di controllo sufficienti prima che sia troppo tardi? Vi ha aggiunto due interrogativi, come raccogliere i benefici dell’Intelligenza artificiale mettendo la sicurezza al centro e come costruire una cooperazione internazionale che non lasci indietro nessuna nazione e lasci al suo posto il genere umano, e ha chiamato questa posizione, con understatement tutto britannico, “realismo illuminato”.

Le parole pesano per il contesto in cui cadono. Nella stessa settimana alcuni dei principali laboratori avevano invocato un rallentamento coordinato della frontiera, con valutatori esterni e cooperazione internazionale. Il fatto è nuovo e ambiguo insieme: chi corre ammette di non potersi fermare da solo e chiede che sia qualcun altro a fissare il passo. Resta però una promessa, e la moderazione promessa da chi compete è revocabile, esposta al primo trimestre deludente o alla prima potenza che nel rallentamento altrui vede un vantaggio. Il tavolo di Dumfries, facilitato dalla Ditchley Foundation, non ha prodotto un testo né firme, e non doveva produrli; ha reso visibile che la domanda del controllo non può più restare a chi ha interesse a rispondere. A Parigi Leone XIV ha dato a questa intuizione profondità storica. Ricordando che l’Unesco nacque dalle macerie della Seconda guerra mondiale, ha osservato che l’umanità aveva allora compreso come il progresso scientifico separato dalla saggezza possa trasformarsi in arma devastante, e che gli Stati fondatori capirono che i trattati sono necessari ma non bastano, perché esigono una cultura condivisa che li sostenga.

Nello stesso discorso il Papa ha indicato il paradosso di un tempo che attribuisce intelligenza ai sistemi computazionali mentre fatica a riconoscere la dignità delle persone, misurate con il criterio dell’efficienza e scartate quando non producono più. Governare l’Intelligenza artificiale significa anzitutto impedire che questo criterio diventi la grammatica implicita delle nostre istituzioni. Da qui si capisce perché la governance sia urgente e perché non possa ridursi a norma tecnica. Il Papa ha descritto il potere che invoca la legge quando gli giova e la ignora quando lo limita: è la tentazione ricorrente di ogni industria che concentra capitale e potenza di calcolo in poche mani e tratta la regola come un costo da negoziare. Le due immagini bibliche che ha proposto – Babele e la Pentecoste – offrono una tassonomia politica di rara precisione: da una parte l’unità imposta dal dominio, che nel nostro caso sarebbe l’ordine dettato da pochi attori privati a tutti gli altri; dall’altra un’unità che lascia a ciascuno la propria lingua e tuttavia permette di intendersi, e che somiglia tanto a un multilateralismo capace di norme comuni senza cancellare le differenze.

La governance, in questa luce, è la costruzione paziente di un interlocutore che la frontiera oggi non ha. Chi sviluppa i modelli più potenti dialoga con i mercati, raramente con qualcuno che abbia titolo per dire di no a nome di chi al tavolo non siede: i giovani, che il Papa ha chiesto di proteggere perché la loro vulnerabilità digitale non diventi occasione di sfruttamento; le nazioni che il re teme restino indietro; le generazioni che erediteranno le decisioni di questo momento formativo. Le istituzioni internazionali attraversano – lo ha ammesso lo stesso Leone – una crisi di efficacia; l’alternativa alla loro lentezza, però, è la velocità di chi non deve rendere conto a nessuno. Hans Jonas scriveva che un potere tecnico cresciuto oltre ogni misura esige una responsabilità proporzionata. A Dumfries e a Parigi due voci senza divisioni hanno chiesto la stessa cosa con lingue diverse: che la potenza trovi finalmente una misura. L’armonia, in una tenuta scozzese come in una piazza di Pentecoste, nasce da un accordo tra voci che nessuna ha il diritto di zittire. Quelle regole vanno scritte adesso, finché la penna è ancora nelle nostre mani.