«Sistemi di IA disumanizzanti?» Cerchiamo le regole

di Andrea Lavazza

Un lettore vede in Anthropic e Android il simbolo di una deriva tecnocratica. Ma non serve demonizzare l'Intelligenza artificiale: occorrono controlli efficaci e responsabilità condivisa

Caro Avvenire , Anthropic e Android sono due entità che richiamano nel loro etimo greco antico ánthropos , essere umano; e anér / andròs , uomo maschio, quindi, per estensione, virilità/muscolarità. Nomen omen? Entrambi i sistemi, in fondo, eclissano l’uomo con la volontà di potenza, il pensiero unico, l’accelerazione, l’omologazione e l’efficienza di Babele, estinguendo il desiderio di pace, pluralità, relazione, originalità e umanità di Gerusalemme. Anthropic e Android compiono operazioni logiche e computazionali con macchine governate da IA e algoritmi. Questi profilano non pensano, armano non amano, sorvegliano non sognano, disperdono non desiderano. E pensiero, amore, sogni, desideri sono anima della vita. A noi accenderli, custodirli. Per non annientarli e atrofizzarli. Perché la “civiltà dell’amore” prevalga sulla civiltà della potenza. La “via di Neemia” sulla “sindrome di Babele”. E il pensiero pensante sul pensiero calcolante. Scongiureremo così un futuro disumanizzante, distopico che sfigura e sconvolge la “magnifica humanitas” che siamo?

Vito Melia

Caro Melia, la sua etimologia risulta arguta ma in qualche misura speciosa. Android è un sistema operativo mobile sviluppato da Google per smartphone e tablet. Ha una base open source, pur integrata spesso da componenti proprietarie, che consente ampie personalizzazioni a sviluppatori e utenti esperti. Anthropic è un’azienda attiva nell’ambito dell’Intelligenza artificiale, fondata dai fratelli Amodei (Daniela e Dario, padre italiano e americani a tutti gli effetti), provenienti da OpenAI. Hanno lasciato la società di Sam Altman per perseguire, a loro dire, un approccio più responsabile nel campo dell’IA. Il successo dei loro modelli (Claude e Mythos in particolare) dimostra per ora che sono molto bravi, non necessariamente più disinteressati e ben disposti verso la società rispetto ai loro concorrenti. In ogni caso, non ritrarrei Anthropic né Android come paradigmi della minaccia all’umanità.

Se leggiamo bene la ricchissima Enciclica di papa Leone, comprendiamo che non vi è nessuna scomunica della tecnologia in generale e neppure dell’Intelligenza artificiale. Certo, i rischi sono tanti e tutti ben delineati. Ma quando lei, caro Melia, scrive: «Questi profilano non pensano, armano non amano, sorvegliano non sognano, disperdono non desiderano», la sua frase potrebbe benissimo attagliarsi a gruppi o leader umani del passato i quali, senza alcun raffinato strumento di automazione, hanno sottomesso popoli, condotto guerre, instaurato occhiute dittature, distrutto nazioni e culture. Ciò dovrebbe riportarci al fatto, ben evidenziato nella Magnifica humanitas, che l’IA è una creazione umana, il cui maggiore pericolo deriva dal controllo che pochi soggetti esercitano su di essa. Non si tratta di demonizzare un’intera nuova modalità di potenziamento delle nostre capacità, ma di affrontare con saggezza, determinazione e tempestività le sfide che questa grande trasformazione ci pone.

Anche il presidente americano Donald Trump ha dovuto riconoscere che sarebbe necessaria una supervisione dei nuovi sistemi messi sul mercato. Dico “sarebbe” perché il suo ordine esecutivo firmato il 2 giugno è frutto di un compromesso con i big del settore, fortemente ostili a qualunque possibile freno all’innovazione. Per ora, si prevede un quadro volontario di collaborazione con le aziende, che potranno consentire al governo federale un accesso sicuro ai modelli di frontiera più critici, soprattutto in ambito di cybersicurezza, fino a 30 giorni prima della loro diffusione. Resta, però, da stabilire quale sia il perimetro di questa categoria. Il testo esclude che da questo processo nasca un’autorizzazione preventiva. Difficile, dunque, che possa derivarne uno stop alla commercializzazione. In ogni caso, rappresenta un segnale, proprio dopo la pubblicazione dell’Enciclica, che va nella direzione di una maggiore regolazione.

Sappiamo che una delle obiezioni chiave negli Stati Uniti a norme in stile europeo per l’Intelligenza artificiale sta nello spauracchio del sorpasso cinese o, comunque, nel rapido sviluppo in Paesi che non rispettano i principi democratici e il diritto internazionale. Se è una preoccupazione corretta, non bisogna dimenticare che perfino con le armi atomiche, nella contrapposizione esistenziale tra i due blocchi durante la Guerra fredda, esistevano meccanismi di consultazione e di freno a un’escalation distruttiva, come il famoso telefono rosso tra Casa Bianca e Cremlino. È tempo che anche per l’IA si cominci a ragionare tra potenze globali su processi condivisi di mitigazione dei rischi più gravi, pur all’interno della competizione scientifica ed economica. Si tratta di un ruolo che l’Europa potrebbe autorevolmente candidarsi a svolgere.