Perché una macchina non può decidere su una vita umana

Nella Bibbia, in particolare nella narrazione dopo il diluvio (Gn 9, 5) e in quella di Caino e Abele (Gn 4), Dio stabilisce che la vita dell’uomo è affidata all’uomo. Ciascuno di noi è fratello dell’altro, e della sua vita noi siamo custodi e responsabili. Nulla nell’universo originalmente creato da Dio e in quello prodotto dall’uomo può essere pensato e utilizzato come surrogato di questa custodia e responsabilità che spetta all’unica creatura sotto il cielo che porta in sé l’immagine e la somiglianza del suo Creatore (cf. Gn 1, 26-27).

Gli sviluppi e le applicazioni delle tecnologie legate all’intelligenza artificiale (IA) sono in rapida crescita, anche dentro a delicati settori di attività, non scevri da possibili effetti nocivi per la vita umana dal suo concepimento sino alla morte. Il rapporto tra beneficio e rischio di queste tecnologie è sotto attenta sorveglianza dei suoi stessi promotori, degli studiosi di scienze umane e sociali e di diverse agenzie politiche e governative.

Anche la Chiesa ha preso posizione, attenta al bene comune, attraverso il Magistero di papa Francesco e, più recentemente di Leone XIV, con la Magnifica humanitas.

Su questo punto papa Prevost è ritornato il 30 ottobre parlando ai partecipanti a un incontro promosso dalla Pontificia Accademia per la Vita. Sulla scia di Francesco, ha ricordato che l’IA è «uno strumento affascinante e tremendo al tempo stesso» e ammonito che «non si dovrebbe mai affidare a una macchina la scelta di togliere una vita umana». In determinati campi – e non solo quelli di battaglia – l’IA rischia di diventare la “longa manus” di Caino contro suo fratello, diventando così strumento di morte anziché opportunità per un maggior rispetto e promozione della vita dell’uomo.

Il pensiero corre anzitutto – a motivo della già esistente applicazione (forse ancora sperimentale, ma comunque reale) nella guerra russo-ucraina e in altri scenari bellici – alle tecnologie IA alla base di macchine (droni aerei, terrestri e navali) in grado, autonomamente, di selezionare, individuare, colpire e uccidere i singoli combattenti avversari o raggruppamenti di essi.

Ma altri inquietanti scenari si profilano, in particolare all’orizzonte dell’utilizzo biomedico dell’IA. Sul fronte della vita nascente, si può affidare alla capacità autonoma dell’IA di analizzare, comparare, e selezionare morfologicamente e/o genomicamente gli embrioni umani prodotti in vitro durante i processi della cosiddetta “procreazione medicalmente assistita”, così che alcuni vengano soppressi e non trasferiti nell’utero materno per lo sviluppo secondo un criterio eugenetico non ultimamente deciso, caso per caso, dal medico e dai genitori. Oppure, si può operare la selezione dei feti da abortire sulla scorta delle loro caratteristiche fisiopatologiche (o anche semplicemente biologiche) individuate automaticamente attraverso l’analisi sottile di immagini ecografiche e di dati molecolari ottenuti da prelievi in corso di gravidanza (screening prenatale guidato dall’IA).

Anche il versante della terapia intensiva e della fine della vita per i malati inguaribili vede il caso serissimo di indicazioni provenienti da algoritmi IA che analizzano numerosi parametri vitali del paziente, la sua storia clinica prossima e remota ed elementi biografici per selezionare chi avviare all’abbandono curativo e all’eutanasia, oppure includere o escludere da un percorso di cure palliative.

«Le decisioni che riguardano la vita umana, la libertà e l’uso della forza devono rimanere sempre soggette a un controllo umano efficace, informato e responsabile. Per questa ragione l’intelligenza artificiale deve essere “disarmata” – ha ricordato il Papa –. Le macchine sono strumenti, non persone». Non hanno una coscienza morale e non possiamo affidare a loro decisioni eticamente rilevanti per la nostra vita e quella dei nascituri, degli ammalati e dei morenti. Decisioni difficili, spesso drammatiche, non possono essere vicariate neppure da un sistema “intelligente”.

«Oggi qualcuno propone di concedere a questi sistemi dei diritti, o addirittura personalità legale – ha concluso Leone XIV –. Un tale approccio rischia di oscurare la responsabilità umana e di lasciare che coloro che subiscono un danno si confrontino con un’entità senza volto».