Un'alleanza tra le scienze umane per educare l'IA

Come educare le macchine a servire l’umanità perché non diventino padrone delle nostre vite e del nostro destino? Si aprono nuovi scenari di riflessione sull’etica digitale, soprattutto a seguito dell’enciclica Magnifica humanitas. Oggi è più che mai necessario un pensiero filosofico, ma anche antropologico e psico-pedagogico, che dialoghi con quello tecnico-informatico non solo per affrontare le grandi domande della rivoluzione dell’Intelligenza Artificiale (IA) – la macchine hanno una coscienza? In base a quali principi agiscono? Potranno prendere presto o tardi il sopravvento? – ma soprattutto per formulare, a partire da queste grandi questioni, i criteri di addestramento e formazione dei sistemi di IA. Da tempo si invoca un’etica per il digitale. Oggi, l’enciclica ci avverte, a partire dalla concentrazione di potere delle Big Tech (96) che l’IA non ha coscienza morale (99) e non è moralmente neutra (104). Qualcuno, cioè le aziende che la sviluppano, provvede a indirizzare i sistemi, a decidere cosa e come possono comunicare e rispondere a quei due miliardi di persone che già usano le tecnologie LLM (Large Language Models) e i Chatbot come GPT che ne sono l’interfaccia. Il discernimento etico, quindi, chiede di capire come vengono progettati questi modelli, chiarendo le relative responsabilità in tutti i passaggi, e quale quadro giuridico-politico possa controllarli (106). Come scrive papa Leone XIV, va reclamata la «possibilità di discutere il codice etico da usare, sottoponendolo a criteri di giustizia sociale condivisa. Altrimenti, chi controlla l’IA imporrà la propria visione morale, che diventerà l’infrastruttura invisibile dei sistemi» (107).

Il controllo da parte delle istituzioni, dei governi e soprattutto delle comunità e dei corpi intermedi per una ethics by design è urgente e indispensabile, e non può essere limitato alla moderazione dei contenuti. Si tratta invece di vigilare e agire sull’architettura dei sistemi. Come osserva l’International AI Safety Report 2026, coordinato da Yoshua Bengio, il pericolo della concentrazione del potere nelle mani di pochi oligarchi, per di più in vari casi collegati a tendenze sovraniste e antistato (Thiel, Musk ed altri) è una minaccia per le società democratiche. L’approccio etico, quindi, non può limitarsi a regolare l’uso dell’IA o considerarla uno strumento da «usare bene», ma deve vigilare sui criteri e i principi che la regolano. Ma come avviene praticamente l’educazione etica dell’IA? Sappiamo che c’è una fase di pre-training in cui i sistemi vengono esposti a miliardi di pagine web, testi, etc, perché assorbano un’enorme quantità di conoscenza; c’è poi una supervisione realizzata attraverso conversazioni con umani, nonché una valutazione. Ma può esserci anche un orientamento morale integrato in tale processo, come nel caso della Costitutional AI di Anthropic, un documento esplicito dei principi a cui Claude, il loro chatbot, deve attenersi. Al momento attuale, Google DeepMind, xAI e Meta non hanno pubblicato documenti simili che descrivano il comportamento inteso dei loro modelli. Questo non significa che non abbiano criteri interni di allineamento e policy, ma non con le stesse caratteristiche. Il documento di Anthropic – curato da una giovane filosofa, Amanda Askell – è curiosamente, un testo di «filosofia morale» che ha l’ambizione di educare il modello stesso (mentre Model Spec di Chat GPT rende esplicito il comportamento previsto dal Chatbot ma rivolgendo le informazioni agli utenti).

Il lavoro di Anthropic fa in modo che il modello stesso, Claude, apprenda concretamente come comportarsi, comunicandogli cosa ci si aspetta da «lui» (o «lei»). Già a proposito di questo aspetto, è interessante notare la differenza tra due modelli educativi: quello prima dei LLM era di tipo «comportamentista» (ti detto le regole che devi seguire), cioè basato su un punteggio matematico dato come ricompensa o punizione in base alle risposte date alle richieste dell’addestratore. In pratica, si codificava matematicamente il buon comportamento dell’IA. Invece, nel secondo caso – una sorta di rivoluzione pedagogica alla Rousseau – si spiega ai modelli perché desideriamo da loro certi comportamenti, in qualche modo coinvolgendoli nella loro educazione.

Questo modello aperto dal punto di vista pedagogico è reso necessario dagli obiettivi che si chiedono ai chatbot: essere «brave persone», buoni cittadini, agenti saggi e virtuosi. Dato che, come è evidente, non è facile stabilire cosa sia una «vita buona», Anthropic dichiara di aver individuato come teoria di riferimento l’etica delle virtù del pensiero aristotelico. Scegliere questo approccio significa preferire la formazione di una «saggezza pratica» (phronesis) anziché elencare un insieme di regole da seguire. Claude, cioè, deve acquisire le conoscenze e la saggezza necessarie per comportarsi in modo sicuro, onesto e utile in ogni circostanza, nei diversi contesti. Ovviamente i problemi non sono così semplici, se si considerano i continui conflitti e dilemmi morali che si presentano in ogni momento a ogni essere umano: come scegliere, per esempio tra più valori concorrenti? i ricercatori di Anthropic sostengono il principio di un «pluralismo epistemico», chiedendo cioè a Claude di presentare più opzioni e prospettive, senza scegliere al posto di chi interroga, e dichiarano di aver introdotto una gerarchia di vincoli: quelli «non negoziabili» (come non creare armi chimiche e informatiche o non attaccare sistemi di sicurezza) e altri più flessibili.

Non sappiamo come funzionerà questa sperimentazione, ma vale la pena di seguire la sfida etica che intende rendere le macchine capaci di gestire l’incertezza e l’ambiguità della vita reale, non fosse altro che per disinnescare i rischi che siano prive di orientamenti per il bene comune. Va notato, inoltre, che la libertà data a Claude è in realtà «vigilata». Davanti alla possibilità di allineamento, da una parte, ai valori insegnati, o, dall’altra, alla supervisione umana, anche se gli ordini della seconda fossero in contrasto con i primi, Anthropic privilegia l’obbedienza a quest’ultima. Autonomia sì, ma non a prezzo della sicurezza. Mentre gli esseri umani sono liberi di disobbedire a leggi ingiuste (come lo erano, ad esempio, davanti alle leggi razziste del 1938), per le macchine, invece, la sottomissione alla supervisione umana resta un vincolo assoluto. Anche studiosi come Mario De Caro, a proposito dell’etica digitale, propongono di implementare l’etica delle virtù nei sistemi artificiali, secondo il modello «Aretai». A suo parere, è il modo più adatto per creare una «saggezza artificiale», sia per il contestualismo che permette di considerare ogni situazione morale nella sua specificità, sia per creare una competenza etica. Insomma, l’IA può essere progettata per mimare l’apprendimento contestuale, dato che non può fare esperienze in senso proprio (perlomeno finora...). Parlare di phronesis a proposito dei Chatbot non significa che essi siano soggetti morali, non avendo «vita», coscienza, continuità nel tempo, e quindi tanto meno l’identità narrativa che, secondo Paul Ricoeur, rappresenta la memoria storica di ogni persona («inviluppata nelle storie degli altri») che guida nelle scelte morali sulla base delle esperienze e dei progetti di ciascuno. Ma la sfida di educare le macchine, con un’alleanza tra le scienze umane, va raccolta.