Intelligenza artificiale ed etica, De Caro: «Chi educa le macchine?»

Non basta chiedersi che cosa sappia fare l’intelligenza artificiale, bisogna anche capire quali criteri debbano guidarla: è su questo confine, dove tecnologia ed etica si intersecano, che si muove la riflessione di Mario De Caro, filosofo e professore di Filosofia morale all’Università Roma Tre. Educazione, rischio di manipolazione, la possibilità di una scienza prodotta dall’IA, i limiti dell’intelligenza umana, con De Caro proviamo a osservare l’intelligenza artificiale generativa da una prospettiva diversa, chiedendoci quale spazio vogliamo continuare a riservare al giudizio e alla libertà di comprensione dell’uomo.

Questa domanda pone due problemi: quali criteri morali adottare e chi abbia l'autorità di sceglierli. Sul primo, un relativista radicale può obiettare: chi decide quale morale deve essere implementata nell'IA? Questa obiezione trascura due punti. Primo, tra le diverse culture esistono importanti convergenze morali, anche se le differenze, per un noto processo psicologico, saltano più facilmente all'occhio. Per esempio, la protezione dei bambini è un valore ampiamente condiviso: un drone che si faccia esplodere perché ha individuato un soldato nemico, ma uccida così anche cento bambini, viola un principio morale fondamentale.

Il disaccordo morale non esclude la possibilità di un confronto razionale. Se qualcuno afferma che nella sua cultura è giusto impedire l'accesso agli studi alle donne, gli si può obiettare che non esistono ragioni moralmente valide per privare le donne, in base alla differenza sessuale, di opportunità riconosciute agli uomini. Il semplice richiamo alla tradizione non basta a giustificare una discriminazione. Resteranno però sempre dei punti su cui il confronto non produrrà un accordo. In quei casi si potrà pensare a sistemi artificiali con vincoli etici parzialmente diversi secondo i contesti, entro limiti posti a tutela dei diritti fondamentali. Ma intanto cominciamo a implementare i principi per i quali disponiamo di solide giustificazioni e di ampio consenso: sarà già molto.

L'ambiguo confine tra persuasione e manipolazione non è un tema nuovo, ma ha acquistato nuova urgenza con l'avvento dei social. I social possono favorire la formazione di "casse di risonanza", ossia luoghi virtuali in cui si connette soprattutto chi ha opinioni affini alle nostre, mentre le posizioni contrarie vengono ignorate o screditate. È anche così che hanno acquistato seguito teorie del complotto prima marginali, come il terrapiattismo. Ed è così che c'è chi, con notizie false e contenuti contraffatti, può influire sulle scelte degli elettori in paesi in cui la democrazia conta (o dovrebbe ancora contare) qualcosa.

I meccanismi di persuasione, che non implicano necessariamente una manipolazione, possono essere moralmente leciti e persino promuovere l'autonomia delle persone. Se ne è occupato Cass Sunstein in Manipolazione. Cos'è, perché è un problema e come difendersi (Cortina). Per Sunstein l'IA può aiutarci a comprendere meglio le conseguenze delle nostre possibili scelte, aiutandoci a individuare quelle che meglio realizzano i nostri valori e le nostre più autentiche preferenze. Ma allo stesso tempo l'IA può essere usata per farci compiere scelte che non sono nel nostro interesse. Il confine riguarda dunque sia gli scopi sia i mezzi. Anche una scelta vantaggiosa può essere indotta in modo manipolatorio, se si aggira o si compromette la nostra capacità di valutarla autonomamente.

I recenti risultati matematici ottenuti con l'IA rendono urgente distinguere tra la verifica della correttezza di una dimostrazione e la comprensione delle idee su cui si fonda. La prima, infatti, può essere affidata a strumenti informatici senza che ciò garantisca la seconda. L'esempio più noto è il recente annuncio di una soluzione del problema di Navier-Stokes, uno dei sette "problemi del millennio" (ma praticamente ogni settimana vengono presentati nuovi stupefacenti risultati).

Come ha osservato il celebre matematico Terence Tao, il problema non è soltanto ottenere nuovi teoremi: è anche comprenderne le dimostrazioni e imparare da esse. Per esempio, nella dimostrazione del primo teorema di incompletezza, Gödel riadattò il metodo della diagonalizzazione usato da Cantor nei suoi studi sulla cardinalità degli insiemi infiniti. Ma le dimostrazioni che l'IA produce possono essere troppo complesse perché i matematici umani le comprendano pienamente, anche se la loro correttezza è verificata mediante strumenti informatici. Potremmo dunque sapere che un determinato enunciato matematico è un teorema, senza riuscire a riutilizzare i metodi della dimostrazione in altri contesti. E questo può essere un grosso problema epistemologico.