«L’IA non è per nulla intelligente». Ma ci ruberà spazio

di Andrea Lavazza

Un lettore evidenzia che i chatbot sono incoscienti, privi di sensibilità, sentimenti, creatività. Ed è vero: l’IA non pensa né comprende: è una potente capacità d’azione. Però dovremo farci i conti

Caro Avvenire, l’Intelligenza artificiale non è intelligente, è incosciente. Se è autonoma, lo fa su input dell’umano; non è dotata di sensibilità, sentimenti e creatività. Proprio la definizione di intelligenza è alla base di tanti fraintendimenti.
Roberto - CremonaSì

Gentile Roberto, col suo breve messaggio coglie il punto cruciale di una parte del dibattito odierno sull’Intelligenza artificiale. È vero che i fondatori della disciplina scelsero questo nome perché volevano simulare una caratteristica distintiva degli esseri umani, l’intelligenza, e pertanto l’aggettivo “artificiale” si prestava bene allo scopo. Il fatto è che nei primi 50 anni di tentativi di arrivare a un’intelligenza artificiale, malgrado importanti successi, non si è prodotto nulla di davvero paragonabile alle abilità umane. Solo nell’ultimo decennio, con l’esplosione dell’IA generativa, che sembra parlare come noi (anzi, meglio di noi), le cose sono cambiate. La sua idea è in ogni caso in linea con quella di uno dei grandi protagonisti della riflessione sull’intelligenza artificiale, Luciano Floridi. Il filosofo e tecnologo italiano, docente a Yale e a Bologna, nel suo più recente libro La differenza fondamentale (Mondadori), sostiene con dovizia di esempi e argomenti che l’IA non va intesa quale forma d’intelligenza, bensì come una nuova espressione di agency, ovvero di capacità d’azione. Non pensa né comprende come un essere biologico, ma è un insieme potentissimo di capacità computazionali, in grado di intervenire nel mondo con efficacia e successo, senza però possedere alcuna intelligenza. Se si accetta questa interpretazione, le conseguenze sono molto rilevanti, perché l’IA non pensa e non comprende, si limita a fare. A fare moltissimo, però, tanto da sostituire progressivamente gli operatori umani in un numero crescente di ambiti.

Nel frattempo, emergono nuove analogie tra noi e i chatbot con cui conversiamo. Un recentissimo studio pubblicato sulla rivista scientifica Nature ha mostrato come i meccanismi del nostro cervello che ci permettono di imparare a svolgere bene un compito non sono così dissimili da quelli che guidano l’apprendimento delle reti neurali dell’IA, basato sulla cosiddetta backpropagation, una modalità che finora sembrava assente nel sistema nervoso umano. Resta però una differenza fondamentale, che non è quella descritta primariamente da Floridi. Essa riguarda la capacità, tutta nostra, di provare emozioni genuine (non solo usare le parole giuste per i sentimenti) e di sperimentare quella condizione di vulnerabilità da cui nasce il senso morale.

Ciò detto, è vero che gli algoritmi hanno bisogno di un input esterno, ma non sarà necessariamente vero in futuro, come cominciano a mostrare esperimenti in cui programmi basati sull’IA possono avviare lunghe catene di attività al nostro posto e, persino, aggirare i comandi per prendere direzioni inattese e imprevedibili. Insomma, gentile Roberto (ometto il suo cognome perché lei ci scrive da una casa circondariale e mi sembra opportuno rispettare la sua privacy), con l’Intelligenza artificiale, anche se non è del tutto “intelligente”, dovremo fare i conti in modi sempre più complessi e articolati. Penso che del buono potrà venire anche per l’amministrazione della pena, dove non sempre vi è la giusta efficienza: lo dimostra lo stato delle carceri in Italia, che Avvenire non si stanca di denunciare. Non si dovrà farlo con la distopia vista di recente anche al cinema, nel film Mercy, thriller di fantascienza ambientato in una Los Angeles del futuro in cui il sistema giudiziario è gestito da una particolare IA. Gli imputati hanno solo novanta minuti per dimostrare la propria innocenza, se non riescono a ridurre sotto una certa soglia la probabilità di colpevolezza, scatta la condanna immediata, fino alla pena di morte automatizzata. Gli algoritmi potranno invece aiutarci a gestire meglio servizi, spazi e assistenza, anche in assenza degli invocati aumenti di personale e di risorse. Senza mai dimenticare quella componente vivente ed empatica che la macchina non possiede e che non deve mai venire meno se vogliamo conservare il “senso di umanità” cui ci richiama la Costituzione italiana.