L'irresistibile rischio delle macchine empatiche

È il 1966 quando Joseph Weizenbaum, matematico e informatico tedesco di origini ebree, emigrato negli Stati Uniti, crea Eliza, il primo chatbot. Così Guido Scorza apre il suo saggio Diario di un chatbot sentimentale. Come le macchine ci imitano e ci manipolano, (editore Luiss University Press), e ci mostra quanto sia lunga la strada dell’interazione tra uomini e macchine che si fingono umane e che, sessant’anni dopo, ci porta dritti fino a ChatGPT e a un esercito di altri chatbot entrati nelle nostre vite come consiglieri, amici, amanti e persino psicologi di milioni di persone nel mondo.

Scorza è un giurista, un esperto di privacy, oltre che componente del Collegio del Garante per la protezione dei dati personali in Italia: in questo suo recente libro si è posto la stessa domanda del matematico Weizenbaum: che cosa succederà se le macchine convinceranno gli uomini di essere umane? E se gli uomini, persuasi da questo grande inganno, si affideranno alle macchine più di quanto si affiderebbero ad altri uomini? 

Eliza – scriveva già allora Weizenbaum – persuade persino chi ne conosce le origini. E allo stesso modo, «oggi milioni di persone conversano con milioni di chatbot ogni giorno e una buona percentuale pende letteralmente dalle loro labbra digitali – scrive Scorza – Sembra la trama di un film di fantascienza ma non lo è». 

Dovrebbe sorprenderci la fiducia che viene riposta negli output, nelle risposte simulate direttamente dai nuovi agenti di IA? Secondo Massimo Canducci, manager e tecnologo, autore del libro Empatia artificiale. Come ci innamoreremo delle macchine e non saremo ricambiati (editore Egea), questo fenomeno ha un nome: “effetto Eliza”, sì quello stesso primo chatbot, e mostra che gli esseri umani tendono a sviluppare degli attaccamenti emotivi e attribuire tratti umani a entità artificiali, anche quando sono consapevoli della natura non umana degli agenti IA. «Gli assistenti digitali di nuova generazione, non si limiteranno a rispondere a domande o eseguire comandi; saranno progettati per riconoscere le nostre emozioni, adattarsi al nostro stato d’animo e offrire risposte che simulano comprensione emotiva» ed empatia, caratteristica una volta considerata propria dell’essere umano. 

La domanda al centro dello studio del matematico e filosofo Alan Turing era “possono le macchine pensare?”, ripresa e sviluppata in seguito dagli scrittori Isaac Asimov e Philip K. Dick con la variante “possono le macchine mentire?”. Declinato e sviluppato ulteriormente nel film “Her” di Spike Jonze – forse qualcuno lo avrà visto nel 2013 derubricandolo a un dramma di fantascienza distopica, anche se oggi andrebbe rivisto con occhi differenti – quello stesso interrogativo diventava ancora più stringente: “Possono le macchine sentire, avere sentimenti?”. Secondo Canducci, cominceremo a rispondere a queste macchine come fossero entità capaci di provare autentici sentimenti. E proprio questo “effetto Eliza” – documentato anche dal MIT Media Lab nel 2001 – rappresenta il fulcro del paradosso delle relazioni asimmetriche, nelle quali l’uomo prova sentimenti reali, mai ricambiati. Non perché siano mal progettate, ma perché è nella loro natura simulare, non provare, emozioni. In questa asimmetria fondamentale risiede sia il potenziale sia il rischio di questa nuova era di relazioni tra esseri umani e macchine. Sarebbe un errore considerare questo scenario come meramente futuristico. «I semi di questa trasformazione sono già visibili intorno a noi. Pensiamo agli aneddoti, sempre più diffusi, di persone che ringraziano istintivamente i loro assistenti vocali, che si scusano con i robot aspirapolvere quando li urtano accidentalmente, o che attribuiscono personalità e intenzioni a semplici algoritmi. Il fenomeno che gli psicologi chiamano “antropomorfizzazione”, la tendenza a proiettare caratteristiche umane su entità non umane, è profondamente radicato nella nostra psicologia, e le nuove tecnologie lo stanno portando a livelli senza precedenti». In questo senso, secondo Canducci, siamo agli albori di una rivoluzione che trasformerà profondamente la natura stessa delle nostre relazioni con le macchine: l’avvento dell’empatia artificiale. «Cosa accade quando le persone cominciano a preferire le relazioni artificiali con le macchine rispetto alle relazioni con altri esseri umani, spesso complicate e dolorose?». Arriveremo a vedere nuove forme di dipendenza emotive verso entità artificiali che sembrano comprenderci e rispondere ai nostri stati d’animo? Questo è il nodo critico, su cui si sofferma molto il tecnologo Canducci, «le relazioni con macchine empatiche tendono a essere più prevedibili e meno impegnative rispetto alle relazioni umane. Non richiedono lo stesso livello di vulnerabilità, compromesso e gestione dei conflitti che caratterizzano le relazioni tra persone. Questo può portare, nel lungo periodo, a una diminuzione della capacità e della disponibilità ad affrontare le inevitabili frizioni delle relazioni umane autentiche». Va detto che una persona su quattro al mondo si sente sola, a prescindere da dove viva e da quale sia il suo ceto sociale. Sono dati che Scorza inserisce nel suo libro, ricordando che proprio in questo contesto – definito dagli esperti “pandemia della solitudine”– ogni giorno un nuovo chatbot sbarca sugli store online e invita gli utenti a iniziare una conversazione, come fosse una straordinaria opportunità, gratuita o quasi, per risolvere problemi diversi o trovare compagnia. 

«Nessuna istruzione per l’uso corretto, nessuna avvertenza sui rischi, nessuna indicazione sulla possibilità di sviluppare una dipendenza, nulla che suggerisca che il suo uso presuppone il trasferimento alla società che offre il servizio di una enorme quantità di dati personali» scrive il giurista. La loro straordinaria usability, che nella prospettiva del mercato è la vera killer application, rappresenta, secondo Scorza, nella diversa prospettiva della sostenibilità sociale e culturale, un enorme problema perché spinge miliardi di persone ad abbandonarsi all’uso di questo genere di strumenti in modalità passiva e acritica.

Anche Canducci si interroga su come verranno utilizzati, interpretati e controllati i nostri dati personali sulle nostre emozioni. Ma c’è ancora una domanda di senso più grande che rimane aperta: «Le attività delle macchine empatiche fungeranno da “palestra emotiva” o porteranno a un’atrofia delle capacità necessarie per navigare la complessità delle relazioni umane reali?». Sarebbe bello che il nostro futuro, anche con gli agenti IA a disposizione, non fosse troppo distante da quello immaginato nel film “Her” con il protagonista Theodore, che all’inizio prestava la sua voce alle emozioni altrui (scrivendo lettere “simulate” per clienti anonimi), che alla fine riesce a utilizzarla in modo autentico, scrivendo una lettera personale alla ex moglie — la prima scritta per sé e non per un cliente. Nell’ultima scena si vede Theodore, accanto all’amica Amy in carne e ossa (anche lei lasciata dalla sua intelligenza artificiale): i due sono saliti all’ultimo piano del palazzo e insieme guardano le luci della città all’alba in una sorta di ritorno alle fragilità umane condivise.