Un'app per “parlare” con i defunti ci interroga sul nostro rapporto con il lutto

L’idea è di quelle da romanzo orwelliano o, per adattare la fiction ai tempi, da puntata di Black Mirror. Tanto che la serie britannica l’aveva già anticipata: grazie all’intelligenza artificiale sarà possibile parlare con i defunti. A promettere l’impossibile – al momento, in effetti, si tratta ancora di un’illusione – è 2WAI, una startup di Los Angeles che negli scorsi giorni ha rilasciato una pubblicità che, in poche ore, ha raggiunto milioni di utenti in tutto il mondo. Lo spot dura un paio di minuti. Nelle prime scene, una donna accudisce il figlio neonato con le filastrocche che la madre le insegna in videochiamata. Poi è il figlio, ormai cresciuto, ad annunciare alla nonna una nuova gravidanza: sta per diventare padre ma – si intuisce solo negli ultimi istanti del video – la futura bisnonna non potrà mai abbracciare il nipotino perché, in realtà, è defunta da decenni. La pubblicità si chiude con un motto: «Con 2WAI, tre minuti possono durare per sempre». I tre minuti – di registrazione – sono quelli necessari all’app per creare il gemello digitale dell’utente. Dietro al «per sempre», invece, si cela la promessa di 2WAI: un database di avatar di persone defunte con cui parlare come se fossero ancora in vita. La piattaforma è già online e, in Europa e in tutto il mondo, è stata scaricata da milioni di persone.

In realtà, l’app si presenta ancora in una veste molto embrionale. Gli avatar possono essere generati solo a partire da video registrati dagli utenti e non si distinguono granché dalle persone artificiali, ancora robotiche nelle movenze, a cui molte intelligenze artificiali ci hanno abituati ormai da anni. Eppure, ancor prima di diventare realtà, il database digitale di persone defunte generato da 2WAI, consultabile da utenti in tutto il mondo, genera già molti problemi.

Il primo riguarda la proprietà dei dati con cui sono costruiti gli avatar. Leggendo i termini e le condizioni dell’applicazione, si intuisce che non tutte le informazioni impiegate per la costruzione degli alter ego dei propri cari, dopo il loro inserimento nei database di 2WAI, restano di proprietà degli utenti. Al momento, un cliente che si stanca del proprio avatar potrebbe chiedere la rimozione di alcuni dati, ma non tutti: la startup statunitense si riserva il diritto di conservarne alcuni per la costruzione di altri alter ego. Tradotto: la favola della buonanotte di un nonno potrebbe finire sulla bocca della madre di un altro utente. «I produttori non pensano alla costruzione di gemelli digitali coscienti, ma generano il sostituto di una persona tramite un video – commenta Ernesto Belisario, avvocato esperto in diritto delle tecnologie –. Così, anche se un utente cancella la sua immagine dall’app, alcuni dati biometrici rimangono nel database potenzialmente per sempre. Lo dice proprio 2WAI: è come se ci fosse un calderone di dati che l’azienda usa per tutti gli avatar, personalizzandoli di volta in volta».

Non solo: tutti i gemelli digitali sono esposti al rischio di essere impiegati - con il consenso degli utenti, che nella maggior parte dei casi accettano i termini d’uso senza leggerli - a scopi diversi da quelli pubblicizzati dall’azienda. «Stiamo creando versioni di noi stessi che potrebbero sopravviverci di generazione in generazione – commenta Belisario – senza alcun controllo su come verranno usate o persino monetizzate dai nostri discendenti». La situazione si aggrava quando a essere coinvolti sono i defunti: «Il diritto consente sempre ai vivi di opporsi a un uso improprio dei dati di cui sono proprietari – continua l’avvocato – ma non c’è una legge che dica che non è possibile generare avatar usando dati di persone decedute». In altre parole, ci si può proteggere solo finché si è in vita. Il suggerimento degli avvocati, perciò, è il più efficace per la gestione delle proprietà post mortem: «Dobbiamo iniziare a disporre le nostre volontà – spiega Belisario – esplicitando che siamo contrari a sopravvivere alla morte sotto forma di avatar».

I rischi, a permettere l’uso dei dati dei defunti, è che questi possano essere «hackerati, utilizzati per produrre materiale pornografico o persino per persuadere i nostri cari a compiere scelte finanziarie, usando un volto amico». Ma 2WAI si prende poche responsabilità sui dati sottratti: «Si impegnano solo a risarcire cento dollari a fronte di una eventuale manipolazione dei dati». A dover essere tutelata, però, è anche la salute mentale degli utenti: «Le persone potrebbero affezionarsi a gemelli digitali, piuttosto che alle persone reali – conclude Belisario –. Queste app aprono il dibattito al grande tema della dipendenza emotiva». In effetti gli interrogativi nati dal lancio di 2WAI non si fermano alla proprietà dei dati degli utenti: la creazione di alter ego di cari defunti rischia di ostacolare il processo di elaborazione del lutto sostituendo, di fatto, a persone in carne e ossa, in grado di evolvere con tempi e processi umani, robot incorporei che “rubano” tratti del carattere dai dati di altri utenti. A queste condizioni, ha senso affidare il nostro dolore all’empatia di un avatar? Domande come questa, all’indomani del lancio di 2WAI, si accavallano. E, forse, questo ad oggi è l’unico merito dell’app: permetterci di scavare qualche altro metro dentro a un iceberg - ancora inesplorato - fatto di algoritmi e quesiti bioetici.