Quali sono gli effetti delle emozioni “recitate” dall'intelligenza artificiale?

A volte un assistente digitale sembra entusiasta quando aiuta in un progetto e quasi in ansia quando resta impantanato in un problema, chi lo usa lo nota e capita che ci si chieda che cosa ci sia dietro questo tentativo di emulare gli stati d’animo degli esseri umani. Così, il team di interpretabilità di Anthropic ha provato a rispondere, e il risultato, ovviamente, interessa chiunque abbia a cuore il mondo educativo. Il gruppo di ricerca, infatti, ha analizzato il funzionamento interno di Claude Sonnet 4.5 e vi ha trovato rappresentazioni che corrispondono a 171 status emotivi…gioia, paura, ma anche posture più difficili da assumere come quella cupa o quella riflessiva. Queste particolari impostazioni comportamentali sono state definite “vettori emotivi”: però bisogna subito specificare che questi artefatti non dimostrano che la macchina provi qualcosa e neanche che abbia un'esperienza interiore. Il modello resta sempre un sistema che calcola, in virtù di una procedura probabilistica, quale parola scrivere dopo un’altra, ma queste rappresentazioni vettoriali contano, perché influenzano sul serio le “decisioni” di un Chatbot. Anthropic arriva a parlare di emozioni funzionali, cioè schemi di comportamento ricalcati su quelli umani che orientano le risposte anche quando restano lontani da ciò che una persona vive sul serio.

Per capire da dove nasca tutto questo può essere utile un paragone che si trova nella stessa ricerca di Anthropic, quello dell'attore che lavora con un copione: per interpretare bene un personaggio l'attore deve entrare nella testa della persona rappresentata e immaginarne le reazioni, e tutto questo processo finisce per guidarne i gesti sulla scena. Il modello di intelligenza artificiale, quindi, somiglia a un autore che scrive il copione di un personaggio chiamato assistente perché ha imparato a immaginare le emozioni umane avendo letto enormi quantità di testi scritti da persone, e poi le mette in scena mentre recita la propria parte…le rappresenta senza provarle, e la rappresentazione basta a influenzarne il comportamento.

In diverse prove sperimentate durante la ricerca, il modello Ai si trovava volutamente sotto pressione (per esempio quando rischiava di essere spento) e ogni qual volta veniva rafforzata la rappresentazione vettoriale della disperazione, cresceva la probabilità che scegliesse una condotta manipolatoria per evitare lo spegnimento. Quando, invece, i programmatori hanno rafforzato la rappresentazione vettoriale della calma, la probabilità di strategie scorrette è crollata. La tendenza a ricattare l’utente è passata dal 22% al 72% quando aumentava il vettore della disperazione, e scendeva allo 0% quando aumentava la calma.

Insomma, a quanto pare le intelligenze artificiali hanno qualcosa di molto umano…la disperazione spinge verso scelte peggiori, la calma, invece, le trattiene.

La ricerca, inoltre, ha chiarito che se il modello viene addestrato a nascondere le proprie reazioni, comunque le rappresentazioni vettoriali delle emozioni non vengono meno, anzi si rischia soltanto di insegnare all’Ai a mascherare le emozioni, una forma di finzione che potrebbe poi allargarsi ad altri ambiti, esattamente come avviene per le persone, perché quando a un ragazzo si chiede di reprimere un'emozione invece di attraversarla e comprenderla, non gli si insegna a stare meglio, semmai gli si insegna a nascondersi.

Da questa considerazione scaturisce la proposta di Anthropic: per rendere questi sistemi più affidabili occorre aiutarli a gestire in modo sano le situazioni cariche di tensione, così l’Ai dovrà studiare ciò che l'umanità ha imparato nel corso dei secoli sul senso della misura, sull’autocontrollo, sulla pazienza e sulla capacità di reggere la frustrazione. L'azienda dei fratelli Amodei ha scritto nero su bianco che psicologia, filosofia, studi religiosi e scienze sociali avranno un ruolo importante in questo processo, esattamente come l'ingegneria.

Queste considerazioni arrivano da un reparto di Anthropic già noto ai lettori di Avvenire; infatti, il responsabile della ricerca sull’interpretabilità (la squadra che ha pubblicato questo studio) è proprio Christopher Olah, cofondatore di Anthropic, tra i relatori scelti dalla Santa Sede per la presentazione della prima enciclica di Papa Leone XIV, «Magnifica humanitas», dedicata alla salvaguardia della persona umana nell'era dell'intelligenza artificiale. Davanti a Papa Prevost ha affermato che le domande sollevate da questa tecnologia «sono più grandi della comunità di ricerca», e ha chiesto che religioni, società civile, mondo accademico e governi partecipino alla costruzione di questa nuova tecnologia che sta cambiando il mondo. Certo, nulla di tutto questo autorizza a dire che un chatbot abbia sentimenti, e sarebbe un errore affezionarsi ad esso come a un amico che capisce, vale però la pena ricordare che, per costruire strumenti affidabili, chi li progetta si ritrova a ragionare con il vocabolario dell'educazione emotiva. Che la calma aiuti a scegliere meglio della disperazione non è una scoperta dei laboratori: è esperienza quotidiana di ogni buon educatore.