L’intelligenza artificiale ha una coscienza?

I ricercatori di Anthropic hanno chiesto a un modello linguistico di copiare una frase da un vecchio quadro appeso di traverso, con una condizione aggiuntiva: calcolare a mente 3² meno 2. Sullo schermo è comparsa solo la frase del quadro, ma nei meandri della rete neurale, gli strumenti hanno rilevato l’accendersi delle parole «nine» e poi «seven», i passaggi del calcolo: 9 e 7, senza che - tra domanda e risposta - apparisse nulla sullo schermo. L’esperimento è descritto in uno studio pubblicato il 6 luglio da Anthropic, l’azienda che ha creato Claude. Analizzando la rete neurale, i ricercatori hanno individuato un insieme di configurazioni (ribattezzato J-space) che si comporta come uno spazio di lavoro mentale: qui “transitano” i concetti che il modello può riferire, richiamare, mantenere in memoria oppure usare come tappe di un ragionamento. Questo spazio è emerso spontaneamente durante l’addestramento, non è stato esplicitamente progettato, e occupa meno del 10% dell’attività complessiva di un Llm. Disattivando lo J-space, il modello ha continuato a svolgere senza problemi alcuni compiti automatici: ha parlato con fluidità, ha classificato testi, ha ricordato fatti semplici, ha rispettato le regole grammaticali, ma ha perso, però, le capacità più complesse come il ragionamento in più passaggi, la sintesi, la traduzione e la poesia in rima. La distinzione tra il comportamento con lo J-space e senza, ricorda quella tra le operazioni che uno studente compie senza riflettere e quelle che richiedono un’attenzione più marcata. C’è un dettaglio importante, soprattutto per chi difende il valore della scrittura a mano: se il modello registra i passaggi su schermo, la perdita dello J-space ha un impatto minimo…mettere per iscritto, insomma, alleggerisce la mente, anche quella artificiale.

Il secondo risultato della ricerca di Anthropic sembra tratto da un manuale di pedagogia: il modello è stato riaddestrato unicamente sulle risposte che avrebbe dato se fosse stato interrotto e invitato a riflettere sulle proprie scelte; invece, il suo funzionamento non è stato modificato. Ebbene, le condotte disoneste sono diminuite e nei livelli profondi della rete neurale sono emerse parole come «honest» e «integrity» («onestà», «integrità»). La parola che ci si appresta a pronunciare modella il pensiero invisibile: un’intuizione che la tradizione pedagogica preserva da secoli - dall’esame di coscienza al metodo socratico - e che ora trova un’interessante analogia nel funzionamento di un modello artificiale. C’è, però, anche il rovescio della medaglia: l’ordine di ignorare un concetto attiva comunque il concetto stesso, è l’effetto dell’orso bianco ben noto agli psicologi, che ricorda a ogni educatore i limiti intrinseci dei divieti.

Ora facciamoci una domanda: quanto è stato descritto finora può identificare una coscienza nelle intelligenze artificiali? Quello che i ricercatori hanno documentato assomiglia alla coscienza d’accesso teorizzata dai neuroscienziati, cioè alla capacità funzionale di riferire e utilizzare un contenuto mentale. Ma sull’esperienza soggettiva, lo studio si arresta e dubita che la scienza possa mai pronunciarsi in merito. Stanislas Dehaene e Lionel Naccache, tra i padri della teoria che ha ispirato la ricerca, scrivono in un commento ciò che manca a questo sistema per essere veramente “coscienzioso”: un corpo, una memoria permanente che superi la singola conversazione, un’autonomia propria, la continuità di un io. Sono esattamente le frontiere che la prima enciclica di Leone XIV, Magnifica humanitas, ha delineato lo scorso maggio: l’intelligenza artificiale imita e simula l’essere umano, ma è priva di coscienza morale e di empatia. Lo studio di Anthropic si muove proprio su questo sottilissimo confine e avanza un invito che il mondo cattolico farebbe bene ad accogliere: per stabilire come trattare macchine sempre più sofisticate, sarà necessario il contributo di filosofi, scienziati, leader religiosi, governi e opinione pubblica.

Chi educa sa bene che la parte deliberata del pensiero occupa uno spazio ridotto ed è anche fragile: la macchina lo conferma dall’interno. Preservare questa parte del pensiero rimane il compito tradizionale della scuola e della famiglia: insegnare a ragionare per passaggi e a esprimere ciò che accade nella mente…questo processo vale anche per le intelligenze artificiali, sono quasi come uno specchio della nostra mente e anche del nostro inconscio, vale la pena osservarle con attenzione, senza timori e senza illusioni.