IA: parole nuove senza intenzione

Immaginiamo che qualcuno chieda a un sistema di Intelligenza artificiale di scrivere un testo critico sull’immigrazione. Il prompt stabilisce l’argomento, ma non contiene già tutte le frasi della risposta. Ciò che rende “generativa” l’Intelligenza artificiale è lo spazio aperto tra la richiesta e il risultato. Il modello costruisce il testo parola dopo parola, scegliendo tra molte continuazioni possibili. Una frase neutra può evocare una metafora, la metafora introdurre una contrapposizione tra “noi” e “loro”, quella contrapposizione rappresentare gli stranieri come una minaccia. Può così apparire un’espressione aggressiva che l’utente non aveva scritto, previsto neanche, forse, desiderato. La macchina non crea dal nulla, ma la combinazione può essere nuova. Non era contenuta nel prompt né formulata da un programmatore. Nietzsche osserva, in Umano, troppo umano , che la natura può produrre «cose della massima finalità senza averle volute». L’Intelligenza artificiale sembra trasferire questa possibilità dentro il linguaggio. Può generare una frase dotata di senso ed efficace senza che quel significato sia stato voluto né dalla macchina né dall’uomo che l’ha interrogata.

Supponiamo ora che quella frase venga pubblicata. Un lettore vi riconosce una conferma delle proprie paure, la interpreta come un’autorizzazione e compie un’aggressione. L’aggressore resta responsabile. Ma chi risponde delle parole che hanno contribuito a orientarne il comportamento? Qui compare il paradosso: la frase ha un significato preciso e produce un effetto reale, ma potrebbe non essere stata voluta intenzionalmente da nessuno. Nel linguaggio umano significato e intenzione sono normalmente intrecciati. Quando qualcuno parla, non ci chiediamo soltanto che cosa significhino le sue parole, ma che cosa stia cercando di fare: informare, persuadere, accusare, intimidire. Ad ogni atto, anche linguistico, è possibile attribuire, almeno teoricamente, una intenzione sottostante. Una frase diventa un atto perché la riconduciamo a un soggetto che ha voluto pronunciarla e che può essere chiamato a risponderne.

L’Intelligenza artificiale generativa spezza questa connessione. Può produrre una minaccia senza voler minacciare, un’accusa senza voler accusare, un’esortazione senza desiderare di essere obbedita. Il significato conserva la sua efficacia sociale ma ciò che manca è una volontà che ne assuma la responsabilità. Il destinatario, però, reagisce alle parole e una frase può funzionare come un ordine anche senza che nessuno lo abbia impartito. Esiste l’istigazione come effetto, ma può non esistere l’istigatore come soggetto morale.

Questo non elimina però le responsabilità umane. Chi chiede un testo xenofobo e lo diffonde assume quelle parole come proprie. Piattaforme e imprese rispondono della delega e dei rischi prevedibili. Ma nessuno di questi soggetti coincide necessariamente con l’intenzione espressa dalla frase. La macchina l’ha generata, ma non l’ha voluta. Resta tuttavia sempre possibile il caso limite di una richiesta innocua che genera un risultato inatteso, in presenza di controlli ragionevoli e di nessuna approvazione umana. Un lettore interpreta la frase come un invito e agisce. L’autore materiale risponde del comportamento. Saremmo però davanti ad una causa comunicativa priva di autore morale. La questione centrale è che la macchina sarebbe abbastanza autonoma da introdurre nel mondo una differenza che nessun essere umano aveva interamente determinato, ma non abbastanza autonoma da risponderne. Non è un semplice strumento, perché contribuisce al contenuto del messaggio; non è neppure un soggetto morale, perché non comprende quel contenuto come proprio.

È a questa frattura che rimanda anche la Magnifica humanitas di Leone XIV quando denuncia il rischio di affidare alla macchina non soltanto l’esecuzione, ma il giudizio. La decisione viene automatizzata, mentre nessuno ne assume il peso. La delega della decisione rischia così di diventare una delega della coscienza. Non perché l’algoritmo possieda una coscienza sostitutiva, ma perché non ne possiede alcuna. Rimane la scelta ma scompare il decisore. È una manifestazione della “cultura della potenza”, nella quale la disponibilità dei mezzi tende a dettare i criteri dell’azione. Qui il richiamo a Günther Anders è inevitabile. Ciò che può essere fatto tende a presentarsi come qualcosa che deve essere fatto. L’efficienza sostituisce il giudizio e la possibilità tecnica prende il posto della responsabilità morale. Il pericolo è che la frattura tra significato e intenzione diventi un alibi. “Lo ha scritto l’algoritmo” potrebbe diventare la formula con cui gli esseri umani conservano il potere di mettere in circolazione parole e rinunciano alla responsabilità delle conseguenze. Chi affida a una macchina il potere di produrre significati non diventa autore di ogni parola, ma assume la responsabilità di aver creato uno spazio nel quale parole senza intenzione possono comunque agire.

Il paradosso dell’Intelligenza artificiale generativa è la comparsa nel mondo di significati che nessuno ha inteso significare, ma dai quali discendono conseguenze concrete per gli esseri umani. Occorre, dunque, chiedersi, non tanto se le macchine diventeranno moralmente responsabili, ma piuttosto se, abituandoci a significati senza intenzione, finiremo per accettare anche decisioni senza coscienza e conseguenze senza qualcuno disposto a risponderne.