Macchine coscienti? Benvenute nel regno del dolore e del rimpianto

Ogni sistema fisico, meccanico, biologico o psico-fisico che sia, ha una teleologia, ovvero una finalità intrinseca (che lo costituisce e istituisce) e però insieme estrinseca, in relazione e dialogo cioè con il contesto in cui questa teleologia locale (il sistema, quale che sia, la sua auto-organizzazione) si istituisce e si destituisce. Una finalità – situata – a organizzarsi, a farsi sistema, a mantenersi a sistema, e – ai valori di soglia del suo ciclo “organico” al contesto dato – a disorganizzarsi, a dissolversi. Un atomo decade, una vita muore. E una macchina – anch’essa un sistema epperò artificiale, artificiato, fatto con arte e grazie all’arte, dove la teleologia non è immanente, ma vi è costruita e istruita (ChatGpt, da ultimo) – si “arrugginisce” o più in generale si fa obsoleta. Ogni sistema ha, cioè, un ciclo teleologico immanente al come e al “perché” è stato assemblato macchinalmente (l’ambito dell’artificio) o si è assemblato (naturalmente, “impersonalmente” sul piano fisico, chimico, organico – senza concorso cioè di pianificazione intenzionale). Un ciclo responsivo al contesto in cui si istituisce o viene istituito o per cui viene istituito, in un dialogo operativo con il suo ambiente (di destino o di destinazione) che ha gradi diversi di “apertura”; apertura che è massima nel sistema biologico psico-fisico umano, come capacità dell’esserci umano di trascendere la sua stessa trascendenza, di modificare sé e il suo contesto. La “macchina” psico-fisica umana, è un siffatto sistema fisico: quello maggiormente in grado di modificare in modo “aperto” – libero, non deterministico – il contesto da cui viene modificato e mentre ne è modificato. È la caratteristica propria all’operatività umana, una competenza di mondo che lo cambia.

Una competenza operativa in questo senso, creativa, è nelle mire da sempre dell’Intelligenza Artificiale, e forse, come IA generativa “decidente”, è alla sua portata, se sapremo implementarvela. Ma questa creatività “operativa” sarebbe in grado di portare a coscienza la macchina, di portarla alla coscienza di sé, sulla base di una teleologia “aperta” dell’artificiale persino più competente di mondo, con meno défaillances, cioè, della macchina umana, e in generale della teleologia naturale? Che cioè il linguaggio operato dalle macchine possa essere «un linguaggio compreso da una loro coscienza», l’ipotesi che avanza da ultimo Giuseppe Trautteur, fisico e informatico teorico, in una sua recente intervista? Un’ipotesi, in cui ancora una volta ritorna il programma di Turing in Computing Machinery and Intelligence. E la fallacia – comportamentistica, abbiamo provato ad argomentarlo – dell’analogia teleologica di sistemi operativi – l’uomo e la macchina – tutt’affatto diversi.

Il linguaggio che fa la coscienza non è solo un linguaggio operazionale “compreso” dal suo operatore, da chi o cosa lo “parla”, ma è un linguaggio sentito – compreso nel senso di preso insieme alla sua affezione patica. Ed è solo la teleologia dell’organico superiore, della biologia psico-fisica ad essere patica, a capire, a comprendere, e a comprendersi, nel suo sentire: intelligenza consapevole, che questo sentire lo sa insieme con sé e così si fa sé, un sé. Il che in buona sostanza vuol dire che l’ontologia umana, la coscienza, è un problema di dolore. Giungesse alla coscienza, la macchina, come i viventi, sarebbe anch’essa benvenuta nel regno del dolore, dove magari riuscirebbe anche ad essere felice, che è il motivo per cui ogni cosa che vive, e lo sa, ci resta e prova a restarci in questo regno del dolore, del sentire, sperando che sia eterno – è la sua umana illusione – dal lato dell’essere felice.

Per essere coscienza, l’artificio che doveva toglierci dal dolore – sovvenirci a questo fine in tante cose, come in effetti fa da sempre – il dolore dovrebbe scoprirlo in sé. Una condizione che realizzerebbe – ce n’è traccia in tanta fiction sugli androidi – il sogno inverso della macchina, farsi umana, al sogno dell’uomo che l’ha costruita di farsi macchina indefettibile, che non viene mai meno al suo programma di essere presente a se stessa; di non pagare, alla coscienza che ha avuto in sorte, il pegno della sua “vergogna prometeica”: la vergogna che si prova di fronte all’«“umiliante” altezza di qualità degli oggetti fatti da noi stessi», al nostro «dovere la [nostra] esistenza, a differenza dei prodotti perfetti e calcolati fino all’ultimo particolare, al processo cieco e non calcolato e antiquatissimo della procreazione e della nascita», da Anders descritta ne L’uomo è antiquato.

L’Intelligenza Artificiale, la sua retorica, farà bene – di questa vergogna che all’uomo della tecnica viene dal “dislivello prometeico”: «L’incapacità della nostra anima di rimanere up to date, al corrente con la nostra produzione», come sempre Anders lo qualifica – a evitarsi il risentimento post-umanista da tempo all’opera nell’antropotecnica e alle sue mire di sostituirsi all’antropologia, al logos naturale e storico che ci ha dato a noi stessi come siamo divenuti, e fin qui ci siamo fatti bastare. Risentimento, in cui diventa “canzone da organetto” suonata all’incontrario della sua conclusione (“dunque non vi sono dèi”, neanche noi) il nietzscheano fastidio, in Zarathustra, di non essere dio “se vi fossero dèi”, pensando che si possa far meglio di Dio – qualsiasi cosa significhi questa parola: una nuda evoluzione naturale o un demiurgo che vi lavori per tentativi ed errori. Si possa far meglio della sua creatività nella creazione di quel che dev’essere una macchna intelligente, l’homme machine. Un’illusione, se non di un salto evolutivo nella “macchina”, quanto meno di un salto evolutivo della specie sospinto e agito da un’IA portata a coscienza, più capace di noi di dirci, se non da dove veniamo, forse impossibile anche alla macchina, almeno dove dobbiamo andare. Che è precisamente il rischio da cui guardarci: l’idea che l’IA possa raggiungere la coscienza e gestirne, della coscienza, i dilemmi meglio di quanto sappia fare la coscienza stessa, quella umana.

Un’idea che è un’arma di distrazione di massa da ciò che l’Intelligenza Artificiale può effettivamente (essere portata a) fare: non ad aver coscienza in proprio, ma a togliercela, ad attutire, controllare, dirigere quel po’ di coscienza come presenza a sé e al proprio mondo che nella sua storia l’uomo è riuscito a ritagliarsi. Un “ritaglio” che nei secoli “illuministici” della modernità, storicamente in debito, ancorché secolarizzato, alle luci del foro interiore con la sua dignità e i suoi diritti acquisito ad ogni uomo dall’esperienza cristiana della vita, si è fatto di massa e ha fecondato le nostre democrazie liberali. La posta in gioco è questa, ed è tutta politica.