Norbert Wiener e l’etica dei sistemi intelligenti

Proseguo la mia carrellata di scienziati e scienziate della storia. Li studio negli archivi mentre scrivo i miei libri, e in questo spazio prezioso nel web mi fermo su di loro per cercarne la spiritualità. Perché io la mia la sto ancora cercando, e da fisica non posso far finta che questa domanda non esista.

Oggi vi parlo di Norbert Wiener. Norbert Wiener ha fondato la cibernetica, la scienza dei sistemi di controllo e comunicazione negli esseri viventi e nelle macchine, mostrando che feedback, informazione e regolazione sono principi comuni tanto ai neuroni quanto ai circuiti elettronici. In piena metà del Novecento, mentre il mondo usciva dalla guerra e iniziava a costruire computer grandi come stanze, Wiener capisce qualcosa di decisivo: non conta solo l’energia, conta l’informazione. Non conta solo l’azione, conta la retroazione. Un sistema non è tale se non sa correggersi. Se non ascolta il proprio effetto e non lo reintegra nel proprio comportamento. È un’idea potentissima. Il feedback diventa la chiave per comprendere l’equilibrio biologico, la regolazione sociale, persino il funzionamento delle macchine intelligenti. Non c’è controllo senza ascolto. Non c’è stabilità senza risposta. Ma Wiener non è solo un teorico brillante.

È anche uno scienziato inquieto. Dopo aver contribuito allo sviluppo di tecnologie militari durante la guerra, rifiuta di continuare a collaborare con progetti che possano rafforzare l’industria bellica. Scrive lettere pubbliche, prende posizione. Qui la sua spiritualità si fa visibile: la responsabilità non finisce con l’equazione. Se capisci come funziona un sistema di controllo, devi anche chiederti chi lo controlla. Se rendi le macchine più intelligenti, devi chiederti quale idea di uomo stai costruendo. La spiritualità di Wiener sta in questa parola: responsabilità. La consapevolezza che l’informazione è potere, e che ogni potere deve essere interrogato. Oggi, nell’epoca dell’intelligenza artificiale e degli algoritmi che decidono cosa vediamo, cosa compriamo, cosa pensiamo di sapere, la sua domanda è più viva che mai. Un sistema senza feedback diventa autoritario. Un sistema che non ascolta si irrigidisce. Un sistema che non si interroga si chiude. L’insegnamento universale è semplice: non basta essere intelligenti, bisogna essere consapevoli.

Non basta controllare, bisogna sapere perché si controlla e per chi. E allora la domanda, diretta: nei sistemi che abitate ogni giorno, nel lavoro, nella famiglia, nella società, esiste davvero il feedback? Vi è concesso di correggere il sistema, o potete solo subirlo? Se vi va, scrivetemi a interferenze@avvenire.it: leggerò tutte le vostre risposte