La vana lotta dei piloti in volo contro il software senza dubbi

Sono stati sei minuti di battaglia fra due uomini e un’intelligenza artificiale. Sei concitati, disperati minuti di dialogo fra i piloti del volo Ethiopian Airlines 302 e il computer di bordo del Boeing 737 Max 8. «Non si è trattato di un errore umano, ma di un problema di software», ha dichiarato la ministra dei Trasporti etiope, anticipando i risultati dell’analisi della Aviazione civile dopo il disastro del 10 marzo, 157 morti.

Il Boeing era decollato da Addis Abeba alle 8.38 del mattino. 44 secondi dopo i sensori «degli angoli d’incidenza di sinistra e destra iniziano a registrare valori discordanti», afferma il dossier. Un sensore segna un angolo di 15 gradi, l’altro di 75, e fa scattare il sistema antistallo. 8.39, dal Boeing chiedono alla torre l’autorizzazione a rientrare. Nell’arco di 8 secondi, tre allarmi traversano acuti la cabina. Il rischio di schianto è imminente. In quei secondi i piloti cercano in tutti i modi di risollevare coi comandi manuali l’apparecchio. Una volta, niente. Una seconda, nemmeno. Possiamo immaginarci lo scambio di ordini urlati, il frenetico azionare leve e bottoni. Un ultimo tentativo, disperato e vano. A mille all’ora verso terra. Un boato: 8 e 43 minuti, tutti morti.

«Un problema di software». Il computer aveva registrato dai sensori dei dati scorretti, e tetragono procedeva a elaborarli. Sotto agli occhi attoniti dei piloti l’aereo interrompeva la salita, si inclinava. I due forse, ora, increduli: potevano correggere la rotta, ma il computer non lo ammetteva. Un ammutinamento: l’intelligenza artificiale non cedeva il comando. 157 uomini atterriti a bordo capivano che stavano precipitando, ma il computer no. Come se alla sua memoria e potenza straordinaria mancasse qualcosa: la percezione della realtà. La capacità di vedere una realtà diversa da quella (erroneamente) calcolata. I piloti avrebbero forse potuto impedire la tragedia, ma la macchina li ha esautorati.

Anche gli uomini sbagliano, certo, e spesso. Però raggela il pensiero di quei sei minuti di battaglia strenua con una macchina intelligente e cieca. Non sono programmati per il dubbio, i computer. Gli uomini invece sì, per fortuna. Guardano la realtà, riflettono. Talvolta, cambiano strada.