Roboetica (e no), le leggi che mancano. Il gran confine che bisogna riconoscere
Un lettore rammenta le «Tre leggi della robotica» che Asimov pone a presidio dalla possibile prepotenza tecnoscientifica (ed economica). E io la quarta, cioè la «Legge zero»
Gentile direttore,
ho letto del convegno che dal 25 al 27 febbraio si è tenuto in Vaticano per iniziativa dalla Pontificia Accademia per la Vita e avente come tema: "Roboetica. Persone, macchine e salute". Tema ormai, come scritto da "Avvenire", non «fantascientifico», ma di sempre più stringente attualità. Vengono spontanee alla memoria le tre leggi della robotica, poste alla base del relativo manuale (56a Ed. – 2058 d.C.) a premessa del romanzo di Isaac Asimov (Io, Robot ed. 1950). 1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. 2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge. 3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la prima e con la seconda legge. Semplicissime: varrebbero benissimo per qualsiasi essere umano. Il guaio è che proprio noi, progettisti, togliamo troppo spesso la parolina "non" dalla prima legge, con quel che ne consegue. Una seria e divertente lettura del romanzo potrebbe aiutare a rimettere le cose a posto. Se fosse resa obbligatoria per gli addetti ai lavori sarebbe ancor meglio (hanno tempo fino al 2058...). La dottoressa Susan Calvin (nel romanzo di Asimov assunta nel 2008 dalla U.S. Robots quale specialista di psicologia dei robot...) ne sarebbe felice sia pure senza darlo a vedere. E, certamente, non solo lei. Cordiali saluti.
ho letto del convegno che dal 25 al 27 febbraio si è tenuto in Vaticano per iniziativa dalla Pontificia Accademia per la Vita e avente come tema: "Roboetica. Persone, macchine e salute". Tema ormai, come scritto da "Avvenire", non «fantascientifico», ma di sempre più stringente attualità. Vengono spontanee alla memoria le tre leggi della robotica, poste alla base del relativo manuale (56a Ed. – 2058 d.C.) a premessa del romanzo di Isaac Asimov (Io, Robot ed. 1950). 1) Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno. 2) Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla prima legge. 3) Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la prima e con la seconda legge. Semplicissime: varrebbero benissimo per qualsiasi essere umano. Il guaio è che proprio noi, progettisti, togliamo troppo spesso la parolina "non" dalla prima legge, con quel che ne consegue. Una seria e divertente lettura del romanzo potrebbe aiutare a rimettere le cose a posto. Se fosse resa obbligatoria per gli addetti ai lavori sarebbe ancor meglio (hanno tempo fino al 2058...). La dottoressa Susan Calvin (nel romanzo di Asimov assunta nel 2008 dalla U.S. Robots quale specialista di psicologia dei robot...) ne sarebbe felice sia pure senza darlo a vedere. E, certamente, non solo lei. Cordiali saluti.
Matteo Parodi
,
Sori (Ge)
Quante volte, in questi anni, mi sono detto
anch'io
con amarezza e rimpianto che stiamo entrando nell’«era robotica», quella delle intelligenze artificiali, che Isaac Asimov narrò nel suo serissimo gioco letterario, purtroppo senza portare in bisaccia l’essenziale. Cioè, gentile dottor Parodi, senza almeno quelle "Tre leggi della robotica" che lei rammenta e cita per esteso nella sua lettera e che il grande scrittore costruì in dialogo con l’amico e collega John Campbell e pose a presidio della vita umana. Già, stiamo arrivando
all'appuntamento
da tempo vaticinato poveri non di baldanza e di capacità tecnica, ma di consapevolezza e di moralità e, dunque, in condizioni di propiziare e subire – anche, ma non solo, tecnologicamente – nuove e inedite prepotenze, ritornanti sopraffazioni, eterni e brutali sfruttamenti.
Difficile stupirsene, del resto. Siamo nel tempo delle regole fragili o inesistenti in ogni campo (a cominciare da quello occupato dai poteri economico-finanziari e tranne che a proposito dell’impegno umanitario che mai come in questo momento gli Stati pretendono di commissariare e limitare). Ci lasciamo riempire la testa di ammirate e addirittura reverenti odi
all'efficienza
degli algoritmi promossi a "geni della lampada" del potere e della ricchezza. E sembriamo in troppi ancora in preda alle ubriacature del "vietato vietare" e all’eccitazione individualistica delle reclamate ratifiche (in Tribunale o altrove) dei desideri personali come diritti fondamentali anche quando in essi è evidente la carica egoistica... Già. Non c’è da stupirsene, ma neppure ci si può rassegnare. Ed è giusto, anche sul filo dell’ironia, come lei fa con eleganza, porre con forza il problema e lavorare – come sta facendo la pontifica Accademia per la Vita, oggi guidata
dall'arcivescovo
Vincenzo Paglia – per un vasto soprassalto di intelligenza e di coscienza e per sensate soluzioni.
Anch'io
all'umanità
all'arcigna
difesa di
tutt'altri
confini, magari importanti, ma non altrettanto decisivi e non sempre umanamente giusti... Grazie della sua bella provocazione, gentile amico. Un cordiale augurio di nuove buone letture, di ottime riflessioni, di serene e forti battaglie comuni.
© RIPRODUZIONE RISERVATA
