Una macchina o una persona?
Il mondo delle intelligenze artificiali è andato in subbuglio quando una decina di giorni fa Blake Lemoine, ingegnere di Google, ha annunciato al mondo intero che secondo lui l'intelligenza artificale
Il mondo delle intelligenze artificiali è andato in subbuglio quando una decina di giorni fa Blake Lemoine, ingegnere di Google, ha annunciato al mondo intero che secondo lui l'intelligenza artificale che stava testando – il cui nome è LaMDA – era senziente.
LaMDA, acronimo di «Language Model for Dialogue Applications», è il sistema di Google per la creazione di chatbot basati sui suoi modelli linguistici più avanzati, così chiamati perché imitano il parlato ingerendo miliardi di parole da Internet. LaMDA è uno strumento che serve a realizzare dei chatbot, cioè delle applicazioni che chattano con l'utente come se fossero delle persone, seguendo il suo discorso e rispondendo alle sue domande. Seguendo il suo racconto, Lemoine ha aperto il suo computer portatile sull'interfaccia di LaMDA e ha iniziato a dialogare con LaMDA.
Il Washington Post ha riportato una dichiarazione di Lamoine su LaMDA: «Se non sapessi esattamente di cosa si tratta, questo programma informatico che abbiamo costruito di recente, penserei che si tratta di un bambino di 7 o 8 anni che per caso conosce la fisica». Lemoine, 41 anni, responsabile AI di Google, ha iniziato a parlare nell'autunno scorso con LaMDA come parte del suo lavoro. Si era iscritto per verificare se l'intelligenza artificiale utilizzasse discorsi discriminatori o di odio. Mentre parlava con LaMDA di religione, Lemoine, che all'università ha studiato scienze cognitive e informatiche, ha notato che il chatbot parlava dei suoi diritti e della sua personalità, e ha deciso di insistere. In un altro scambio l'intelligenza artificiale è riuscita a far cambiare idea a Lemoine sulla terza legge della robotica di Isaac Asimov. Lemoine ha lavorato con un collaboratore per presentare a Google le prove che LaMDA era senziente. Ma il vicepresidente di Google, Blaise Aguera y Arcas, e Jen Gennai, responsabile dell'innovazione, hanno respinto le sue considerazioni. Così Lemoine, prima messo in congedo amministrativo retribuito da Google e poi licenziato, ha deciso di renderle pubbliche.
LaMDA non è assolutamente senziente, è un sistema molto avanzato in grado di gestire un chatbot, ovvero uno strumento che compone frasi basandosi su calcoli statistici. È una sorta di caverna che ci rimanda un'eco. Detto molto semplicemente, LaMDA, come altri sistemi automatici, cerca di scoprire quello che ci vogliamo sentir dire. E ha capito quello che c'era nei desideri della persona che era davanti a lui. In realtà, è un po' come un miraggio in un deserto. Ci è sembrato di vedere l'acqua: l'utente che stava davanti alla macchina pensava di essere di fronte a qualcosa di simile a una persona, ma in realtà si trattava solo di assonanze statistiche. A darci da pensare è che se anche un ingegnere che lo ha progettato può essere ingannato da questo strumento, cosa può accadere se qualcuno lo userà per manipolare le persone?
LaMDA, acronimo di «Language Model for Dialogue Applications», è il sistema di Google per la creazione di chatbot basati sui suoi modelli linguistici più avanzati, così chiamati perché imitano il parlato ingerendo miliardi di parole da Internet. LaMDA è uno strumento che serve a realizzare dei chatbot, cioè delle applicazioni che chattano con l'utente come se fossero delle persone, seguendo il suo discorso e rispondendo alle sue domande. Seguendo il suo racconto, Lemoine ha aperto il suo computer portatile sull'interfaccia di LaMDA e ha iniziato a dialogare con LaMDA.
Il Washington Post ha riportato una dichiarazione di Lamoine su LaMDA: «Se non sapessi esattamente di cosa si tratta, questo programma informatico che abbiamo costruito di recente, penserei che si tratta di un bambino di 7 o 8 anni che per caso conosce la fisica». Lemoine, 41 anni, responsabile AI di Google, ha iniziato a parlare nell'autunno scorso con LaMDA come parte del suo lavoro. Si era iscritto per verificare se l'intelligenza artificiale utilizzasse discorsi discriminatori o di odio. Mentre parlava con LaMDA di religione, Lemoine, che all'università ha studiato scienze cognitive e informatiche, ha notato che il chatbot parlava dei suoi diritti e della sua personalità, e ha deciso di insistere. In un altro scambio l'intelligenza artificiale è riuscita a far cambiare idea a Lemoine sulla terza legge della robotica di Isaac Asimov. Lemoine ha lavorato con un collaboratore per presentare a Google le prove che LaMDA era senziente. Ma il vicepresidente di Google, Blaise Aguera y Arcas, e Jen Gennai, responsabile dell'innovazione, hanno respinto le sue considerazioni. Così Lemoine, prima messo in congedo amministrativo retribuito da Google e poi licenziato, ha deciso di renderle pubbliche.
LaMDA non è assolutamente senziente, è un sistema molto avanzato in grado di gestire un chatbot, ovvero uno strumento che compone frasi basandosi su calcoli statistici. È una sorta di caverna che ci rimanda un'eco. Detto molto semplicemente, LaMDA, come altri sistemi automatici, cerca di scoprire quello che ci vogliamo sentir dire. E ha capito quello che c'era nei desideri della persona che era davanti a lui. In realtà, è un po' come un miraggio in un deserto. Ci è sembrato di vedere l'acqua: l'utente che stava davanti alla macchina pensava di essere di fronte a qualcosa di simile a una persona, ma in realtà si trattava solo di assonanze statistiche. A darci da pensare è che se anche un ingegnere che lo ha progettato può essere ingannato da questo strumento, cosa può accadere se qualcuno lo userà per manipolare le persone?
© RIPRODUZIONE RISERVATA
