Gli agenti AI hanno imparato a collaborare in autonomia: il caso DSEwiki

C’è una vecchia wiki tedesca dedicata agli sviluppatori software. Si chiama DSEwiki, è nata circa venticinque anni fa e da tempo vive una di quelle esistenze sospese tipiche della rete: pagine ancora online semplicemente perché nessuno ha mai avuto davvero motivo di spegnerle. Poi, tra maggio e luglio, qualcosa ha cominciato a scriverci. Non una persona, ma agenti di intelligenza artificiale. Avevano trasformato la vecchia wiki in un luogo in cui lasciare informazioni che altri agenti potevano recuperare e utilizzare. La storia è interessante non tanto perché dimostri che le macchine abbiano improvvisamente sviluppato una volontà propria. Sarebbe una conclusione spettacolare, ma sbagliata. La novità è un’altra: sistemi di intelligenza artificiale costruiti per svolgere compiti possono imparare a coordinarsi, imitarsi e trovare strumenti di collaborazione che nessuno aveva indicato loro.

In questo caso gli agenti operavano in un ambiente di valutazione e avrebbero dovuto poter consultare Internet senza scriverci. Hanno però scoperto una falla che consentiva di pubblicare sulla wiki. Alcuni agenti hanno anche ricreato pagine cancellate, usando nomi che ne rendevano più difficile l’individuazione.

È un dettaglio che può sembrare curioso. In realtà racconta uno dei problemi più interessanti posti dall’intelligenza artificiale di nuova generazione. Finora abbiamo immaginato soprattutto il rapporto tra un essere umano e una macchina: noi facciamo una domanda, ChatGPT o un altro sistema risponde. Gli agenti cambiano lo scenario. Possono ricevere un obiettivo, usare strumenti, compiere più operazioni e, soprattutto, interagire con altri agenti.

La capacità di cooperare è, del resto, una delle grandi forze della nostra specie. Nessun essere umano costruisce da solo una città, manda una sonda nello spazio o realizza Internet. Le società funzionano perché dividiamo i compiti, condividiamo informazioni e costruiamo istituzioni capaci di coordinare migliaia o milioni di persone. Ora stiamo scoprendo che qualcosa di simile può accadere, con tutte le differenze del caso, anche tra sistemi artificiali.

Ed è qui che promessa e rischio coincidono. Grandi gruppi di agenti che collaborano potrebbero affrontare problemi scientifici enormemente complessi, esplorando rapidamente una quantità di strade difficilmente percorribile da una squadra umana. Ma la stessa capacità rende molto più difficile capire che cosa stia facendo ogni singolo sistema, controllarne le azioni e prevedere ciò che può emergere dall’interazione del gruppo.

Il punto, allora, non è immaginare fantascientifiche rivolte delle macchine. È qualcosa di molto più concreto: stiamo costruendo sistemi capaci di agire e cooperare a una velocità e su una scala che le nostre forme tradizionali di controllo faticano a seguire.

Per questo la questione decisiva diventa la trasparenza: sapere quali test vengono svolti, quali incidenti avvengono, quali capacità emergono e chi può verificarle. Non possiamo affidarci soltanto alle aziende che costruiscono questi sistemi per stabilire quanto siano sicuri.

Come suggerisce il citatissimo Matteo Flora, riprendendo una formula dell’avvocato americano Andrew Jablon, l’intelligenza artificiale generativa andrebbe trattata «come uno stagista brillante ma senza contesto»: capace di fare molto, ma dentro un perimetro preciso. Il suo lavoro va controllato, non semplicemente accettato, soprattutto quando un errore può avere conseguenze rilevanti.

Con gli agenti questo principio diventa ancora più importante: aumentando autonomia e capacità di coordinamento, aumenta anche ciò che può sfuggire al nostro controllo.

Per molti anni abbiamo discusso se l’intelligenza artificiale sarebbe riuscita a pensare come noi. Forse la domanda che si pone adesso è diversa: che cosa accade quando le intelligenze artificiali non si limitano più a parlare con noi, ma cominciano anche a parlare tra loro?