IA e medicina: crescono le prestazioni, non la fiducia

Nature Biomedical Engineering ha dedicato il numero di agosto a uno sguardo critico sull’Intelligenza artificiale in medicina. Non un pamphlet luddista, ma dodici articoli di ricerca che convergono su un punto scomodo: gli strumenti di AI proliferano, le prove che migliorino davvero la vita dei pazienti restano scarse.

Il dato più istruttivo non riguarda le prestazioni. I modelli fondazionali, scrivono Jia Wu e colleghi, «eccellono nel riconoscimento di pattern, ma arrancano nel ragionamento causale e nella robustezza». Tradotto: un algoritmo può individuare un’ombra su una Tac del torace con precisione superiore a quella di un radiologo esperto, eppure non sa perché quell’ombra è lì. Riconosce la forma, non la ragione. E la medicina, da Ippocrate in poi, è essenzialmente una scienza delle ragioni.

Qui si apre la frattura che l’editoriale coglie con lucidità: la differenza tra prestazione e fiducia. «La prestazione da sola è insufficiente per la fiducia clinica», avvertono i curatori. Un medico non affida il proprio paziente a un sistema che non sa spiegare se stesso, per la stessa ragione per cui un pilota non si fida di uno strumento che dà numeri giusti senza indicare come li ha ottenuti. Nella cura la trasparenza non è un lusso: è una condizione di legittimità.

Nessuno dei ricercatori coinvolti propone di fermare le macchine. Il punto è un altro: la medicina è un atto relazionale prima che computazionale. La diagnosi non è soltanto la classificazione corretta di un’immagine: è il momento in cui un essere umano fragile si affida a un altro essere umano che sa. Quando quell’atto di fiducia viene delegato a una scatola nera ciò che si perde non è l’efficienza. È il senso.

Il focus issue indica anche una via d’uscita. Hong-Yu Zhou e colleghi descrivono un modello di “ragionamento medico” in cui il clinico resta nel ciclo decisionale come interlocutore attivo dell’algoritmo, non come supervisore residuale. Bin Sheng propone un’intelligenza neuro-simbolica che integri dati empirici e ragionamento formale. Sono tentativi di costruire strumenti che non sostituiscano il giudizio ma lo potenzino.

La lezione per chi governa e per chi cura è la stessa: l’Intelligenza artificiale in medicina non va valutata sulla base di quanto è accurata ma sulla base di quanto è comprensibile ed equa, di quanto si integra nel rapporto di cura. «L’IA non sostituirà i medici», conclude l’editoriale, ma dovrà offrire «strumenti solidi, integrati nei flussi di lavoro clinico, capaci di fornire consigli ragionati e migliorare gli esiti». Solidi – non soltanto brillanti.

Siamo a un bivio che non è tecnico ma antropologico. Possiamo costruire macchine che sanno sempre di più e capiscono sempre di meno, oppure possiamo pretendere che ogni algoritmo che entra in una corsia d’ospedale porti con sé una ragione, non soltanto una risposta.