“L’intelligenza artificiale (AI) non deve diffondere l’illusione di una medicina infallibile. L’incertezza è parte integrante del processo diagnostico, e non deve essere trascurata”. Oltre alle voci entusiaste che accolgono con grandi speranze l’intelligenza artificiale in ambito medico, ci sono anche quelle di esperti del settore che invitano alla prudenza e a valutare i pro e i contro di questa innovazione tecnologica. Per Federico Cabitza, professore di Interazione Uomo-Macchina all’Università Milano-Bicocca e ricercatore all’Istituto Ortopedico Galeazzi (IRCCS), l’Ai ha effetti collaterali – dal punto di vista etico – che non vanno sottovalutati, come del resto ha recentemente sottolineato anche un articolo pubblicato sul New England Journal of Medicine da un gruppo di ricerca della Stanford University School of Medicine, negli USA. “È necessario alimentare il dibattito pubblico su questi temi”, continua Cabitza, “per sviluppare una riflessione su come queste tecnologie devono essere applicate”.
Professor Cabitza, quali rischi si nascondono dietro l’utilizzo dell’AI in medicina? “Per i medici l’AI elabora grandi quantità di dati presi dalla letteratura scientifica su una determinata malattia o su una terapia e offre loro ipotesi di diagnosi e cura: si tratta del cosiddetto machine learning. La relativa facilità di risposta delle macchine, a lungo andare, può indebolire le competenze dei medici, costruite e consolidate attraverso la pratica, e diminuire le loro capacità decisionali. Si può creare infatti una situazione di dipendenza tra uomo e macchina che può compromettere la qualità del lavoro del medico. Inoltre bisogna anche considerare che i dati elaborati dalle macchine sono molto rigidi, codificati più o meno arbitrariamente sulla base di indicazioni di uno o più osservatori. Mentre la realtà della pratica medica è ben diversa, condizionata da una intrinseca incertezza dei fenomeni osservati”.
Ma molti studi dimostrano che la capacità di diagnosi delle macchine è maggiore di quella umana. Perché non fidarsi? “È sbagliato valutare l’attendibilità di questi sistemi sul confronto tra il numero di diagnosi identificate dalla macchina e dal medico. Bisogna liberarsi dalla suggestione della sfida uomo-macchina a cui ci hanno abituati i colossi dell’informatica come IBM e Google. La medicina è spesso un lavoro di squadra tra specialisti diversi. Bisogna quindi finanziare studi clinici che confrontino le performance di team di specialisti che si avvalgono delle indicazioni fornite dall’AI a quelle di singoli individui o team che non sono supportati da queste tecnologie. Dobbiamo cercare risposte a queste domande: l’utilizzo dell’AI riduce la mortalità, il rischio di complicanze e migliora la qualità della vita dei pazienti? Ad oggi non abbiamo raccolto evidenze scientifiche in questo senso, per questo serve cautela”.
Quali sono allora i benefici di queste tecnologie? “Indubbiamente avere la possibilità di analizzare grandi quantità di dati, sia delle cartelle cliniche che degli studi disponibili, è un vantaggio enorme per il medico. Le macchine non hanno rivali in questo. Ma l’AI deve essere concepita come una parte di un processo di valutazione e cura che coinvolge i medici, i pazienti e una comunità allargata di persone competenti. L’AI è uno strumento in più che si può utilizzare, ma che non sostituisce davvero nessuno”.
Queste tecnologie stimoleranno anche un cambiamento nella formazione dei medici? “Sicuramente sì, ed è necessario che questo accada. I medici dovranno imparare a usare criticamente i risultati forniti dalle macchine e a comprendere l’importanza della qualità dei dati che vengono forniti ai loro “assistenti virtuali”. Ma dovranno cambiare anche i programmatori e i progettisti di queste nuove tecnologie, soprattutto nella loro capacità di comprendere, modellare e gestire l’incertezza dei dati sanitari. Servono dei progettisti informatici che, se lavorano in sanità, siano un po’ medici e dei medici che siano un po’ più informatici”.
Cosa sta facendo l’Italia su questo argomento? “L’Agenzia per il digitale (Agid) della Presidenza del Consiglio ha creato la task force sull’Intelligenza Artificiale, ma sono ancora pochi gli esperti del settore che partecipano, soprattutto per il tema della interazione uomo-macchina e della valutazione delle tecnologie sanitarie. Attualmente sono le grandi aziende private come Google, Amazon e IBM che si stanno muovendo di più in questo ambito. Ma se vogliamo valutare l’effettivo impatto dell’AI in medicina in modo neutrale e indipendentemente la ricerca deve essere finanziata dalle istituzioni pubbliche. Solo così i governi possono orientare l’avanzamento tecnologico al reale miglioramento della vita delle persone”.
Articolo prodotto nell’ambito del Master SGP di Sapienza Università di Roma
