Intelligenza Artificiale in Medicina: Le Promesse, le Insidie e Cosa Dovrebbero Sapere i Pazienti

Indice dei Contenuti

• Punti Chiave
• Perché Questa Ricerca è Importante
• Un Secolo di Statistica in Medicina
• Come Apprende l'IA: Il Potere del Rilevamento Automatico dei Modelli
• Previsione vs. Comprensione: Due Obiettivi Diversi
• L'IA Funzionerà nel Mondo Reale? Generalizzabilità e Interpretazione
• Mantenere l'IA Onesta: Stabilità e Garanzie Statistiche
• Quando l'IA Sbaglia: Pregiudizi nel Mondo Reale
• Cosa Significa Questo per i Pazienti
• Limiti di Questa Revisione
• Raccomandazioni per il Futuro
• Domande Frequenti
• Informazioni sulla Fonte

Punti Chiave

• L'IA è già utilizzata in medicina per mammografie, previsione del rischio di malattia e cartelle cliniche elettroniche, ma presenta vulnerabilità statistiche.
• La scoperta automatizzata di modelli dell'IA può amplificare pregiudizi nascosti; un algoritmo applicato a 200 milioni di americani ha discriminato i pazienti neri.
• I modelli di IA sono spesso difficili da interpretare e verificare, e richiedono trasparenza e supervisione umana per un uso medico sicuro.
• Esiste un divario tra la capacità dell'IA di prevedere gli esiti individuali e la comprensione della malattia nella popolazione più ampia.
• Per un uso responsabile dell'IA si raccomandano la pubblicazione del codice, piani di analisi predefiniti, la combinazione dell'IA con la statistica convenzionale e il giudizio umano.

Perché questa ricerca è importante

L'intelligenza artificiale non è più un concetto lontano in ambito sanitario: è già qui. I sistemi di IA vengono utilizzati per leggere le mammografie, prevedere il rischio di malattia, analizzare le cartelle cliniche elettroniche e persino assistere nella stesura di note mediche. Ma come facciamo a sapere che questi sistemi sono sicuri, accurati ed equi?

Questo articolo di revisione, scritto da David J. Hunter, M.B., B.S., del Nuffield Department of Population Health dell'Università di Oxford, e Christopher Holmes, Ph.D., del Department of Statistics e dell'Alan Turing Institute di Londra, affronta una domanda cruciale: cosa succede quando il mondo rigoroso della statistica medica incontra il mondo potente ma spesso opaco dell'intelligenza artificiale?

Gli autori descrivono un paradosso fondamentale. La capacità dell'IA di scoprire automaticamente modelli in enormi set di dati la rende uno strumento di ricerca medica incredibilmente prezioso, ma le stesse caratteristiche la rendono statisticamente vulnerabile. Le tecniche adeguate per la pubblicità mirata rivolta a elettori o consumatori potrebbero non soddisfare le rigorose esigenze della previsione del rischio o della diagnosi in medicina. Questo articolo esplora tale tensione e cosa significa per il futuro dell'assistenza al paziente.

Un secolo di statistica in medicina

La statistica è emersa come disciplina distinta intorno all'inizio del XX secolo. Durante questo periodo sono stati sviluppati concetti fondamentali che avrebbero trasformato la ricerca medica, tra cui l'uso della randomizzazione negli studi clinici, la verifica di ipotesi, l'inferenza basata sulla verosimiglianza, i valori P e l'analisi bayesiana e la teoria delle decisioni.

La statistica divenne rapidamente essenziale per le scienze applicate. Infatti, nel 2000, i redattori del New England Journal of Medicine citarono "l'applicazione della statistica alla medicina" come uno degli 11 sviluppi più importanti della scienza medica negli ultimi 1000 anni.

Quindi, cos'è esattamente la statistica? Gli autori la definiscono come il ragionamento con informazioni incomplete: l'interpretazione rigorosa e la comunicazione dei risultati scientifici derivanti dai dati. La statistica comprende la determinazione del disegno ottimale degli esperimenti e la quantificazione accurata dell'incertezza sulle conclusioni, il tutto espresso attraverso il linguaggio della probabilità.

Ora, nel XXI secolo, l'intelligenza artificiale è emersa come una nuova potente forza nella ricerca medica. Questo sviluppo è guidato, in parte, da enormi espansioni della potenza di calcolo e della disponibilità di dati, ma con questi progressi sorgono nuove sfide statistiche che questa revisione si propone di affrontare.

Come apprende l'IA: la potenza del rilevamento automatico di modelli

L'approccio tradizionale: statistica manuale

La modellazione statistica tradizionale si basa su un'attenta selezione manuale delle misurazioni e delle caratteristiche dei dati da includere in un'analisi. Ad esempio, uno statistico deve decidere quali covariate (fattori che potrebbero influenzare l'esito) includere in un modello di regressione, un metodo statistico che esamina le relazioni tra le variabili. Deve inoltre determinare quali trasformazioni o standardizzazioni delle misurazioni sono necessarie.

Le tecniche semiautomatiche di riduzione dei dati, come le foreste casuali e la regressione stepwise con selezione in avanti o all'indietro, hanno assistito gli statistici in questo processo di selezione per decenni. In questo quadro tradizionale, le ipotesi e le caratteristiche del modello sono tipicamente esplicite e il numero di parametri nel modello è solitamente noto.

La rivoluzione dell'IA: apprendimento automatico delle caratteristiche

Probabilmente l'aspetto più impressionante e distintivo dell'IA è la sua capacità automatizzata di cercare ed estrarre caratteristiche arbitrarie, complesse e orientate al compito dai dati, un processo chiamato apprendimento della rappresentazione delle caratteristiche. Le caratteristiche vengono ingegnerizzate algoritmicamente dai dati durante una fase di addestramento per scoprire trasformazioni dei dati corrette per il compito di apprendimento.

Gli algoritmi di IA eliminano in gran parte la necessità per gli analisti di pre-specificare le caratteristiche o curare manualmente le trasformazioni delle variabili. Ciò è particolarmente vantaggioso in domini di dati ampi e complessi come:

• Analisi delle immagini (come mammografie o vetrini patologici)
• Genomica (lo studio dell'insieme completo dei geni di un organismo)
• Modellizzazione delle cartelle cliniche elettroniche (versioni digitali delle storie mediche dei pazienti)

I modelli di intelligenza artificiale possono cercare attraverso potenzialmente miliardi di trasformazioni non lineari delle covariate per ridurre un gran numero di variabili a un insieme più piccolo di caratteristiche adattate al compito. In modo alquanto paradossale, aumentare la complessità di un modello di intelligenza artificiale tramite parametri aggiuntivi — che è ciò che accade nell'apprendimento profondo — aiuta effettivamente il modello a trovare insiemi di caratteristiche interne più ricchi, a condizione che i metodi di addestramento siano adeguatamente personalizzati.

Il lato oscuro del paradosso

Ecco il problema: le caratteristiche che gli ingegneri di intelligenza artificiale creano sono spesso oltre la portata di ciò che gli esseri umani possono creare, ed è per questo che l'intelligenza artificiale offre prestazioni così impressionanti. Ma quelle stesse caratteristiche sono spesso difficili da interpretare, sono fragili (inclini a rompersi) quando i dati cambiano e mancano di buon senso quando si tratta di utilizzare conoscenze di base e controlli qualitativi che gli statistici applicano di routine.

I modelli di intelligenza artificiale spesso non sono in grado di tracciare la linea delle prove dai dati alle caratteristiche, rendendo difficile la verificabilità e la verifica. Ciò significa che sono necessari maggiori controlli ed equilibri per garantire la validità e la generalizzabilità dei risultati scientifici resi possibili dall'intelligenza artificiale.

Gli autori commentano anche brevemente il campo emergente dell'intelligenza artificiale generativa, come i modelli linguistici di grandi dimensioni e i chatbot medici che potrebbero essere utilizzati per la stesura di note mediche nelle cartelle cliniche elettroniche. Questi "modelli di base" utilizzano l'apprendimento auto-supervisionato su enormi quantità di dati di addestramento non documentati, con funzioni obiettivo addestrate utilizzando trilioni di parametri (al momento della stesura). Si tratta di un netto contrasto con l'apprendimento "supervisionato", in cui i dati di addestramento sono noti ed etichettati in base agli esiti clinici e l'obiettivo di addestramento è chiaro e mirato. Data l'opacità di questi modelli generativi, gli autori raccomandano particolare cautela per le applicazioni sanitarie.

Previsione vs. comprensione: due obiettivi diversi

L'intelligenza artificiale è particolarmente adatta a — e in gran parte progettata per — compiti di previsione su larga scala. L'obiettivo di addestramento è chiaro e l'accuratezza predittiva è di solito ben caratterizzata. Un buon esempio è la previsione del rischio di malattia.

Tuttavia, l'obiettivo finale della maggior parte degli studi medici non è esplicitamente prevedere il rischio. Piuttosto, è comprendere un meccanismo biologico o una causa di malattia nella popolazione più ampia, oppure contribuire allo sviluppo di nuove terapie. Gli autori sottolineano che esiste un divario di evidenza tra un buon modello predittivo che opera a livello individuale e la capacità di formulare affermazioni inferenziali sulla popolazione.

La statistica si occupa principalmente dell'inferenza sulla popolazione, ovvero generalizzare le evidenze di uno studio a un'ipotesi scientifica sulla popolazione più ampia. La previsione è un compito importante ma più semplice; l'inferenza scientifica ha spesso una maggiore influenza sulla comprensione meccanicistica.

Come osservò Ippocrate secoli fa: "È più importante sapere che tipo di persona ha una malattia che sapere che tipo di malattia ha una persona."

Un esempio reale: la pandemia di Covid-19

Durante la pandemia di Covid-19, sono stati sviluppati vari strumenti di previsione per determinare se una persona avesse un'infezione da SARS-CoV-2 (il virus che causa il Covid-19). Tuttavia, passare dalla previsione individuale alla comprensione della prevalenza nella popolazione — e identificare quali sottogruppi della popolazione fossero a rischio più elevato — si è rivelato molto più difficile.

Come misuriamo l'accuratezza predittiva?

Un'ulteriore sfida è che esistono molti modi per misurare e riportare l'accuratezza predittiva, tra cui:

• Area sotto la curva delle caratteristiche operative del ricevitore (una misura di quanto bene un test distingue tra gruppi)
• Precisione e richiamo (misure di esattezza e completezza)
• Errore quadratico medio (media dei quadrati degli errori)
• Valore predittivo positivo (probabilità che un risultato positivo del test sia corretto)
• Tasso di errata classificazione (quanto spesso il modello fornisce la risposta sbagliata)
• Indice di riclassificazione netto (se un nuovo modello migliora la classificazione)
• Punteggio di probabilità logaritmica (una misura della confidenza della previsione)

Scegliere la misura appropriata per il contesto è di vitale importanza, perché l'accuratezza in una misura potrebbe non tradursi in accuratezza in un'altra—e potrebbe non essere correlata a una misura clinicamente significativa di prestazione o sicurezza.

Al contrario, gli obiettivi inferenziali per le statistiche di popolazione tendono a essere meno ambigui, e l'incertezza è chiaramente caratterizzata utilizzando valori P, intervalli di confidenza e intervalli credibili. Anche così, modelli di previsione AI robusti e accurati indicano che segnali ripetibili e associazioni stabili nei dati meritano ulteriori indagini.

Apprendimento automatico causale: dove AI e statistica si incontrano

Un interessante punto di incontro tra i metodi di previsione dell'AI e l'inferenza statistica è l'apprendimento automatico causale, che presta particolare attenzione alle quantità inferenziali. Adottando modelli causali strutturali o quadri di esiti potenziali—con strumenti come i grafi aciclici diretti (diagrammi che mostrano relazioni di causa ed effetto)—i ricercatori possono utilizzare la conoscenza del dominio per ridurre la probabilità che un modello di AI commetta errori. Questi errori includono la specificazione errata della relazione temporale tra esposizione ed esito, il condizionamento su una variabile causata sia dall'esposizione sia dalla malattia (un "collider"), o l'evidenziazione di associazioni spurie (come un effetto batch in uno studio sui biomarcatori).

I metodi di inferenza causale possono anche essere applicati all'AI per aiutare a interpretare immagini radiologiche o patologiche e per supportare il processo decisionale clinico e la diagnosi. Tuttavia, gli autori sottolineano che il giudizio umano sarà probabilmente necessario nel prossimo futuro, se non altro perché diversi algoritmi di AI potrebbero presentarci conclusioni diverse. Inoltre, l'analisi causale da dati osservazionali richiede assunzioni che vanno oltre ciò che può essere appreso dai soli dati—per evitare distorsioni da accertamento, mediazione e confondimento.

L'AI funzionerà nel mondo reale? Generalizzabilità e interpretazione

Una delle sfide più grandi nell'interpretare i risultati dell'AI è che gli algoritmi per la rappresentazione interna delle caratteristiche sono progettati per adattare automaticamente la loro complessità al compito da svolgere, con una flessibilità quasi infinita in alcuni approcci.

Questa flessibilità è un grande punto di forza—ma richiede anche attenzione per evitare l'overfitting, che si verifica quando un modello apprende il rumore e le peculiarità casuali dei suoi dati di addestramento così bene da avere prestazioni scadenti su dati nuovi e mai visti.

I limiti delle garanzie statistiche tradizionali

L'uso della regolarizzazione (tecniche che prevengono l'overfitting penalizzando la complessità del modello) e l'ottimizzazione stocastica controllata dei parametri del modello durante l'addestramento possono aiutare a prevenire l'overfitting. Ma queste tecniche significano anche che gli algoritmi di AI hanno nozioni mal definite di gradi di libertà statistici e del numero di parametri liberi. Le garanzie statistiche tradizionali contro l'eccessivo ottimismo non possono essere utilizzate nel contesto dell'AI.

Invece, i ricercatori devono sostituire tecniche come la convalida incrociata e i campioni tenuti da parte per simulare la vera prestazione fuori campione. Il compromesso è che la quantità di dati disponibili per la scoperta si riduce. Nel complesso, questi fattori creano un rischio reale di sovrainterpretare la generalizzabilità e la riproducibilità dei risultati.

Un esempio notevole: AI e screening del cancro al seno

Gli autori evidenziano un caso ben noto che riguarda uno studio di McKinney et al. sull'uso dell'AI per prevedere il cancro al seno sulla base delle mammografie. Lo studio ha mostrato un alto potenziale dell'AI nello screening del cancro al seno. Tuttavia, Haibe-Kains e colleghi hanno pubblicamente chiesto maggiore trasparenza, affermando: "Nel loro studio, McKinney et al. hanno mostrato l'alto potenziale dell'AI per lo screening del cancro al seno. Tuttavia, la mancanza di dettagli sui metodi e sul codice dell'algoritmo ne compromette il valore scientifico."

Questo illustra perché una chiara rendicontazione dei risultati e la disponibilità del codice sono essenziali per la replicazione esterna e il perfezionamento da parte di altri gruppi di ricerca—sebbene ciò possa essere limitato dalla tendenza a cercare diritti di proprietà intellettuale per i prodotti commerciali di AI.

Usare l'AI per ridurre i big data

Gli approcci di AI possono essere utili per ridurre un set di dati con un numero molto elevato di caratteristiche—come i set di dati "-omici" (metabolomici, proteomici o genomici)—in un numero minore di caratteristiche che possono poi essere testate con metodi statistici convenzionali.

I metodi di AI più diffusi che forniscono classifiche di "rilevanza delle caratteristiche" delle covariate includono:

• Foreste casuali (un insieme di alberi decisionali)
• XGBoost (un algoritmo di potenziamento del gradiente)
• Alberi di regressione additivi bayesiani

Metodi statistici come il least absolute shrinkage and selection operator (LASSO) utilizzano la selezione esplicita delle variabili come parte dell'adattamento del modello. La riduzione delle caratteristiche aiuta l'analista umano a esaminare i dati in modo più efficace e ad applicare vincoli basati su conoscenze pregresse dell'argomento. Ad esempio, un ricercatore potrebbe sapere che la caratteristica A è spesso confusa dalla caratteristica X, o che un periodo di latenza di diversi anni tra l'esposizione alla caratteristica A e l'esito della malattia significa che non ci si aspetta alcuna relazione nel follow-up precoce.

IA vs. Statistica Convenzionale: un Confronto Fianco a Fianco

L'articolo fornisce un confronto dettagliato tra i metodi di IA e la statistica convenzionale. Le differenze chiave includono:

• Ipotesi a priori: l'IA è agnostica o molto generica riguardo alle ipotesi; la statistica convenzionale specifica le ipotesi come primarie, secondarie o esplorative.
• Tecniche: l'IA utilizza foreste casuali, reti neurali e XGBoost; la statistica convenzionale utilizza confronti parametrici e non parametrici, regressione e modelli di sopravvivenza con predittori lineari.
• Stabilità: le analisi di IA sono più inclini all'instabilità a causa dei domini applicativi e delle scelte dell'utente nella specifica dell'algoritmo; la statistica convenzionale segue un piano di analisi predefinito con scelte minime definite dall'utente.
• Applicazioni: l'IA eccelle con immagini, output di monitor, cartelle cliniche elettroniche ed elaborazione del linguaggio naturale; la statistica convenzionale è adatta a dati con meno predittori, dati tabulari e studi randomizzati.
• Scopo: l'IA si concentra sulla scoperta di pattern, la rappresentazione automatica delle caratteristiche, la riduzione delle caratteristiche e la previsione; la statistica convenzionale si concentra sull'inferenza, il test di fattori specifici, il controllo dei fattori confondenti e la quantificazione dell'incertezza.
• Riproducibilità: l'IA spesso fornisce riproducibilità interna (convalida incrociata o campioni divisi); la statistica convenzionale idealmente fornisce riproducibilità esterna con nuovi dati.
• Ostacoli: l'IA affronta algoritmi proprietari non disponibili ad altri ricercatori e una rendicontazione poco chiara; la statistica convenzionale affronta lenti progressi nella condivisione dei dati primari.
• Interpretabilità: l'IA è spesso una scatola nera; la statistica convenzionale ha caratteristiche esplicite e chiari gradi di libertà.
• Equità: l'apprendimento delle caratteristiche guidato dai dati dell'IA è suscettibile a distorsioni nei dati, aggravando le disuguaglianze sanitarie; i modelli di statistica convenzionale sono più facilmente verificabili per l'equità quando sono disponibili dati pertinenti.

Mantenere l'IA Onesta: Stabilità e Garanzie Statistiche

La scienza medica è un processo iterativo di osservazione e perfezionamento delle ipotesi—cicli di sperimentazione, analisi e congetture che portano a ulteriori esperimenti e, infine, a un livello di evidenza che confuta le teorie esistenti o supporta nuove terapie e raccomandazioni sullo stile di vita.

Gli studi randomizzati sui farmaci sperimentali sono stati storicamente tenuti a un elevato standard di rigore. Le preoccupazioni circa la sovrainterpretazione degli endpoint secondari e delle analisi per sottogruppi hanno portato a un'attenzione ancora maggiore sulla descrizione predefinita delle ipotesi primarie e sul controllo del familywise error rate (la probabilità di ottenere almeno un risultato falso positivo tra più test) per limitare i risultati falsi positivi.

I protocolli ora spesso specificano:

• Gli estimandi precisi (le quantità esatte che vengono misurate)
• I metodi di analisi che saranno utilizzati per ottenere i valori P
• Le covariate da controllare
• Anche le tabelle fittizie che verranno compilate una volta completati i dati

Le analisi negli studi osservazionali sono generalmente prespecificate in modo meno rigoroso, sebbene un piano di analisi statistica stabilito prima dell'inizio dell'analisi dei dati sia sempre più atteso come materiale supplementare nei rapporti pubblicati.

Il problema dell'IA: modelli senza prespecificazione

Gli approcci di IA spesso cercano modelli nei dati che non sono prespecificati, il che è uno dei loro punti di forza. Ma lo svantaggio è che il potenziale di risultati falsi positivi aumenta a meno che non vengano incorporate procedure rigorose per valutare la riproducibilità.

Sono state stabilite nuove linee guida e raccomandazioni per la segnalazione dell'IA nella scienza medica per garantire maggiore fiducia e generalizzabilità delle conclusioni. Gli autori notano inoltre che gli algoritmi di IA altamente adattivi ereditano tutti i pregiudizi e la non rappresentatività che potrebbero essere presenti nei dati di addestramento. Quando si utilizzano strumenti di previsione IA a scatola nera, può essere difficile giudicare se i segnali predittivi derivino da fattori confondenti dovuti a pregiudizi nascosti nei dati.

I metodi del campo dell'IA spiegabile (XAI) possono aiutare a contrastare l'apprendimento opaco della rappresentazione delle caratteristiche. Tuttavia, per le applicazioni in cui la sicurezza è una questione critica, la natura a scatola nera dei modelli di IA richiede un'attenta considerazione e giustificazione.

Quando l'IA sbaglia: pregiudizi nel mondo reale

Uno degli esempi più eclatanti di pregiudizio dell'IA nell'assistenza sanitaria proviene dalla ricerca di Obermeyer e colleghi. Il team ha descritto un algoritmo informato dall'IA che è stato applicato a una popolazione di 200 milioni di persone negli Stati Uniti ogni anno per identificare i pazienti a più alto rischio di sostenere costi sanitari sostanziali e indirizzarli a "programmi di gestione dell'assistenza ad alto rischio".

L'analisi ha suggerito che l'algoritmo ha discriminato involontariamente i pazienti neri. Il motivo? Ad ogni livello di spesa sanitaria ed età, i pazienti neri avevano più condizioni coesistenti rispetto ai pazienti bianchi. Poiché l'algoritmo è stato addestrato sulla spesa sanitaria come indicatore approssimativo dei bisogni di salute, e poiché fattori sistemici portano a una spesa inferiore per i pazienti neri anche quando sono più malati, l'algoritmo ha sistematicamente sottostimato i bisogni di salute dei pazienti neri.

Questo esempio illustra drammaticamente una preoccupazione centrale sollevata dagli autori: i sistemi di IA addestrati su dati del mondo reale possono perpetuare e persino amplificare le disuguaglianze esistenti nell'assistenza sanitaria.

Cosa significa questo per i pazienti

Per i pazienti, il messaggio è sia di speranza che di cautela. L'IA ha il potenziale di trasformare la medicina in modi potenti:

• Leggere e interpretare immagini mediche come le mammografie con elevata accuratezza
• Prevedere il rischio di malattia dalle cartelle cliniche elettroniche
• Analizzare dati genomici e altri dati "-omici" per scoprire i meccanismi delle malattie
• Ridurre enormi set di dati alle caratteristiche più rilevanti per le questioni cliniche

Ma i pazienti dovrebbero anche essere consapevoli dei limiti:

• I risultati dell'IA possono essere difficili da interpretare e verificare
• I modelli di IA potrebbero non generalizzarsi a popolazioni diverse da quelle su cui sono stati addestrati
• I pregiudizi nei dati di addestramento possono portare a risultati ingiusti o imprecisi per determinati gruppi
• La mancanza di trasparenza negli algoritmi commerciali rende più difficile la validazione indipendente

I pazienti possono farsi portavoce delle proprie esigenze ponendo domande su come l'IA viene utilizzata nella loro assistenza. La disponibilità delle istituzioni sanitarie a fornire risposte chiare sulla validazione, sui limiti e sulla supervisione degli strumenti di IA è un buon segno di un'implementazione responsabile.

Gli autori osservano che l'utilizzo di metodi di previsione statistica convenzionali insieme a metodi di IA interpretabili può aiutare a comprendere i segnali di previsione e può mitigare le associazioni prive di senso. Combinare il meglio di entrambi gli approcci, ovvero la potenza dell'IA nel gestire grandi quantità di dati e il rigore della statistica nell'interpretazione, è probabilmente la strada più sicura da percorrere.

Limiti di questa revisione

In quanto articolo di revisione piuttosto che studio di ricerca originale, questo documento sintetizza le conoscenze esistenti invece di presentare nuovi dati sperimentali. Gli autori riconoscono che i limiti di spazio hanno impedito una discussione dettagliata dell'importante area dell'IA e della progettazione sperimentale, e commentano solo brevemente l'area emergente dell'IA generativa e dei chatbot medici, senza fornire un approfondimento.

L'articolo riflette le prospettive di due ricercatori con sede nel Regno Unito, uno esperto di salute della popolazione a Oxford e uno di statistica e medicina a Oxford e all'Alan Turing Institute, e si basa ampiamente su esempi tratti dai contesti sanitari di Stati Uniti e Regno Unito. Il campo dell'IA in medicina si sta evolvendo rapidamente e alcuni dettagli specifici (come la scala dei modelli di base con trilioni di parametri) potrebbero cambiare rapidamente nel tempo.

Raccomandazioni per il futuro

Sulla base della loro analisi, gli autori offrono diverse raccomandazioni pratiche per gli scienziati medici e le istituzioni sanitarie:

1. Rilasciare tutto il codice. La condivisione del codice e la fornitura di dichiarazioni chiare sull'adattamento del modello e sui dati di controllo utilizzati per riportare l'accuratezza facilitano la valutazione esterna della riproducibilità.
2. Essere trasparenti sui dati. Una chiara rendicontazione dei risultati e la disponibilità del codice aumentano il potenziale di replica esterna e di perfezionamento da parte di altri gruppi.
3. Utilizzare piani di analisi predefiniti. Per gli studi osservazionali, ci si dovrebbe aspettare un piano di analisi statistica stabilito prima dell'analisi dei dati, proprio come avviene per gli studi randomizzati.
4. Combinare l'IA con i metodi convenzionali. L'utilizzo di metodi di previsione statistica tradizionali insieme a metodi di IA interpretabili può chiarire i segnali di previsione e mitigare le associazioni prive di senso.
5. Utilizzare saggiamente la riduzione delle caratteristiche. L'IA può ridurre i dati ad alta dimensionalità a un insieme più piccolo di caratteristiche che possono poi essere testate con la statistica convenzionale, consentendo agli analisti umani di applicare conoscenze specifiche della materia.
6. Mantenere la supervisione umana. Il giudizio umano sarà necessario per il prossimo futuro, soprattutto perché diversi algoritmi di IA possono presentare conclusioni diverse e l'inferenza causale richiede assunzioni che vanno oltre ciò che i soli dati possono rivelare.
7. Seguire le linee guida per la rendicontazione. Si stanno definendo nuove linee guida e raccomandazioni per la rendicontazione dell'IA nella scienza medica per garantire una maggiore fiducia e generalizzabilità delle conclusioni.
8. Valutare la riproducibilità interna. I dati dovrebbero essere suddivisi in set di scoperta e di test, e la generalizzabilità ad altri set di dati deve essere valutata attentamente.

Gli autori sottolineano che affrontare l'IA in medicina con il dovuto rigore e le opportune salvaguardie non è solo una questione tecnica: è essenziale per la sicurezza del paziente, l'integrità scientifica e l'equità sanitaria.

Come chiarisce l'impostazione dell'articolo, una tecnica che funziona per la pubblicità mirata o le previsioni meteorologiche potrebbe non soddisfare le rigorose esigenze della diagnosi medica e della previsione del rischio. La posta in gioco è semplicemente troppo alta.

Domande frequenti

Per cosa viene attualmente utilizzata l'intelligenza artificiale (IA) in medicina?

L'IA è già utilizzata in ambito sanitario per leggere le mammografie, prevedere il rischio di malattia, analizzare le cartelle cliniche elettroniche e assistere nella stesura di appunti medici. Può anche aiutare ad analizzare i dati genomici e a ridurre enormi set di dati alle caratteristiche più rilevanti per le questioni cliniche. Queste applicazioni mostrano il potenziale dell'IA, ma comportano importanti limitazioni da comprendere.

In che modo l'IA è diversa dalla statistica tradizionale nella ricerca medica?

La statistica tradizionale si basa su una selezione attenta e manuale di misurazioni e caratteristiche, con ipotesi di modellazione esplicite. L'IA ricerca automaticamente modelli in vasti set di dati, apprendendo le caratteristiche da sola. Questo rende l'IA potente per la previsione, ma può renderla difficile da interpretare, verificare e controllare per individuare distorsioni nascoste rispetto ai metodi statistici convenzionali.

L'IA può essere distorta o commettere errori in ambito sanitario?

Sì. Un algoritmo di IA del mondo reale applicato a 200 milioni di americani per identificare i pazienti ad alto rischio ha discriminato involontariamente i pazienti neri. Poiché è stato addestrato sulla spesa sanitaria, e fattori sistemici portano a una spesa inferiore per i pazienti neri anche quando sono più malati, ha sottostimato le loro esigenze di salute. L'IA può ereditare e amplificare le distorsioni esistenti nei dati di addestramento.

Perché è difficile verificare le decisioni dell'IA in medicina?

I modelli di IA spesso utilizzano l'apprendimento della rappresentazione interna delle caratteristiche, che crea caratteristiche difficili da interpretare e prive di buon senso. Spesso non sono in grado di tracciare la linea di evidenza dai dati alle caratteristiche, rendendo difficile la verificabilità e il controllo. Ecco perché trasparenza, rendicontazione chiara e supervisione umana sono essenziali quando l'IA viene utilizzata nella cura del paziente.

Cosa dovrebbero chiedere i pazienti riguardo all'IA utilizzata nella loro cura?

I pazienti possono chiedere come viene utilizzata l'IA nella loro cura, come è stata validata, quali sono i suoi limiti e chi la supervisiona. Un'istituzione sanitaria che fornisce risposte chiare su questi argomenti sta dimostrando un'implementazione responsabile. I pazienti dovrebbero anche essere consapevoli che i risultati dell'IA potrebbero non essere generalizzabili a popolazioni diverse e possono contenere distorsioni.

L'IA può essere utilizzata per comprendere le cause delle malattie, non solo per prevedere il rischio?

L'IA è particolarmente efficace nella previsione su larga scala, come la previsione del rischio di malattia. Tuttavia, comprendere i meccanismi della malattia nella popolazione più ampia è più difficile. Esiste un divario di evidenza tra la previsione degli esiti per un individuo e la formulazione di affermazioni inferenziali sulla popolazione. Combinare l'IA con la statistica convenzionale e il giudizio umano è la strada più sicura da percorrere.

Come si presenta il futuro dell'IA in medicina per i pazienti?

Il futuro riserva sia promesse che cautela. L'IA ha il potenziale per trasformare la medicina, ma i pazienti dovrebbero essere consapevoli dei limiti come la difficile interpretazione, la scarsa generalizzabilità e le distorsioni. Un'implementazione responsabile include il rilascio del codice, la trasparenza sui dati, l'uso di piani di analisi predefiniti e la supervisione umana. La combinazione dell'IA con i metodi convenzionali è probabilmente l'approccio più sicuro.

Dovrei richiedere un secondo parere se l'IA viene utilizzata nella mia diagnosi medica o nel mio piano di trattamento?

Sì, un secondo parere può essere prezioso quando gli strumenti di IA sono coinvolti nella sua cura. I sistemi di IA possono essere distorti, come dimostrato da un algoritmo che ha discriminato involontariamente i pazienti neri, e i loro risultati possono essere difficili da interpretare o verificare. Un secondo parere da parte di un esperto indipendente può aiutare a garantire che la sua diagnosi o il suo piano di trattamento siano accurati e appropriati, soprattutto se ha dubbi su come è stata utilizzata l'IA. Diagnostic Detectives Network fornisce secondi pareri indipendenti da esperti.

Informazioni sulla fonte

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

Questo articolo divulgativo per i pazienti si basa su ricerche sottoposte a revisione paritaria ed è inteso a scopo educativo. Non costituisce un consiglio medico.