L'intelligence artificielle en médecine : les promesses, les pièges et ce que les patients doivent savoir

Table des matières

• Points clés
• Pourquoi cette recherche est importante
• Un siècle de statistiques en médecine
• Comment l'IA apprend : la puissance de la détection automatisée de motifs
• Prédiction vs Compréhension : deux objectifs différents
• L'IA fonctionnera-t-elle dans le monde réel ? Généralisation et interprétation
• Garder l'IA honnête : stabilité et garanties statistiques
• Quand l'IA se trompe : les biais du monde réel
• Ce que cela signifie pour les patients
• Limites de cette revue
• Recommandations pour l'avenir
• Questions fréquemment posées
• Informations sur la source

Points clés

• L'IA est déjà utilisée en médecine pour les mammographies, la prédiction du risque de maladie et les dossiers médicaux électroniques, mais elle présente des vulnérabilités statistiques.
• La découverte automatisée de motifs par l'IA peut amplifier des biais cachés ; un algorithme appliqué à 200 millions d'Américains a discriminé les patients noirs.
• Les modèles d'IA sont souvent difficiles à interpréter et à vérifier, ce qui nécessite transparence et supervision humaine pour une utilisation médicale sûre.
• Il existe un écart entre la capacité de l'IA à prédire les résultats individuels et la compréhension des maladies au sein de la population générale.
• La publication du code, la présentation de plans d'analyse préspécifiés, la combinaison de l'IA avec les statistiques conventionnelles et le jugement humain sont recommandés pour une utilisation responsable de l'IA.

Pourquoi cette recherche est importante

L'intelligence artificielle n'est plus un concept lointain dans le domaine des soins de santé ; elle est déjà là. Des systèmes d'IA sont utilisés pour lire les mammographies, prédire le risque de maladie, analyser les dossiers médicaux électroniques et même assister à la prise de notes médicales. Mais comment savons-nous que ces systèmes sont sûrs, précis et équitables ?

Cet article de revue, rédigé par David J. Hunter, M.B., B.S., du Département de santé des populations Nuffield à l'Université d'Oxford, et Christopher Holmes, Ph.D., du Département de statistiques et de l'Institut Alan Turing à Londres, aborde une question cruciale : que se passe-t-il lorsque le monde rigoureux des statistiques médicales rencontre celui, puissant mais souvent opaque, de l'intelligence artificielle ?

Les auteurs décrivent un paradoxe fondamental. La capacité de l'IA à découvrir automatiquement des motifs dans d'énormes ensembles de données en fait un outil de recherche médicale incroyablement précieux, mais les mêmes caractéristiques la rendent statistiquement vulnérable. Des techniques adaptées à la publicité ciblée auprès des électeurs ou des consommateurs ne répondent peut-être pas aux exigences rigoureuses de la prédiction des risques ou du diagnostic en médecine. Cet article explore cette tension et ses implications pour l'avenir des soins aux patients.

Un siècle de statistiques en médecine

Les statistiques se sont imposées comme une discipline distincte au début du XXe siècle. Pendant cette période, des concepts fondamentaux ont été développés qui allaient transformer la recherche médicale, notamment l'utilisation de la randomisation dans les essais cliniques, le test d'hypothèses, l'inférence basée sur la vraisemblance, les valeurs P, ainsi que l'analyse bayésienne et la théorie de la décision.

Les statistiques sont rapidement devenues essentielles aux sciences appliquées. En fait, en 2000, les rédacteurs en chef du New England Journal of Medicine ont cité « L'application des statistiques à la médecine » comme l'un des 11 développements les plus importants dans les sciences médicales au cours des 1000 années précédentes.

Alors, qu'est-ce que les statistiques exactement ? Les auteurs les définissent comme un raisonnement avec des informations incomplètes : l'interprétation et la communication rigoureuses des résultats scientifiques à partir de données. Les statistiques incluent la détermination de la conception optimale des expériences et la quantification précise de l'incertitude concernant les conclusions, le tout exprimé par le langage des probabilités.

Aujourd'hui, au 21^e siècle, l'intelligence artificielle s'est imposée comme une nouvelle force puissante dans la recherche médicale. Ce développement est en partie alimenté par des augmentations considérables de la puissance informatique et de la disponibilité des données — mais ces avancées s'accompagnent de nouveaux défis statistiques que cette revue se propose d'aborder.

Comment l'IA apprend : la puissance de la détection automatique de motifs

L'approche traditionnelle : les statistiques manuelles

La modélisation statistique traditionnelle repose sur une sélection minutieuse et manuelle des mesures et des caractéristiques des données à inclure dans une analyse. Par exemple, un statisticien doit décider quels covariables (facteurs susceptibles d'influencer le résultat) inclure dans un modèle de régression, une méthode statistique qui examine les relations entre les variables. Il détermine également quelles transformations ou standardisations des mesures sont nécessaires.

Des techniques semi-automatisées de réduction des données telles que les forêts aléatoires et la régression par sélection étape par étape avant ou arrière ont assisté les statisticiens dans ce processus de sélection pendant des décennies. Dans ce cadre traditionnel, les hypothèses de modélisation et les caractéristiques sont généralement explicites, et le nombre de paramètres du modèle est habituellement connu.

La révolution de l'IA : l'apprentissage automatique des caractéristiques

L'aspect sans doute le plus impressionnant et distinctif de l'IA est sa capacité automatisée à rechercher et extraire arbitrairement des caractéristiques complexes et orientées vers une tâche à partir des données, un processus appelé apprentissage de la représentation des caractéristiques. Les caractéristiques sont conçues algorithmiquement à partir des données lors d'une phase d'entraînement afin de découvrir les transformations des données appropriées pour la tâche d'apprentissage.

Les algorithmes d'IA éliminent en grande partie le besoin pour les analystes de préspécifier les caractéristiques ou de curatoriser manuellement les transformations des variables. Cela est particulièrement bénéfique dans des domaines de données vastes et complexes tels que :

• L'analyse d'images (comme les mammographies ou les lames de pathologie)
• La génomique (l'étude de l'ensemble complet des gènes d'un organisme)
• Modélisation des dossiers de santé électroniques (versions numériques des antécédents médicaux des patients)

Les modèles d'IA peuvent parcourir potentiellement des milliards de transformations non linéaires de covariables pour réduire un grand nombre de variables à un ensemble plus restreint de caractéristiques adaptées à la tâche. De manière quelque peu paradoxale, l'augmentation de la complexité d'un modèle d'IA par l'ajout de paramètres supplémentaires — ce qui se produit dans l'apprentissage profond — aide en réalité le modèle à trouver des ensembles de caractéristiques internes plus riches, à condition que les méthodes d'apprentissage soient adaptées de manière appropriée.

Le côté sombre du paradoxe

Voici le problème : les caractéristiques que les ingénieurs en IA créent sont souvent au-delà de la portée de ce que les humains peuvent produire, ce qui explique pourquoi l'IA performe de manière si impressionnante. Mais ces mêmes caractéristiques sont souvent difficiles à interpréter, fragiles (susceptibles de se briser) lorsque les données changent, et dépourvues de bon sens lorsqu'il s'agit d'utiliser des connaissances contextuelles et des vérifications qualitatives que les statisticiens appliquent systématiquement.

Les modèles d'IA sont souvent incapables de retracer la chaîne de preuves reliant les données aux caractéristiques, ce qui rend l'auditabilité et la vérification difficiles. Cela signifie qu'un contrôle plus rigoureux est nécessaire pour garantir la validité et la généralisabilité des résultats scientifiques obtenus grâce à l'IA.

Les auteurs commentent également brièvement le domaine émergent de l'IA générative — tels que les grands modèles de langage et les chatbots médicaux qui pourraient être utilisés pour la prise de notes médicales dans les dossiers de santé électroniques. Ces « modèles fondamentaux » utilisent l'apprentissage auto-supervisé sur d'immenses quantités de données d'entraînement non documentées, avec des fonctions objectif entraînées à l'aide de milliers de milliards de paramètres (au moment de la rédaction). Cela contraste fortement avec l'apprentissage « supervisé », où les données d'entraînement sont connues et étiquetées en fonction des résultats cliniques, et l'objectif d'entraînement est clair et ciblé. Compte tenu de l'opacité de ces modèles génératifs, les auteurs exhortent à une prudence accrue pour les applications en santé.

Prédiction vs Compréhension : Deux objectifs différents

L'IA est particulièrement bien adaptée à — et largement conçue pour — des tâches de prédiction à grande échelle. L'objectif d'entraînement est clair, et la précision prédictive est généralement bien caractérisée. Un bon exemple est la prédiction du risque de maladie.

Cependant, l'objectif ultime de la plupart des études médicales n'est pas explicitement de prédire le risque. Il s'agit plutôt de comprendre un mécanisme biologique ou une cause de la maladie dans la population au sens large, ou d'aider au développement de nouvelles thérapies. Les auteurs soulignent qu'il existe un écart de preuves entre un bon modèle prédictif qui opère au niveau individuel et la capacité de formuler des déductions inférentielles concernant la population.

Les statistiques se concentrent principalement sur l'inférence de population — généraliser les preuves d'une étude à une hypothèse scientifique concernant la population plus large. La prédiction est une tâche importante mais plus simple ; l'inférence scientifique a souvent une influence plus grande sur la compréhension mécanistique.

Comme l'a observé Hippocrate il y a des siècles : « Il est plus important de savoir quelle sorte de personne a une maladie que de savoir quelle sorte de maladie une personne a. »

Un exemple concret : la pandémie de Covid-19

Pendant la pandémie de Covid-19, divers outils de prédiction ont été développés pour déterminer si une personne était infectée par le SARS-CoV-2 (le virus qui cause la Covid-19). Cependant, passer de la prédiction individuelle à la compréhension de la prévalence dans la population — et identifier quels sous-groupes de la population étaient à risque plus élevé — s'est révélé beaucoup plus difficile.

Comment mesure-t-on la précision prédictive ?

Un défi supplémentaire est qu'il existe de nombreuses façons de mesurer et de rapporter la précision prédictive, notamment :

• Aire sous la courbe caractéristique de fonctionnement du récepteur (une mesure de la capacité d'un test à distinguer les groupes)
• Précision et rappel (mesures d'exactitude et de complétude)
• Erreur quadratique moyenne (moyenne des carrés des erreurs)
• Valeur prédictive positive (probabilité qu'un résultat de test positif soit correct)
• Taux de mauvaise classification (fréquence à laquelle le modèle se trompe de réponse)
• Indice de reclassement net (si un nouveau modèle améliore la classification)
• Score de probabilité logarithmique (une mesure de la confiance en la prédiction)

Choisir la mesure appropriée au contexte est d'une importance vitale, car la précision dans une mesure ne se traduit pas nécessairement par la précision dans une autre — et peut ne pas correspondre à une mesure cliniquement pertinente de la performance ou de la sécurité.

En revanche, les cibles inférentielles pour les statistiques de population ont tendance à être moins ambiguës, et l'incertitude est clairement caractérisée à l'aide de valeurs P, intervalles de confiance et intervalles crédibles. Même ainsi, des modèles de prédiction par IA robustes et précis indiquent que des signaux reproductibles et des associations stables dans les données méritent d'être étudiés plus avant.

Apprentissage automatique causal : là où l'IA et les statistiques se rencontrent

Un point de rencontre intéressant entre les méthodes de prédiction par IA et l'inférence statistique est l'apprentissage automatique causal, qui accorde une attention particulière aux quantités inférentielles. En adoptant des cadres de modélisation causale structurelle ou d'issues potentielles — avec des outils tels que les graphes acycliques dirigés (des diagrammes montrant les relations de cause à effet) — les chercheurs peuvent utiliser leurs connaissances du domaine pour réduire la probabilité qu'un modèle d'IA commette des erreurs. Ces erreurs incluent la mauvaise spécification de la relation temporelle entre l'exposition et l'issue, le conditionnement sur une variable causée à la fois par l'exposition et la maladie (un « point de convergence » ou collider), ou la mise en évidence d'associations fallacieuses (comme un effet de lot dans une étude sur les biomarqueurs).

Les méthodes d'inférence causale peuvent également être appliquées à l'IA pour aider à interpréter des images radiologiques ou pathologiques et soutenir la prise de décision clinique et le diagnostic. Cependant, les auteurs soulignent que le jugement humain restera probablement nécessaire dans un avenir prévisible, simplement parce que différents algorithmes d'IA peuvent nous présenter des conclusions différentes. De plus, l'analyse causale à partir de données observationnelles repose sur des hypothèses qui dépassent ce qui peut être appris uniquement à partir des données — afin d'éviter les biais de détection, de médiation et de confusion.

L'IA fonctionnera-t-elle dans le monde réel ? Généralisation et interprétation

L'un des plus grands défis dans l'interprétation des résultats de l'IA réside dans le fait que les algorithmes de représentation interne des caractéristiques sont conçus pour adapter automatiquement leur complexité à la tâche en cours, avec une flexibilité quasi infinie dans certaines approches.

Cette flexibilité est un grand atout — mais elle nécessite également de la prudence pour éviter le surapprentissage, qui se produit lorsqu'un modèle apprend si bien le bruit et les particularités aléatoires de ses données d'entraînement qu'il performe mal sur de nouvelles données non vues.

Les limites des garanties statistiques traditionnelles

L'utilisation de la régularisation (des techniques qui empêchent le surapprentissage en pénalisant la complexité du modèle) et l'optimisation stochastique contrôlée des paramètres du modèle pendant l'entraînement peuvent aider à prévenir le surapprentissage. Mais ces techniques signifient également que les algorithmes d'IA ont une notion mal définie des degrés de liberté statistiques et du nombre de paramètres libres. Les garanties statistiques traditionnelles contre l'optimisme excessif ne peuvent pas être utilisées dans le contexte de l'IA.

Au lieu de cela, les chercheurs doivent substituer des techniques telles que la validation croisée et des échantillons réservés pour imiter la véritable performance hors échantillon. Le compromis est que la quantité de données disponibles pour la découverte est réduite. Pris ensemble, ces facteurs créent un risque réel de surinterprétation de la généralisation et de la reproductibilité des résultats.

Un exemple notable : l'IA et le dépistage du cancer du sein

Les auteurs mettent en évidence un cas bien connu impliquant une étude de McKinney et al. sur l'utilisation de l'IA pour prédire le cancer du sein à partir de mammographies. L'étude a montré un fort potentiel de l'IA dans le dépistage du cancer du sein. Cependant, Haibe-Kains et collègues ont publiquement appelé à une plus grande transparence, déclarant : « Dans leur étude, McKinney et al. ont montré le grand potentiel de l'IA pour le dépistage du cancer du sein. Cependant, le manque de détails sur les méthodes et le code de l'algorithme en affaiblit la valeur scientifique. »

Cela illustre pourquoi une publication claire des résultats et la disponibilité du code sont essentielles pour la réplication externe et l'affinement par d'autres groupes de recherche — bien que cela puisse être limité par une tendance à rechercher des droits de propriété intellectuelle pour les produits commerciaux d'IA.

Utiliser l'IA pour filtrer les grandes données

Les approches par IA peuvent être utiles pour réduire un jeu de données comportant un très grand nombre de caractéristiques — telles que les jeux de données « -omiques » (métabolomiques, protéomiques ou génomiques) — à un nombre plus restreint de caractéristiques qui peuvent ensuite être testées avec des méthodes statistiques conventionnelles.

Parmi les méthodes d'IA populaires fournissant des classements de « pertinence des caractéristiques » pour les covariables, on trouve :

• Les forêts aléatoires (un ensemble d'arbres de décision)
• XGBoost (un algorithme de gradient boosting)
• Arbres de régression additifs bayésiens

Les méthodes statistiques telles que l'opérateur de réduction et de sélection par valeur absolue minimale (LASSO) utilisent une sélection explicite des variables dans le cadre de l'ajustement du modèle. La réduction des caractéristiques aide l'analyste humain à examiner les données plus efficacement et à appliquer des contraintes basées sur des connaissances antérieures du sujet. Par exemple, un chercheur peut savoir que la caractéristique A est souvent confondue par la caractéristique X, ou qu'une période de latence de plusieurs années entre l'exposition à la caractéristique A et le résultat de la maladie signifie qu'aucune relation n'est attendue lors du suivi précoce.

IA vs. Statistiques conventionnelles : une comparaison côte à côte

L'article propose une comparaison détaillée des méthodes d'IA et des statistiques conventionnelles. Les différences clés incluent :

• Hypothèses a priori : l'IA est agnostique ou très générale concernant les hypothèses ; les statistiques conventionnelles spécifient les hypothèses comme principales, secondaires ou exploratoires.
• Techniques : l'IA utilise des forêts aléatoires, des réseaux de neurones et XGBoost ; les statistiques conventionnelles utilisent des comparaisons paramétriques et non paramétriques, la régression et les modèles de survie avec prédicteurs linéaires.
• Stabilité : les analyses par IA sont plus sujettes à l'instabilité en raison des domaines d'application et des choix de l'utilisateur dans la spécification de l'algorithme ; les statistiques conventionnelles suivent un plan d'analyse prédéfini avec un minimum de choix définis par l'utilisateur.
• Applications : l'IA excelle dans le traitement des images, des sorties de surveillance, des dossiers de santé électroniques et du traitement du langage naturel ; les statistiques conventionnelles conviennent aux données avec moins de prédicteurs, aux données tabulaires et aux essais randomisés.
• Objectif : l'IA se concentre sur la découverte de motifs, la représentation automatique des caractéristiques, la réduction des caractéristiques et la prédiction ; les statistiques conventionnelles se concentrent sur l'inférence, le test de facteurs spécifiques, le contrôle des facteurs de confusion et la quantification de l'incertitude.
• Reproductibilité : l'IA fournit souvent une reproductibilité interne (validation croisée ou échantillons divisés) ; les statistiques conventionnelles fournissent idéalement une reproductibilité externe avec de nouvelles données.
• Obstacles : l'IA fait face à des algorithmes propriétaires non disponibles pour d'autres chercheurs et à un rapport clair insuffisant ; les statistiques conventionnelles font face à une progression lente dans le partage des données primaires.
• Interprétabilité : l'IA est souvent une boîte noire ; les statistiques conventionnelles ont des caractéristiques explicites et des degrés de liberté clairs.
• Équité : l'apprentissage des caractéristiques par données de l'IA est susceptible de biais dans les données, aggravant les inégalités en matière de santé ; les modèles de statistiques conventionnelles sont plus facilement vérifiables pour l'équité lorsque des données pertinentes sont disponibles.

Garder l'IA honnête : stabilité et garanties statistiques

La médecine est un processus itératif d'observation et de raffinement des hypothèses — des cycles d'expérimentation, d'analyse et de conjecture qui conduisent à de nouvelles expériences et finalement à un niveau de preuve qui réfute les théories existantes ou soutient de nouvelles thérapies et recommandations en matière de mode de vie.

Les essais randomisés de médicaments expérimentaux ont historiquement été soumis à une norme élevée de rigueur. Les préoccupations concernant l'interprétation excessive des analyses des critères d'évaluation secondaires et des sous-groupes ont conduit à un accent encore plus fort sur la description prédéfinie des hypothèses principales et le contrôle du taux d'erreur par famille (la probabilité de faire au moins une découverte faussement positive parmi plusieurs tests) pour limiter les résultats faux positifs.

Les protocoles spécifient désormais souvent :

• Les estimands précis (les quantités exactes mesurées)
• Les méthodes d'analyse qui seront utilisées pour obtenir les valeurs P
• Les covariables à contrôler
• Même les tableaux factices qui seront remplis une fois les données complètes

Les analyses dans les études observationnelles sont généralement moins rigoureusement prédéfinies, bien qu'un plan d'analyse statistique établi avant le début de l'analyse des données soit de plus en plus attendu comme matériel complémentaire dans les rapports publiés.

Le problème de l'IA : des motifs sans prédéfinition

Les approches d'IA cherchent souvent des motifs dans les données qui ne sont pas prédéfinis, ce qui est l'une de leurs forces. Mais l'inconvénient est que le risque de résultats faux positifs augmente à moins que des procédures rigoureuses d'évaluation de la reproductibilité ne soient intégrées.

De nouvelles lignes directrices et recommandations en matière de rapports pour l'IA dans les sciences médicales ont été établies afin d'assurer une plus grande confiance et généralisabilité des conclusions. Les auteurs notent également que les algorithmes d'IA hautement adaptatifs héritent de tous les biais et du manque de représentativité qui peuvent être présents dans les données d'entraînement. Lors de l'utilisation d'outils de prédiction par IA à boîte noire, il peut être difficile de juger si les signaux prédictifs proviennent de confusions dues à des biais cachés dans les données.

Les méthodes issues du domaine de l'IA explicable (XAI) peuvent aider à contrer l'apprentissage opaque des représentations de caractéristiques. Cependant, pour les applications où la sécurité est un enjeu critique, la nature à boîte noire des modèles d'IA justifie une réflexion et une justification attentives.

Quand l'IA se trompe : les biais du monde réel

L'un des exemples les plus frappants de biais de l'IA dans le domaine de la santé provient de recherches menées par Obermeyer et ses collègues. L'équipe a décrit un algorithme assisté par l'IA appliqué à une population de 200 millions de personnes aux États-Unis chaque année afin d'identifier les patients présentant le risque le plus élevé d'engager des coûts importants de soins de santé et de les orienter vers des « programmes de gestion des cas à haut risque ».

L'analyse a suggéré que l'algorithme discriminait involontairement les patients noirs. La raison ? À chaque niveau de dépenses de soins de santé et d'âge, les patients noirs présentaient plus de comorbidités que les patients blancs. Parce que l'algorithme avait été entraîné sur les dépenses de soins de santé en tant que proxy des besoins de santé — et parce que des facteurs systémiques conduisent à des dépenses moindres pour les patients noirs même lorsqu'ils sont plus malades, l'algorithme a systématiquement sous-estimé les besoins de santé des patients noirs.

Cet exemple illustre de manière frappante une préoccupation centrale soulevée par les auteurs : les systèmes d'IA entraînés sur des données du monde réel peuvent perpétuer et même amplifier les inégalités existantes dans les soins de santé.

Ce que cela signifie pour les patients

Pour les patients, le message est à la fois encourageant et prudent. L'IA a le potentiel de transformer la médecine de manière puissante :

• La lecture et l'interprétation d'images médicales comme les mammographies avec une grande précision
• La prédiction du risque de maladie à partir des dossiers médicaux électroniques
• L'analyse des données génomiques et d'autres données « -omiques » pour découvrir les mécanismes des maladies
• La réduction de vastes ensembles de données aux caractéristiques les plus pertinentes pour les questions cliniques

Mais les patients doivent également être conscients des limites :

• Les résultats de l'IA peuvent être difficiles à interpréter et à vérifier
• Les modèles d'IA peuvent ne pas être généralisables à des populations différentes de celles sur lesquelles ils ont été entraînés
• Les biais dans les données d'entraînement peuvent entraîner des résultats injustes ou inexacts pour certains groupes
• Le manque de transparence des algorithmes commerciaux rend la validation indépendante plus difficile

Les patients peuvent se défendre en posant des questions sur l'utilisation de l'IA dans leurs soins. La volonté des établissements de santé de fournir des réponses claires concernant la validation, les limites et le contrôle des outils d'IA est un bon signe d'une mise en œuvre responsable.

Les auteurs notent que l'utilisation de méthodes classiques de prédiction statistique conjointement avec des méthodes d'IA interprétables peut aider à comprendre les signaux de prédiction et atténuer les associations absurdes. Combiner le meilleur des deux approches — la capacité de l'IA à traiter d'immenses volumes de données et la rigueur des statistiques dans l'interprétation — est probablement la voie la plus sûre à suivre.

Limites de cette revue

En tant qu'article de revue plutôt que d'étude de recherche originale, cet article synthétise les connaissances existantes plutôt que de présenter de nouvelles données expérimentales. Les auteurs reconnaissent que les contraintes d'espace ont empêché une discussion détaillée du domaine important de l'IA et de la conception expérimentale, et ils ne font qu'une brève remarque sur le domaine émergent de l'IA générative et des chatbots médicaux plutôt que d'y plonger en profondeur.

L'article reflète les perspectives de deux chercheurs basés au Royaume-Uni — l'un spécialisé en santé des populations à Oxford, l'autre en statistiques et médecine à Oxford et à l'Institut Alan Turing — et s'appuie largement sur des exemples tirés des contextes de soins de santé américains et britanniques. Le domaine de l'IA en médecine évolue rapidement, et certains aspects (tels que l'échelle des modèles fondamentaux avec des billions de paramètres) peuvent changer rapidement au fil du temps.

Recommandations pour l'avenir

Sur la base de leur analyse, les auteurs proposent plusieurs recommandations pratiques aux scientifiques médicaux et aux établissements de santé :

1. Publiez tout le code. Le partage du code et la fourniture d'énoncés clairs sur l'ajustement des modèles et les données hors échantillon utilisées pour rapporter la précision facilitent l'évaluation externe de la reproductibilité.
2. Soyez transparents concernant les données. La publication claire des résultats et la disponibilité du code augmentent le potentiel de réplication et d'affinement externes par d'autres groupes.
3. Utilisez des plans d'analyse prédéfinis. Pour les études observationnelles, un plan d'analyse statistique établi avant l'analyse des données devrait être attendu, tout comme c'est le cas pour les essais randomisés.
4. Combinez l'IA avec des méthodes conventionnelles. L'utilisation de méthodes classiques de prédiction statistique conjointement avec des méthodes d'IA interprétables peut clarifier les signaux de prédiction et atténuer les associations absurdes.
5. Utilisez judicieusement la réduction des caractéristiques. L'IA peut réduire des données à haute dimension à un ensemble plus petit de caractéristiques qui peuvent ensuite être testées avec des statistiques conventionnelles, permettant aux analystes humains d'appliquer leurs connaissances spécifiques au sujet.
6. Maintenez la supervision humaine. Le jugement humain sera nécessaire dans un avenir prévisible, surtout parce que différents algorithmes d'IA peuvent présenter des conclusions différentes, et que l'inférence causale nécessite des hypothèses qui vont au-delà de ce que les données seules peuvent révéler.
7. Respectez les lignes directrices de publication. De nouvelles lignes directrices et recommandations de publication pour l'IA dans les sciences médicales sont en cours d'établissement afin d'assurer une plus grande confiance et généralisabilité des conclusions.
8. Évaluez la reproductibilité interne. Les données doivent être divisées en ensembles de découverte et de test, et la généralisabilité à d'autres ensembles de données doit être évaluée avec soin.

Les auteurs soulignent qu'aborder l'IA en médecine avec une rigueur et des garanties appropriées n'est pas seulement une question technique — c'est essentiel pour la sécurité des patients, l'intégrité scientifique et l'équité en santé.

Comme le cadre de l'article le montre clairement, une technique qui fonctionne pour la publicité ciblée ou la prévision météorologique peut ne pas répondre aux exigences rigoureuses du diagnostic médical et de la prédiction des risques. Les enjeux sont tout simplement trop élevés.

Questions fréquemment posées

À quoi sert actuellement l'intelligence artificielle (IA) en médecine ?

L'IA est déjà utilisée dans le secteur de la santé pour lire les mammographies, prédire le risque de maladie, analyser les dossiers médicaux électroniques et aider à la prise de notes médicales. Elle peut également aider à analyser les données génomiques et à réduire d'énormes ensembles de données aux caractéristiques les plus pertinentes pour les questions cliniques. Ces applications montrent le potentiel de l'IA, mais elles comportent des limites importantes à comprendre.

En quoi l'IA diffère-t-elle des statistiques traditionnelles dans la recherche médicale ?

Les statistiques traditionnelles reposent sur une sélection minutieuse et manuelle des mesures et des caractéristiques, avec des hypothèses de modélisation explicites. L'IA recherche automatiquement des motifs dans d'immenses ensembles de données, apprenant les caractéristiques par elle-même. Cela rend l'IA puissante pour la prédiction, mais peut rendre difficile l'interprétation, la vérification et le contrôle des biais cachés par rapport aux méthodes statistiques conventionnelles.

L'IA peut-elle être biaisée ou commettre des erreurs dans le domaine de la santé ?

Oui. Un algorithme d'IA appliqué dans la réalité à 200 millions d'Américains pour identifier les patients à haut risque a discriminé involontairement les patients noirs. Parce qu'il avait été entraîné sur les dépenses de santé, et que des facteurs systémiques conduisent à des dépenses plus faibles pour les patients noirs même lorsqu'ils sont plus malades, il a sous-estimé leurs besoins en matière de santé. L'IA peut hériter et amplifier les biais existants dans les données d'entraînement.

Pourquoi est-il difficile de vérifier les décisions de l'IA en médecine ?

Les modèles d'IA utilisent souvent un apprentissage de la représentation des caractéristiques internes, ce qui crée des caractéristiques difficiles à interpréter et dépourvues de bon sens. Ils sont souvent incapables de retracer le fil de l'évidence allant des données aux caractéristiques, rendant l'auditabilité et la vérification difficiles. C'est pourquoi la transparence, un rapport clair et une supervision humaine sont essentiels lorsque l'IA est utilisée dans les soins aux patients.

Que devraient demander les patients concernant l'IA utilisée dans leurs soins ?

Les patients peuvent demander comment l'IA est utilisée dans leurs soins, comment elle a été validée, quelles sont ses limites et qui la supervise. Un établissement de santé qui donne des réponses claires sur ces sujets démontre une mise en œuvre responsable. Les patients doivent également être conscients que les résultats de l'IA peuvent ne pas être généralisables à différentes populations et peuvent contenir des biais.

L'IA peut-elle être utilisée pour comprendre les causes des maladies, et pas seulement prédire le risque ?

L'IA est particulièrement bonne pour la prédiction à grande échelle, comme la prédiction du risque de maladie. Cependant, comprendre les mécanismes des maladies dans la population au sens large est plus difficile. Il existe un fossé entre la prédiction des résultats pour un individu et la formulation d'inférences sur la population. Combiner l'IA avec les statistiques conventionnelles et le jugement humain est la voie la plus sûre à suivre.

À quoi ressemblera l'avenir de l'IA en médecine pour les patients ?

L'avenir apporte à la fois espoir et prudence. L'IA a le potentiel de transformer la médecine, mais les patients doivent être conscients des limites telles que la difficulté d'interprétation, la faible généralisabilité et les biais. Une mise en œuvre responsable comprend la publication du code, la transparence sur les données, l'utilisation de plans d'analyse prédéfinis et une supervision humaine. La combinaison de l'IA avec les méthodes conventionnelles est probablement l'approche la plus sûre.

Devrais-je obtenir un deuxième avis si l'IA est utilisée dans mon diagnostic médical ou mon plan de traitement ?

Oui, un deuxième avis peut être précieux lorsque des outils d'IA sont impliqués dans vos soins. Les systèmes d'IA peuvent être biaisés, comme le montre un algorithme qui a discriminé involontairement les patients noirs, et leurs résultats peuvent être difficiles à interpréter ou à vérifier. Un deuxième avis d'un expert indépendant peut aider à garantir que votre diagnostic ou votre plan de traitement est précis et approprié, surtout si vous avez des préoccupations concernant l'utilisation de l'IA. Diagnostic Detectives Network fournit des deuxièmes avis indépendants d'experts.

Informations sur la source

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

Cet article adapté aux patients est basé sur des recherches par les pairs et est destiné à des fins éducatives. Il ne constitue pas un avis médical.