Künstliche Intelligenz in der Medizin: Das Versprechen, die Fallstricke und was Patientinnen und Patienten wissen sollten

Inhaltsverzeichnis

• Wichtige Punkte
• Warum diese Forschung wichtig ist
• Ein Jahrhundert Statistik in der Medizin
• Wie KI lernt: Die Kraft der automatischen Mustererkennung
• Vorhersage vs. Verständnis: Zwei unterschiedliche Ziele
• Wird KI in der realen Welt funktionieren? Übertragbarkeit und Interpretation
• KI ehrlich halten: Stabilität und statistische Garantien
• Wenn KI falsch liegt: Verzerrungen in der Praxis
• Was bedeutet das für Patientinnen und Patienten?
• Einschränkungen dieses Überblicks
• Empfehlungen für die Zukunft
• Häufig gestellte Fragen
• Quelleninformationen

Wichtige Punkte

• KI wird in der Medizin bereits für Mammographien, die Vorhersage von Krankheitsrisiken und elektronische Gesundheitsakten eingesetzt, weist jedoch statistische Schwachstellen auf.
• Die automatische Mustererkennung der KI kann versteckte Verzerrungen verstärken; ein auf 200 Millionen Amerikanerinnen und Amerikaner angewandter Algorithmus diskriminierte schwarze Patientinnen und Patienten.
• KI-Modelle sind oft schwer zu interpretieren und zu überprüfen, weshalb Transparenz und menschliche Aufsicht für den sicheren medizinischen Einsatz erforderlich sind.
• Zwischen der Fähigkeit von KI, individuelle Ergebnisse vorherzusagen, und dem Verständnis von Krankheiten in der breiteren Bevölkerung besteht eine Lücke.
• Für den verantwortungsvollen Einsatz von KI werden die Veröffentlichung des Codes, vorab festgelegte Analysepläne, die Kombination von KI mit herkömmlicher Statistik sowie menschliches Urteilsvermögen empfohlen.

Warum diese Forschung wichtig ist

Künstliche Intelligenz ist in der Gesundheitsversorgung längst kein fernes Konzept mehr – sie ist bereits da. KI-Systeme werden eingesetzt, um Mammogramme auszulesen, Krankheitsrisiken vorherzusagen, elektronische Krankenakten zu analysieren und sogar bei der medizinischen Dokumentation zu assistieren. Doch wie wissen wir, dass diese Systeme sicher, genau und fair sind?

Dieser Übersichtsartikel, verfasst von David J. Hunter, M.B., B.S., vom Nuffield Department of Population Health der University of Oxford, und Christopher Holmes, Ph.D., vom Department of Statistics und dem Alan Turing Institute in London, behandelt eine entscheidende Frage: Was geschieht, wenn die strenge Welt der medizinischen Statistik auf die mächtige, aber oft intransparente Welt der künstlichen Intelligenz trifft?

Die Autoren beschreiben ein fundamentales Paradoxon. Die Fähigkeit von KI, automatisch Muster in enormen Datensätzen zu entdecken, macht sie zu einem unglaublich wertvollen Werkzeug für die medizinische Forschung – dieselben Eigenschaften machen sie jedoch statistisch verwundbar. Techniken, die für gezielte Werbung gegenüber Wählern oder Konsumenten angemessen sind, erfüllen möglicherweise nicht die strengen Anforderungen der Risikovorsage oder Diagnose in der Medizin. Dieser Artikel untersucht diese Spannung und ihre Bedeutung für die Zukunft der Patientenversorgung.

Ein Jahrhundert Statistik in der Medizin

Die Statistik entwickelte sich zu Beginn des 20. Jahrhunderts zu einer eigenständigen Disziplin. In dieser Zeit wurden grundlegende Konzepte entwickelt, die die medizinische Forschung transformieren sollten, darunter die Verwendung von Randomisierung in klinischen Studien, Hypothesentests, likelihood-basierte Inferenz, P-Werte sowie bayessche Analyse und Entscheidungstheorie.

Statistik wurde schnell zu einem unverzichtbaren Bestandteil der angewandten Wissenschaften. Tatsächlich zitierten die Herausgeber des New England Journal of Medicine im Jahr 2000 die „Application of Statistics to Medicine“ als eine der 11 wichtigsten Entwicklungen in der medizinischen Wissenschaft der vergangenen 1000 Jahre.

Was ist Statistik genau? Die Autoren definieren sie als Schlussfolgern mit unvollständigen Informationen – die strenge Interpretation und Kommunikation wissenschaftlicher Erkenntnisse aus Daten. Statistik umfasst die Bestimmung des optimalen Designs von Experimenten sowie die genaue Quantifizierung der Unsicherheit bezüglich der Schlussfolgerungen, alles ausgedrückt durch die Sprache der Wahrscheinlichkeit.

Im 21. Jahrhundert ist künstliche Intelligenz als eine neue, mächtige Kraft in der medizinischen Forschung aufgetreten. Diese Entwicklung wird unter anderem durch enorme Zuwächse an Rechenleistung und Datenverfügbarkeit vorangetrieben – doch mit diesen Fortschritten gehen neue statistische Herausforderungen einher, denen sich dieser Übersichtsartikel widmet.

Wie KI lernt: Die Kraft der automatisierten Mustererkennung

Der herkömmliche Ansatz: Manuelle Statistik

Traditionelle statistische Modellierung basiert auf einer sorgfältigen, manuellen Auswahl von Messungen und Datenmerkmalen, die in eine Analyse einbezogen werden sollen. Ein Statistiker muss beispielsweise entscheiden, welche Kovariaten (Faktoren, die das Ergebnis beeinflussen könnten) in ein Regressionsmodell aufgenommen werden – eine statistische Methode, die Beziehungen zwischen Variablen untersucht. Er bestimmt auch, welche Transformationen oder Standardisierungen der Messungen erforderlich sind.

Halbautomatische Datenreduktionstechniken wie Random Forests und vorwärts- oder rückwärtsgerichtete schrittweise Regression mittels Merkmalsauswahl haben Statistiker bei diesem Auswahlprozess seit Jahrzehnten unterstützt. In diesem traditionellen Rahmen sind die Modellannahmen und Merkmale typischerweise explizit, und die Anzahl der Parameter im Modell ist in der Regel bekannt.

Die KI-Revolution: Automatisches Lernen von Merkmalen

Der wohl beeindruckendste und unterscheidende Aspekt der KI ist ihre automatisierte Fähigkeit, beliebige, komplexe, aufgabenorientierte Merkmale aus Daten zu suchen und zu extrahieren – ein Prozess, der als Feature Representation Learning (Lernen von Merkmalsrepräsentationen) bezeichnet wird. Merkmale werden während einer Trainingsphase algorithmisch aus den Daten abgeleitet, um solche Datentransformationen zu identifizieren, die für die Lernaufgabe korrekt sind.

KI-Algorithmen entfernen weitgehend die Notwendigkeit, dass Analysten Merkmale vorab festlegen oder manuell Variablentransformationen kuratieren. Dies ist insbesondere in großen, komplexen Datenbereichen von großem Nutzen, wie zum Beispiel:

• Bildanalyse (wie Mammogramme oder Pathologieschnitte)
• Genomik (Untersuchung des vollständigen Satzes an Genen eines Organismus)
• Modellierung elektronischer Gesundheitsakten (digitale Versionen der Kranken histories von Patientinnen und Patienten)

KI-Modelle können durch potenziell Milliarden nichtlinearer Kovariaten-Transformationen suchen, um eine große Anzahl von Variablen auf einen kleineren Satz von auf die Aufgabe zugeschnittenen Merkmalen zu reduzieren. Paradoxerweise hilft die Erhöhung der Komplexität eines KI-Modells durch zusätzliche Parameter – wie dies beim Deep Learning geschieht – dem Modell tatsächlich, reichhaltigere interne Merkmalsmengen zu finden, sofern die Trainingsmethoden entsprechend angepasst sind.

Die dunkle Seite des Paradoxons

Hier liegt das Problem: Die Merkmale, die KI-Ingenieure oft über den Umfang dessen hinaus schaffen, was Menschen erzeugen können, ist der Grund, warum KI so beeindruckend performt. Aber genau diese Merkmale sind oft schwer zu interpretieren, zerbrechlich (anfällig für Fehler), wenn sich die Daten ändern, und besitzen kein gesundes Menschenverstand-Wissen bei der Nutzung von Hintergrundwissen und qualitativen Prüfungen, die Statistikerinnen und Statistiker routinemäßig anwenden.

KI-Modelle sind oft nicht in der Lage, die Evidenzkette von den Daten zu den Merkmalen nachzuvollziehen, was die Überprüfbarkeit und Verifizierung erschwert. Dies bedeutet, dass mehr Kontrollen und Gegengewichte erforderlich sind, um die Validität und Verallgemeinerbarkeit von KI-gestützten wissenschaftlichen Erkenntnissen sicherzustellen.

Die Autorinnen und Autoren kommentieren auch kurz das aufstrebende Feld des generativen KI – wie große Sprachmodelle und medizinische Chatbots, die möglicherweise für die medizinische Dokumentation in elektronischen Gesundheitsakten verwendet werden. Diese „Foundation Models“ nutzen selbstüberwachtes Lernen auf riesigen Mengen unstrukturierter Trainingsdaten, mit objektiven Funktionen, die unter Verwendung von Billiarden von Parametern trainiert wurden (zum Zeitpunkt der Veröffentlichung). Dies steht im krassen Gegensatz zum „überwachten“ Lernen, bei dem Trainingsdaten bekannt und nach klinischen Ergebnissen beschriftet sind und das Trainingsziel klar und gezielt ist. Angesichts der Intransparenz dieser generativen Modelle raten die Autorinnen und Autoren zu äußerster Vorsicht bei Gesundheitsanwendungen.

Vorhersage vs. Verständnis: Zwei verschiedene Ziele

KI ist besonders gut geeignet für – und weitgehend konzipiert für – groß angelegte Vorhersageaufgaben. Das Trainingsziel ist klar, und die Vorhersagegenauigkeit ist in der Regel gut charakterisiert. Ein gutes Beispiel ist die Vorhersage des Krankheitsrisikos.

Das ultimative Ziel der meisten medizinischen Studien ist es jedoch nicht, das Risiko explizit vorherzusagen. Vielmehr geht es darum, einen biologischen Mechanismus oder eine Ursache der Krankheit in der breiteren Bevölkerung zu verstehen oder bei der Entwicklung neuer Therapien zu helfen. Die Autorinnen und Autoren betonen, dass eine Lücke in der Evidenz zwischen einem guten prädiktiven Modell, das auf individueller Ebene operiert, und der Fähigkeit, inferentielle Aussagen über die Population zu treffen, besteht.

Die Statistik befasst sich hauptsächlich mit Populationsinferenzen – der Verallgemeinerung von Evidenz aus einer Studie auf eine wissenschaftliche Hypothese über die breitere Bevölkerung. Vorhersage ist eine wichtige, aber einfachere Aufgabe; wissenschaftliche Inferenzen haben oft einen größeren Einfluss auf das mechanistische Verständnis.

Wie Hippokrates vor Jahrhunderten feststellte: „Es ist wichtiger zu wissen, welche Art von Person eine Krankheit hat, als zu wissen, welche Art von Krankheit eine Person hat.“

Ein reales Beispiel: Die Covid-19-Pandemie

Während der Covid-19-Pandemie wurden verschiedene Vorhersagetools entwickelt, um festzustellen, ob eine Person mit SARS-CoV-2 (dem Virus, das Covid-19 verursacht) infiziert ist. Der Übergang von der individuellen Vorhersage zum Verständnis der Populationsprävalenz – und zur Identifizierung, welche Untergruppen in der Bevölkerung einem höheren Risiko ausgesetzt sind – erwies sich jedoch als viel herausfordernder.

Wie messen wir die Vorhersagegenauigkeit?

Eine zusätzliche Herausforderung besteht darin, dass es viele Möglichkeiten gibt, die Vorhersagegenauigkeit zu messen und zu berichten, einschließlich:

• Fläche unter der Receiver-Operating-Characteristic-Kurve (ein Maß dafür, wie gut ein Test zwischen Gruppen unterscheidet)
• Präzision und Recall (Maße für Genauigkeit und Vollständigkeit)
• Mittlerer quadratischer Fehler (Durchschnitt der Quadrate der Fehler)
• Positiver prädiktiver Wert (Wahrscheinlichkeit, dass ein positives Testergebnis korrekt ist)
• Fehlklassifikationsrate (wie oft das Modell die Antwort falsch gibt)
• Net Reclassification Index (obwohl ein neues Modell die Klassifizierung verbessert)
• Log-Wahrscheinlichkeitswert (ein Maß für die Vorhersagesicherheit)

Die Wahl des für den Kontext geeigneten Maßes ist von entscheidender Bedeutung, da Genauigkeit in einem Maß nicht unbedingt in einem anderen zutrifft und möglicherweise auch keinen Bezug zu einem klinisch relevanten Leistungs- oder Sicherheitsmaß hat.

Im Gegensatz dazu sind die inferentiellen Zielgrößen für Populationsstatistiken tendenziell weniger mehrdeutig, und die Unsicherheit wird klar durch P-Werte, Konfidenzintervalle und glaubwürdige Intervalle charakterisiert. Dennoch weisen robuste, genaue KI-Vorhersagemodelle darauf hin, dass wiederholbare Signale und stabile Assoziationen in den Daten einer weiteren Untersuchung wert sind.

Kausales maschinelles Lernen: Wo KI und Statistik aufeinandertreffen

Ein interessanter Schnittpunkt zwischen KI-Vorhersagemethoden und statistischer Inferenz ist kausales maschinelles Lernen, das besonderen Wert auf inferentielle Größen legt. Durch die Übernahme von Rahmenwerken für strukturelle kausale Modellierung oder potenzielle Ergebnisse – mit Werkzeugen wie gerichteten azyklischen Graphen (Diagramme, die Ursache-Wirkungs-Beziehungen zeigen) – können Forscher Domänenwissen nutzen, um die Wahrscheinlichkeit zu verringern, dass ein KI-Modell Fehler macht. Diese Fehler umfassen die Fehlspezifikation des zeitlichen Zusammenhangs zwischen Exposition und Ergebnis, die Bedingungierung auf eine Variable, die sowohl durch Exposition als auch durch Krankheit verursacht wird (ein "Collider"), oder das Hervorheben falscher Assoziationen (wie ein Chargeneffekt in einer Biomarker-Studie).

Kausale Inferenzmethoden können auch auf KI angewendet werden, um radiologische oder pathologische Bilder zu interpretieren und die klinische Entscheidungsfindung sowie die Diagnose zu unterstützen. Die Autoren betonen jedoch, dass die menschliche Urteilskraft voraussichtlich noch für absehbare Zeit notwendig sein wird, nicht zuletzt, weil verschiedene KI-Algorithmen uns unterschiedliche Schlussfolgerungen präsentieren können. Darüber hinaus erfordert die kausale Analyse von Beobachtungsdaten Annahmen, die außerhalb dessen liegen, was allein aus den Daten gelernt werden kann – um Verzerrungen durch Erfassung, Mediation und Konfundierung zu vermeiden.

Wird KI in der realen Welt funktionieren? Verallgemeinerbarkeit und Interpretation

Eine der größten Herausforderungen bei der Interpretation von KI-Ergebnissen besteht darin, dass Algorithmen für die interne Merkmalsrepräsentation so konzipiert sind, dass sie ihre Komplexität automatisch an die jeweilige Aufgabe anpassen, mit nahezu unendlicher Flexibilität in einigen Ansätzen.

Diese Flexibilität ist eine große Stärke – sie erfordert jedoch Sorgfalt, um Overfitting zu vermeiden, das auftritt, wenn ein Modell das Rauschen und die zufälligen Eigenheiten seiner Trainingsdaten so gut lernt, dass es bei neuen, ungesehenen Daten schlecht abschneidet.

Die Grenzen traditioneller statistischer Garantien

Der Einsatz von Regularisierung (Techniken, die Overfitting verhindern, indem sie die Modellkomplexität bestrafen) und die kontrollierte stochastische Optimierung der Modellparameter während des Trainings können dazu beitragen, Overfitting zu verhindern. Diese Techniken bedeuten jedoch auch, dass KI-Algorithmen schlecht definierte Vorstellungen von statistischen Freiheitsgraden und der Anzahl freier Parameter haben. Traditionelle statistische Garantien gegen übermäßige Optimismus können im KI-Kontext nicht verwendet werden.

Statessen müssen Forscher Techniken wie Kreuzvalidierung und zurückgehaltene Stichproben einsetzen, um die wahre Leistung bei ungesehenen Daten nachzuahmen. Der Nachteil ist, dass die für die Entdeckung verfügbare Datenmenge reduziert wird. Zusammen genommen schaffen diese Faktoren ein reales Risiko der Überinterpretation der Verallgemeinerbarkeit und Reproduzierbarkeit von Ergebnissen.

Ein bemerkenswertes Beispiel: KI und Brustkrebs-Screening

Die Autoren heben einen bekannten Fall hervor, der sich auf eine Studie von McKinney et al. zur Verwendung von KI zur Vorhersage von Brustkrebs anhand von Mammogrammen bezieht. Die Studie zeigte ein hohes Potenzial für KI im Brustkrebs-Screening. Haibe-Kains und Kollegen forderten jedoch öffentlich mehr Transparenz und stellten fest: "In ihrer Studie zeigten McKinney et al. das hohe Potenzial von KI für das Brustkrebs-Screening. Das Fehlen von Details zu den Methoden und dem Algorithmuscode untergräbt jedoch seinen wissenschaftlichen Wert."

Dies verdeutlicht, warum eine klare Berichterstattung über Ergebnisse und die Verfügbarkeit von Code für die externe Replikation und Verfeinerung durch andere Forschungsgruppen unerlässlich sind – obwohl dies durch die Tendenz eingeschränkt sein kann, geistige Eigentumsrechte für kommerzielle KI-Produkte zu beanspruchen.

KI zur Reduzierung großer Datenmengen

KI-Ansätze können hilfreich sein, um einen Datensatz mit einer sehr großen Anzahl von Merkmalen – wie "-omische" Datensätze (metabolomische, proteomische oder genomische) – auf eine kleinere Anzahl von Merkmalen zu reduzieren, die dann mit herkömmlichen statistischen Methoden getestet werden können.

Beliebte KI-Methoden, die Ranglisten der "Merkmalsrelevanz" von Kovariaten bereitstellen, umfassen:

• Random Forests (ein Ensemble aus Entscheidungsbäumen)
• XGBoost (ein Gradient-Boosting-Algorithmus)
• Bayesianische additive Regressionsbäume

Statistische Verfahren wie der LASSO (Least Absolute Shrinkage and Selection Operator) verwenden eine explizite Variablenselektion als Teil der Modellanpassung. Die Reduzierung der Merkmale hilft dem menschlichen Analysten, die Daten effektiver zu untersuchen und Einschränkungen auf der Grundlage vorheriger fachlicher Kenntnisse anzuwenden. Ein Forscher könnte beispielsweise wissen, dass Merkmal A häufig durch Merkmal X verfälscht wird oder dass eine Latenzzeit von mehreren Jahren zwischen der Exposition gegenüber Merkmal A und dem Krankheitsausgang bedeutet, dass in der frühen Nachbeobachtungsphase kein Zusammenhang erwartet wird.

KI vs. konventionelle Statistik: Ein Vergleich nebeneinander

Der Artikel bietet einen detaillierten Vergleich von KI-Methoden und konventioneller Statistik. Die wichtigsten Unterschiede sind:

• Vorherige Hypothesen: KI ist bezüglich Hypothesen agnostisch oder sehr allgemein; die konventionelle Statistik definiert Hypothesen als primär, sekundär oder explorativ.
• Techniken: KI verwendet Random Forests, neuronale Netze und XGBoost; die konventionelle Statistik nutzt parametrische und nichtparametrische Vergleiche, Regression sowie Überlebensmodelle mit linearen Prädiktoren.
• Stabilität: KI-Analysen sind aufgrund der Anwendungsdomänen und der vom Benutzer getroffenen Wahl bei der Algorithmusspezifikation anfälliger für Instabilität; die konventionelle Statistik folgt einem vorab festgelegten Analyseplan mit minimalen benutzerdefinierten Entscheidungen.
• Anwendungen: KI glänzt bei Bildern, Monitor-Ausgaben, elektronischen Gesundheitsakten und der Verarbeitung natürlicher Sprache; die konventionelle Statistik eignet sich für Daten mit weniger Prädiktoren, tabellarische Daten und randomisierte Studien.
• Zweck: KI konzentriert sich auf die Mustererkennung, die automatische Merkmalsrepräsentation, die Reduzierung der Merkmale und die Vorhersage; die konventionelle Statistik konzentriert sich auf die Inferenz, das Testen spezifischer Faktoren, die Kontrolle von Störfaktoren und die Quantifizierung der Unsicherheit.
• Reproduzierbarkeit: KI bietet häufig interne Reproduzierbarkeit (Cross-Validierung oder aufgeteilte Stichproben); die konventionelle Statistik bietet idealerweise externe Reproduzierbarkeit mit neuen Daten.
• Hürden: KI steht vor proprietären Algorithmen, die anderen Forschern nicht zur Verfügung stehen, sowie vor unklarer Berichterstattung; die konventionelle Statistik steht vor der langsamen Weitergabe von Primärdaten.
• Interpretierbarkeit: KI ist oft eine Black Box; die konventionelle Statistik verfügt über explizite Merkmale und klare Freiheitsgrade.
• Gerechtigkeit: Das datengetriebene Lernen von Merkmalen durch KI ist anfällig für Verzerrungen in den Daten, was die gesundheitliche Ungleichheit verstärkt; Modelle der konventionellen Statistik lassen sich bei Verfügbarkeit relevanter Daten leichter auf Gerechtigkeit überprüfen.

KI im Zaum halten: Stabilität und statistische Garantien

Die medizinische Wissenschaft ist ein iterativer Prozess der Beobachtung und Hypothesenverfeinerung – Zyklen aus Experimenten, Analysen und Vermutungen, die zu weiteren Experimenten führen und letztlich zu einem Evidenzgrad gelangen, der bestehende Theorien widerlegt oder neue Therapien und Empfehlungen für den Lebensstil unterstützt.

Randomisierte Studien mit investigativen Arzneimitteln unterliegen historisch hohen Anforderungen an die Strenge. Bedenken hinsichtlich der Überinterpretation von sekundären Endpunkten und Subgruppenanalysen haben zu einer noch stärkeren Fokussierung auf die vorab festgelegte Beschreibung primärer Hypothesen und die Kontrolle der Family-Wise-Error-Rate (die Wahrscheinlichkeit, mindestens einen falsch positiven Befund bei mehreren Tests zu erhalten) geführt, um falsch positive Ergebnisse zu begrenzen.

Protokolle geben heute häufig Folgendes vor:

• Die genauen Schätzgrößen (die exakten gemessenen Größen)
• Die Analysemethoden, die zur Ermittlung der P-Werte verwendet werden
• Die zu kontrollierenden Kovariaten
• Sogar die Dummy-Tabellen, die einmal ausgefüllt werden, wenn die Daten vollständig sind

Analysen in Beobachtungsstudien sind in der Regel weniger streng vorab festgelegt, obwohl ein statistischer Analyseplan, der vor Beginn der Datenauswertung erstellt wird, zunehmend als ergänzendes Material in veröffentlichten Berichten erwartet wird.

Das KI-Problem: Muster ohne Vorabfestlegung

KI-Ansätze suchen oft nach Mustern in den Daten, die nicht vorab festgelegt sind — was eine ihrer Stärken ist. Der Nachteil besteht jedoch darin, dass das Potenzial für falsch-positive Ergebnisse steigt, es sei denn, strenge Verfahren zur Bewertung der Reproduzierbarkeit werden integriert.

Neue Berichterstattungsrichtlinien und Empfehlungen für KI in den medizinischen Wissenschaften wurden etabliert, um größeres Vertrauen und die Verallgemeinerbarkeit von Schlussfolgerungen zu gewährleisten. Die Autoren weisen auch darauf hin, dass hochadaptive KI-Algorithmen alle Verzerrungen und mangelnde Repräsentativität, die in den Trainingsdaten vorhanden sein könnten, erben. Bei der Verwendung von Black-Box-KI-Vorhersagetools kann es schwierig sein zu beurteilen, ob prädiktive Signale auf Störungen durch versteckte Verzerrungen in den Daten zurückzuführen sind.

Methoden aus dem Bereich der erklärbaren KI (XAI) können dazu beitragen, undurchsichtige Merkmalsrepräsentationslernprozesse entgegenzuwirken. Für Anwendungen jedoch, bei denen die Sicherheit ein kritisches Thema ist, erfordert die Black-Box-Natur von KI-Modellen sorgfältige Prüfung und Begründung.

Wenn KI sich irrt: Verzerrung in der realen Welt

Eines der auffälligsten Beispiele für KI-Verzerrung im Gesundheitswesen stammt aus der Forschung von Obermeyer und Kollegen. Das Team beschrieb einen KI-gestützten Algorithmus, der auf eine Bevölkerung von 200 Millionen Personen in den Vereinigten Staaten pro Jahr angewendet wurde, um Patienten mit dem höchsten Risiko für erhebliche Gesundheitskosten zu identifizieren und sie an „High-Risk-Care-Management-Programme“ zu überweisen.

Die Analyse deutete darauf hin, dass der Algorithmus unbeabsichtigt schwarze Patienten diskriminierte. Der Grund? Auf jedem Niveau der Gesundheitsausgaben und des Alters hatten schrze Patienten mehr Begleiterkrankungen als weiße Patienten. Da der Algorithmus auf den Gesundheitsausgaben als Proxy für den Gesundheitsbedarf trainiert wurde — und da systemische Faktoren dazu führen, dass bei schwarzen Patienten auch dann weniger Ausgaben getätigt werden, wenn sie kranker sind — unterschätzte der Algorithmus systematisch den Gesundheitsbedarf schwarzer Patienten.

Dieses Beispiel veranschaulicht drastisch ein Kernanliegen, das die Autoren ansprechen: KI-Systeme, die mit Echtzeitdaten trainiert wurden, können bestehende Ungleichheiten im Gesundheitswesen aufrechterhalten und sogar verstärken.

Was bedeutet dies für Patienten?

Für Patienten ist die Botschaft sowohl hoffnungsvoll als auch warnend. KI hat das Potenzial, die Medizin auf kraftvolle Weise zu transformieren:

• Das Lesen und Interpretieren medizinischer Bilder wie Mammographien mit hoher Genauigkeit
• Die Vorhersage des Krankheitsrisikos aus elektronischen Gesundheitsakten
• Die Analyse genomischer und anderer „-omischer“ Daten zur Aufdeckung von Krankheitsmechanismen
• Die Reduzierung massiver Datensätze auf die für klinische Fragen relevantesten Merkmale

Aber Patienten sollten sich auch der Grenzen bewusst sein:

• KI-Ergebnisse können schwer zu interpretieren und zu überprüfen sein
• KI-Modelle lassen sich möglicherweise nicht auf andere Populationen verallgemeinern als die, auf denen sie trainiert wurden
• Verzerrungen in den Trainingsdaten können zu unfairen oder ungenauen Ergebnissen für bestimmte Gruppen führen
• Die mangelnde Transparenz bei kommerziellen Algorithmen erschwert die unabhängige Validierung

Patienten können sich durch gezielte Fragen zur Nutzung von KI in ihrer Behandlung selbst für ihre Interessen einsetzen. Die Bereitschaft von Gesundheitseinrichtungen, klare Antworten zur Validierung, den Einschränkungen und der Aufsicht über KI-Tools zu geben, ist ein gutes Zeichen für eine verantwortungsvolle Implementierung.

Die Autoren weisen darauf hin, dass die Kombination herkömmlicher statistischer Vorhersagemethoden mit interpretierbaren KI-Ansätzen dazu beitragen kann, die Vorhersagesignale besser zu verstehen und unsinnige Assoziationen zu vermeiden. Die Verbindung der Stärken beider Ansätze – der Fähigkeit von KI, große Datenmengen zu verarbeiten, und der Strenge der Statistik bei der Interpretation – ist wahrscheinlich der sicherste Weg nach vorn.

Einschränkungen dieser Übersicht

Da es sich um einen Übersichtsartikel und nicht um eine ursprüngliche Forschungsstudie handelt, fasst diese Arbeit bestehendes Wissen zusammen, anstatt neue experimentelle Daten vorzustellen. Die Autoren geben zu, dass Platzbeschränkungen eine detaillierte Diskussion des wichtigen Bereichs der KI und des experimentellen Designs verhinderten; sie gehen nur kurz auf den aufkommenden Bereich der generativen KI und medizinischer Chatbots ein, statt eine tiefgehende Analyse zu liefern.

Der Artikel spiegelt die Perspektiven zweier Forscher aus dem Vereinigten Königreich wider – einer aus dem Bereich Public Health an der Universität Oxford und einer aus Statistik und Medizin an der Universität Oxford sowie am Alan-Turing-Institut – und stützt sich stark auf Beispiele aus den Gesundheitskontexten der USA und des Vereinigten Königreichs. Das Feld der KI in der Medizin entwickelt sich rasch weiter, und einige Details (wie die Größe von Foundation-Modellen mit Billionen von Parametern) können sich schnell im Laufe der Zeit ändern.

Empfehlungen für die Zukunft

Basierend auf ihrer Analyse unterbreiten die Autoren mehrere praktische Empfehlungen für medizinische Wissenschaftler und Gesundheitseinrichtungen:

1. Veröffentlichen Sie den gesamten Code. Das Teilen von Code und das Bereitstellen klarer Aussagen zur Modellanpassung und zu den für die Genauigkeitsberichterstattung verwendeten zurückgehaltenen Daten erleichtern die externe Bewertung der Reproduzierbarkeit.
2. Seien Sie transparent bezüglich der Daten. Eine klare Berichterstattung über Ergebnisse und die Verfügbarkeit von Code erhöhen das Potenzial für die externe Replikation und Verfeinerung durch andere Gruppen.
3. Verwenden Sie vorab festgelegte Analysepläne. Für Beobachtungsstudien sollte ein statistischer Analyseplan, der vor der Datenanalyse erstellt wurde, erwartet werden, ebenso wie dies für randomisierte Studien üblich ist.
4. Kombinieren Sie KI mit herkömmlichen Methoden. Die Verwendung traditioneller statistischer Vorhersagemethoden alongside interpretierbarer KI-Methoden kann die Vorhersagesignale verdeutlichen und unsinnige Assoziationen verringern.
5. Setzen Sie Feature-Reduktion mit Bedacht ein. KI kann hochdimensionale Daten auf eine kleinere Menge von Merkmalen reduzieren, die dann mit herkömmlicher Statistik getestet werden können, sodass menschliche Analysten ihr fachspezifisches Wissen anwenden können.
6. Behalten Sie die menschliche Aufsicht bei. Die menschliche Urteilsfähigkeit wird auf absehbare Zeit notwendig bleiben, insbesondere weil verschiedene KI-Algorithmen unterschiedliche Schlussfolgerungen darstellen können und kausale Schlussfolgerungen Annahmen jenseits dessen erfordern, was die Daten allein offenbaren.
7. Befolgen Sie die Berichterstattungsrichtlinien. Neue Berichterstattungsrichtlinien und Empfehlungen für KI in der medizinischen Wissenschaft werden etabliert, um größeres Vertrauen und die Verallgemeinerbarkeit von Schlussfolgerungen zu gewährleisten.
8. Bewerten Sie die interne Reproduzierbarkeit. Die Daten sollten in Entdeckungs- und Testsätze aufgeteilt werden, und die Verallgemeinerbarkeit auf andere Datensätze muss sorgfältig bewertet werden.

Die Autoren betonen, dass der Umgang mit KI in der Medizin mit angemessener Strenge und Schutzmaßnahmen nicht nur eine technische Frage ist – er ist unerlässlich für die Patientensicherheit, die wissenschaftliche Integrität und die gesundheitliche Chancengleichheit.

Wie das Rahmenkonzept des Artikels deutlich macht, kann eine Technik, die für gezielte Werbung oder Wettervorhersagen funktioniert, nicht den strengen Anforderungen der medizinischen Diagnose und Risikovorhersage gerecht werden. Die Einsatzmöglichkeiten sind einfach zu hoch.

Häufig gestellte Fragen

Wofür wird künstliche Intelligenz (KI) in der Medizin derzeit eingesetzt?

KI wird im Gesundheitswesen bereits zum Auswerten von Mammographien, zur Vorhersage des Krankheitsrisikos, zur Analyse elektronischer Krankenakten und zur Unterstützung bei der medizinischen Dokumentation eingesetzt. Sie kann auch helfen, genomische Daten zu analysieren und große Datensätze auf die für klinische Fragen relevantesten Merkmale zu reduzieren. Diese Anwendungen zeigen das Potenzial von KI, doch es gibt wichtige Einschränkungen, die man verstehen sollte.

Wie unterscheidet sich KI von der traditionellen Statistik in der medizinischen Forschung?

Die traditionelle Statistik basiert auf einer sorgfältigen, manuellen Auswahl von Messungen und Merkmalen sowie auf expliziten Modellannahmen. KI sucht automatisch nach Mustern in großen Datensätzen und lernt die Merkmale selbstständig. Dies macht KI leistungsstark für Vorhersagen, kann sie aber im Vergleich zu herkömmlichen statistischen Methoden schwerer interpretierbar, überprüfbar und anfälliger für versteckte Verzerrungen machen.

Kann KI im Gesundheitswesen voreingenommen sein oder Fehler machen?

Ja. Ein reales KI-Algorithmus, der auf 200 Millionen Amerikaner angewendet wurde, um Hochrisikopatienten zu identifizieren, diskriminierte unbeabsichtigt schwarze Patienten. Da er auf den Gesundheitsausgaben trainiert wurde und systemische Faktoren dazu führen, dass für schwarze Patienten trotz schwererer Erkrankungen weniger ausgegeben wird, unterschätzte er deren medizinischen Bedarf. KI kann bestehende Verzerrungen in den Trainingsdaten übernehmen und verstärken.

Warum ist es schwierig, die Entscheidungen von KI in der Medizin zu überprüfen?

KI-Modelle nutzen oft das interne Lernen von Merkmalsrepräsentationen, was Merkmale erzeugt, die schwer zu interpretieren sind und über gesunden Menschenverstand verfügen. Sie können die Beweislinie von den Daten zu den Merkmalen häufig nicht nachvollziehen, was die Überprüfbarkeit und Verifizierung erschwert. Daher sind Transparenz, klare Berichterstattung und menschliche Aufsicht unerlässlich, wenn KI in der Patientenversorgung eingesetzt wird.

Was sollten Patienten über den Einsatz von KI in ihrer Behandlung fragen?

Patienten können fragen, wie KI in ihrer Versorgung eingesetzt wird, wie sie validiert wurde, welche Einschränkungen sie hat und wer die Aufsicht darüber ausübt. Eine Gesundheitseinrichtung, die zu diesen Themen klare Antworten gibt, zeigt eine verantwortungsvolle Implementierung. Patienten sollten sich auch bewusst sein, dass KI-Ergebnisse möglicherweise nicht auf andere Bevölkerungsgruppen übertragbar sind und Verzerrungen enthalten können.

Kann KI verwendet werden, um Krankheitsursachen zu verstehen, nicht nur das Risiko vorherzusagen?

KI ist besonders gut in der großflächigen Vorhersage, wie der Vorhersage des Krankheitsrisikos. Das Verständnis von Krankheitsmechanismen in der breiten Bevölkerung ist jedoch schwieriger. Es besteht eine Evidenzlücke zwischen der Vorhersage von Ergebnissen für ein Individuum und dem Treffen von Schlussfolgerungen über die Bevölkerung. Die Kombination von KI mit herkömmlicher Statistik und menschlichem Urteilsvermögen ist der sicherste Weg nach vorn.

Wie sieht die Zukunft von KI in der Medizin für Patienten aus?

Die Zukunft birgt sowohl Versprechen als auch Vorsicht. KI hat das Potenzial, die Medizin zu verändern, doch Patienten sollten sich der Einschränkungen wie schwieriger Interpretierbarkeit, schlechter Übertragbarkeit und Verzerrungen bewusst sein. Eine verantwortungsvolle Implementierung umfasst die Veröffentlichung des Codes, Transparenz bezüglich der Daten, die Verwendung vorab definierter Analysepläne und menschliche Aufsicht. Die Kombination von KI mit herkömmlichen Methoden ist wahrscheinlich der sicherste Ansatz.

Sollte ich eine zweite Meinung einholen, wenn KI in meiner medizinischen Diagnose oder meinem Behandlungsplan verwendet wird?

Ja, eine zweite Meinung kann wertvoll sein, wenn KI-Tools in Ihre Versorgung einbezogen sind. KI-Systeme können voreingenommen sein, wie ein Algorithmus gezeigt hat, der unbeabsichtigt schwarze Patienten diskriminierte, und ihre Ergebnisse sind schwer zu interpretieren oder zu überprüfen. Eine zweite Meinung von einem unabhängigen Experten kann dazu beitragen, sicherzustellen, dass Ihre Diagnose oder Ihr Behandlungsplan korrekt und angemessen ist, insbesondere wenn Sie Bedenken bezüglich des KI-Einsatzes haben. Diagnostic Detectives Network bietet unabhängige Zweitmeinungen von Experten an.

Quelleninformationen

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

Dieser patientenfreundliche Artikel basiert auf peer-reviewter Forschung und dient ausschließlich Bildungszwecken. Er stellt keine medizinische Beratung dar.