Inteligencia Artificial en Medicina: La Promesa, los Riesgos y lo que los Pacientes Deben Saber

Tabla de Contenidos

• Puntos Clave
• Por Qué Esta Investigación es Importante
• Un Siglo de Estadística en Medicina
• Cómo Aprende la IA: El Poder de la Detección Automatizada de Patrones
• Predicción vs. Comprensión: Dos Objetivos Diferentes
• ¿Funcionará la IA en el Mundo Real? Generalización e Interpretación
• Mantener la IA Honesta: Estabilidad y Garantías Estadísticas
• Cuando la IA se Equivoca: Sesgo en el Mundo Real
• Qué Significa Esto para los Pacientes
• Limitaciones de Esta Revisión
• Recomendaciones para el Futuro
• Preguntas Frecuentes
• Información de la Fuente

Puntos Clave

• La IA ya se utiliza en medicina para mamografías, predicción del riesgo de enfermedades y registros médicos electrónicos, pero tiene vulnerabilidades estadísticas.
• El descubrimiento automatizado de patrones de la IA puede amplificar sesgos ocultos; un algoritmo aplicado a 200 millones de estadounidenses discriminó a pacientes negros.
• Los modelos de IA suelen ser difíciles de interpretar y verificar, lo que requiere transparencia y supervisión humana para un uso médico seguro.
• Existe una brecha entre la capacidad de la IA para predecir resultados individuales y la comprensión de la enfermedad en la población general.
• Para un uso responsable de la IA se recomienda publicar el código, los planes de análisis preespecificados, combinar la IA con la estadística convencional y el criterio humano.

Por qué es importante esta investigación

La inteligencia artificial ya no es un concepto lejano en la atención sanitaria: ya está aquí. Los sistemas de IA se utilizan para leer mamografías, predecir el riesgo de enfermedad, analizar historias clínicas electrónicas e incluso ayudar a tomar notas médicas. Pero, ¿cómo sabemos que estos sistemas son seguros, precisos y justos?

Este artículo de revisión, escrito por David J. Hunter, M.B., B.S., del Nuffield Department of Population Health de la Universidad de Oxford, y Christopher Holmes, Ph.D., del Department of Statistics y del Alan Turing Institute de Londres, aborda una pregunta fundamental: ¿qué ocurre cuando el riguroso mundo de la estadística médica se encuentra con el potente pero a menudo opaco mundo de la inteligencia artificial?

Los autores describen una paradoja fundamental. La capacidad de la IA para descubrir automáticamente patrones en conjuntos de datos enormes la convierte en una herramienta de investigación médica increíblemente valiosa, pero esas mismas características la hacen estadísticamente vulnerable. Las técnicas adecuadas para la publicidad dirigida a votantes o consumidores pueden no cumplir las exigencias rigurosas de la predicción del riesgo o del diagnóstico en medicina. Este artículo explora esa tensión y lo que significa para el futuro de la atención al paciente.

Un siglo de estadística en medicina

La estadística surgió como disciplina diferenciada alrededor del comienzo del siglo XX. Durante ese período se desarrollaron conceptos fundamentales que transformarían la investigación médica, como el uso de la aleatorización en los ensayos clínicos, la comprobación de hipótesis, la inferencia basada en la verosimilitud, los valores P y el análisis bayesiano y la teoría de la decisión.

La estadística se convirtió rápidamente en algo esencial para las ciencias aplicadas. De hecho, en 2000, los editores del New England Journal of Medicine citaron la "Aplicación de la estadística a la medicina" como uno de los 11 avances más importantes de la ciencia médica en los 1000 años anteriores.

Entonces, ¿qué es exactamente la estadística? Los autores la definen como el razonamiento con información incompleta: la interpretación rigurosa y la comunicación de los hallazgos científicos a partir de los datos. La estadística incluye determinar el diseño óptimo de los experimentos y cuantificar con precisión la incertidumbre sobre las conclusiones, todo ello expresado mediante el lenguaje de la probabilidad.

Ahora, en el siglo XXI, la inteligencia artificial ha surgido como una nueva fuerza poderosa en la investigación médica. Este desarrollo está impulsado, en parte, por enormes expansiones de la potencia informática y de la disponibilidad de datos, pero con estos avances surgen nuevos retos estadísticos que esta revisión se propone abordar.

Cómo aprende la IA: el poder de la detección automatizada de patrones

El enfoque tradicional: estadística manual

El modelado estadístico tradicional se basa en una selección cuidadosa y manual de las mediciones y características de los datos que se incluirán en un análisis. Por ejemplo, un estadístico debe decidir qué covariables (factores que podrían influir en el resultado) incluir en un modelo de regresión, un método estadístico que examina las relaciones entre variables. También determina qué transformaciones o estandarizaciones de las mediciones son necesarias.

Las técnicas semiautomatizadas de reducción de datos, como los bosques aleatorios y la regresión escalonada con selección hacia delante o hacia atrás, han ayudado a los estadísticos en este proceso de selección durante décadas. En este marco tradicional, los supuestos y las características del modelado suelen ser explícitos, y el número de parámetros del modelo suele conocerse.

La revolución de la IA: aprendizaje automático de características

Posiblemente el aspecto más impresionante y distintivo de la IA es su capacidad automatizada para buscar y extraer características arbitrarias, complejas y orientadas a la tarea a partir de los datos, un proceso denominado aprendizaje de representación de características. Las características se diseñan algorítmicamente a partir de los datos durante una fase de entrenamiento para descubrir transformaciones de los datos que sean correctas para la tarea de aprendizaje.

Los algoritmos de IA eliminan en gran medida la necesidad de que los analistas preespecifiquen características o seleccionen manualmente las transformaciones de las variables. Esto es especialmente beneficioso en ámbitos de datos grandes y complejos, como:

• Análisis de imágenes (como mamografías o láminas de patología)
• Genómica (estudio del conjunto completo de genes de un organismo)
• Modelado de historias clínicas electrónicas (versiones digitales de los historiales médicos de los pacientes)

Los modelos de IA pueden buscar entre potencialmente miles de millones de transformaciones de covariables no lineales para reducir un gran número de variables a un conjunto más pequeño de características adaptadas a la tarea. De manera algo paradójica, aumentar la complejidad de un modelo de IA mediante parámetros adicionales—que es lo que ocurre en el aprendizaje profundo—en realidad ayuda al modelo a encontrar conjuntos de características internas más ricos, siempre que los métodos de entrenamiento se adapten adecuadamente.

El lado oscuro de la paradoja

El problema es el siguiente: las características que los ingenieros de IA suelen crear están fuera del alcance de lo que los humanos pueden crear, y por eso la IA tiene un desempeño tan impresionante. Pero esas mismas características suelen ser difíciles de interpretar, son frágiles (propensas a fallar) cuando cambian los datos y carecen de sentido común a la hora de utilizar el conocimiento previo y las comprobaciones cualitativas que los estadísticos aplican de forma habitual.

Los modelos de IA a menudo no pueden rastrear la línea de evidencia desde los datos hasta las características, lo que dificulta la auditabilidad y la verificación. Esto significa que se necesitan mayores controles y equilibrios para garantizar la validez y la generalización de los hallazgos científicos habilitados por la IA.

Los autores también comentan brevemente el campo emergente de la IA generativa, como los grandes modelos de lenguaje y los chatbots médicos que podrían utilizarse para la toma de notas médicas en las historias clínicas electrónicas. Estos "modelos fundacionales" utilizan el aprendizaje autosupervisado con grandes cantidades de datos de entrenamiento no documentados, con funciones objetivo entrenadas utilizando billones de parámetros (en el momento de escribir este artículo). Esto contrasta fuertemente con el aprendizaje "supervisado", donde los datos de entrenamiento son conocidos y están etiquetados según los resultados clínicos, y el objetivo del entrenamiento es claro y específico. Dada la opacidad de estos modelos generativos, los autores instan a extremar la precaución en las aplicaciones sanitarias.

Predicción frente a comprensión: dos objetivos diferentes

La IA es especialmente adecuada para—y en gran medida está diseñada para—tareas de predicción a gran escala. El objetivo del entrenamiento es claro y la precisión predictiva suele estar bien caracterizada. Un buen ejemplo es la predicción del riesgo de enfermedad.

Sin embargo, el objetivo final de la mayoría de los estudios médicos no es explícitamente predecir el riesgo. Más bien, es comprender algún mecanismo biológico o causa de enfermedad en la población en general, o ayudar a desarrollar nuevas terapias. Los autores enfatizan que existe una brecha de evidencia entre un buen modelo predictivo que opera a nivel individual y la capacidad de hacer afirmaciones inferenciales sobre la población.

La estadística se ocupa principalmente de la inferencia poblacional: generalizar la evidencia de un estudio a una hipótesis científica sobre la población en general. La predicción es una tarea importante pero más sencilla; la inferencia científica suele tener una mayor influencia en la comprensión mecanicista.

Como observó Hipócrates hace siglos: "Es más importante saber qué tipo de persona tiene una enfermedad que saber qué tipo de enfermedad tiene una persona."

Un ejemplo del mundo real: la pandemia de Covid-19

Durante la pandemia de Covid-19, se desarrollaron diversas herramientas de predicción para determinar si una persona tenía infección por SARS-CoV-2 (el virus que causa la Covid-19). Sin embargo, pasar de la predicción individual a la comprensión de la prevalencia poblacional—e identificar qué subgrupos de la población tenían mayor riesgo—resultó mucho más difícil.

¿Cómo medimos la precisión predictiva?

Un desafío adicional es que existen muchas formas de medir y reportar la precisión predictiva, incluyendo:

• Área bajo la curva de características operativas del receptor (una medida de qué tan bien una prueba distingue entre grupos)
• Precisión y exhaustividad (medidas de exactitud y completitud)
• Error cuadrático medio (promedio de los cuadrados de los errores)
• Valor predictivo positivo (probabilidad de que un resultado positivo de la prueba sea correcto)
• Tasa de clasificación errónea (con qué frecuencia el modelo obtiene la respuesta incorrecta)
• Índice de reclasificación neta (si un modelo nuevo mejora la clasificación)
• Puntuación de probabilidad logarítmica (una medida de la confianza de la predicción)

Elegir la medida adecuada para el contexto es de vital importancia, porque la exactitud en una medida puede no traducirse en exactitud en otra, y puede no relacionarse con una medida de rendimiento o seguridad clínicamente significativa.

En cambio, los objetivos inferenciales para las estadísticas poblacionales tienden a ser menos ambiguos, y la incertidumbre se caracteriza claramente mediante valores de P, intervalos de confianza e intervalos creíbles. Aun así, los modelos de predicción de IA robustos y precisos indican que las señales repetibles y las asociaciones estables en los datos merecen una investigación más profunda.

Aprendizaje automático causal: donde se encuentran la IA y la estadística

Un punto de encuentro interesante entre los métodos de predicción de IA y la inferencia estadística es el aprendizaje automático causal, que presta especial atención a las cantidades inferenciales. Al adoptar marcos de modelado causal estructural o de resultados potenciales, con herramientas como los gráficos acíclicos dirigidos (diagramas que muestran relaciones de causa y efecto), los investigadores pueden usar el conocimiento del dominio para reducir la probabilidad de que un modelo de IA cometa errores. Estos errores incluyen especificar incorrectamente la relación temporal entre la exposición y el resultado, condicionar por una variable causada tanto por la exposición como por la enfermedad (un "colisionador") o resaltar asociaciones espurias (como un efecto de lote en un estudio de biomarcadores).

Los métodos de inferencia causal también pueden aplicarse a la IA para ayudar a interpretar imágenes radiológicas o patológicas y para apoyar la toma de decisiones clínicas y el diagnóstico. Sin embargo, los autores subrayan que es probable que el juicio humano siga siendo necesario en el futuro previsible, aunque solo sea porque diferentes algoritmos de IA pueden presentarnos conclusiones diferentes. Además, el análisis causal a partir de datos observacionales requiere supuestos que están fuera de lo que se puede aprender solo de los datos, para evitar el sesgo por determinación, mediación y confusión.

¿Funcionará la IA en el mundo real? Generalización e interpretación

Uno de los mayores desafíos al interpretar los resultados de la IA es que los algoritmos de representación interna de características están diseñados para adaptar automáticamente su complejidad a la tarea en cuestión, con una flexibilidad casi infinita en algunos enfoques.

Esta flexibilidad es una gran fortaleza, pero también requiere cuidado para evitar el sobreajuste, que ocurre cuando un modelo aprende tan bien el ruido y las peculiaridades aleatorias de sus datos de entrenamiento que tiene un rendimiento deficiente con datos nuevos no vistos.

Los límites de las garantías estadísticas tradicionales

El uso de la regularización (técnicas que evitan el sobreajuste penalizando la complejidad del modelo) y la optimización estocástica controlada de los parámetros del modelo durante el entrenamiento pueden ayudar a prevenir el sobreajuste. Pero estas técnicas también significan que los algoritmos de IA tienen nociones mal definidas de grados de libertad estadísticos y del número de parámetros libres. Las garantías estadísticas tradicionales contra el exceso de optimismo no pueden usarse en el contexto de la IA.

En su lugar, los investigadores deben sustituir técnicas como la validación cruzada y las muestras reservadas para imitar el verdadero rendimiento fuera de la muestra. La contrapartida es que se reduce la cantidad de datos disponibles para el descubrimiento. En conjunto, estos factores crean un riesgo real de sobreinterpretar la generalización y la reproducibilidad de los resultados.

Un ejemplo notable: IA y cribado del cáncer de mama

Los autores destacan un caso bien conocido que involucra un estudio de McKinney et al. sobre el uso de IA para predecir el cáncer de mama a partir de mamografías. El estudio mostró un alto potencial de la IA en el cribado del cáncer de mama. Sin embargo, Haibe-Kains y sus colegas pidieron públicamente una mayor transparencia, afirmando: "En su estudio, McKinney et al. mostraron el alto potencial de la IA para el cribado del cáncer de mama. Sin embargo, la falta de detalles de los métodos y del código del algoritmo socava su valor científico."

Esto ilustra por qué la presentación clara de los resultados y la disponibilidad del código son esenciales para la replicación externa y el perfeccionamiento por parte de otros grupos de investigación, aunque esto puede verse limitado por la tendencia a buscar derechos de propiedad intelectual para productos de IA comerciales.

Uso de la IA para reducir grandes volúmenes de datos

Los enfoques de IA pueden ser útiles para reducir un conjunto de datos con un número muy grande de características, como los conjuntos de datos "-ómicos" (metabolómicos, proteómicos o genómicos), a un número menor de características que luego pueden probarse con métodos estadísticos convencionales.

Los métodos de IA populares que proporcionan clasificaciones de "relevancia de características" de las covariables incluyen:

• Bosques aleatorios (un conjunto de árboles de decisión)
• XGBoost (un algoritmo de aumento de gradiente)
• Árboles de regresión aditivos bayesianos

Los métodos estadísticos como el operador de selección y contracción mínima absoluta (LASSO) utilizan la selección explícita de variables como parte del ajuste del modelo. La reducción de características ayuda al analista humano a examinar los datos de manera más eficaz y a aplicar restricciones basadas en el conocimiento previo del tema. Por ejemplo, un investigador podría saber que la característica A a menudo se confunde con la característica X, o que un período de latencia de varios años entre la exposición a la característica A y el desenlace de la enfermedad significa que no se espera ninguna relación en el seguimiento temprano.

IA frente a estadística convencional: una comparación lado a lado

El artículo proporciona una comparación detallada de los métodos de IA y la estadística convencional. Las diferencias clave incluyen:

• Hipótesis previas: la IA es agnóstica o muy general respecto a las hipótesis; la estadística convencional especifica las hipótesis como primarias, secundarias o exploratorias.
• Técnicas: la IA utiliza bosques aleatorios, redes neuronales y XGBoost; la estadística convencional utiliza comparaciones paramétricas y no paramétricas, regresión y modelos de supervivencia con predictores lineales.
• Estabilidad: los análisis de IA son más propensos a la inestabilidad debido a los dominios de aplicación y a las elecciones del usuario en la especificación del algoritmo; la estadística convencional sigue un plan de análisis preespecificado con mínimas elecciones definidas por el usuario.
• Aplicaciones: la IA destaca en imágenes, salidas de monitores, registros médicos electrónicos y procesamiento del lenguaje natural; la estadística convencional se adapta a datos con menos predictores, datos tabulares y ensayos aleatorizados.
• Propósito: la IA se centra en el descubrimiento de patrones, la representación automática de características, la reducción de características y la predicción; la estadística convencional se centra en la inferencia, la comprobación de factores específicos, el control de factores de confusión y la cuantificación de la incertidumbre.
• Reproducibilidad: la IA a menudo proporciona reproducibilidad interna (validación cruzada o muestras divididas); la estadística convencional idealmente proporciona reproducibilidad externa con datos nuevos.
• Barreras: la IA enfrenta algoritmos propietarios no disponibles para otros investigadores y una presentación de informes poco clara; la estadística convencional enfrenta un progreso lento en el intercambio de datos primarios.
• Interpretabilidad: la IA a menudo es una caja negra; la estadística convencional tiene características explícitas y grados de libertad claros.
• Equidad: el aprendizaje de características basado en datos de la IA es susceptible a sesgos en los datos, lo que agrava las inequidades en salud; los modelos de estadística convencional se verifican más fácilmente en cuanto a equidad cuando se dispone de datos relevantes.

Mantener la honestidad de la IA: estabilidad y garantías estadísticas

La ciencia médica es un proceso iterativo de observación y refinamiento de hipótesis: ciclos de experimentación, análisis y conjeturas que conducen a nuevos experimentos y, en última instancia, a un nivel de evidencia que refuta las teorías existentes o respalda nuevas terapias y recomendaciones de estilo de vida.

Los ensayos aleatorizados de medicamentos en investigación históricamente se han mantenido bajo un alto estándar de rigor. Las preocupaciones sobre la sobreinterpretación de los análisis de criterios de valoración secundarios y de subgrupos han llevado a un enfoque aún más fuerte en la descripción preespecificada de las hipótesis primarias y en el control de la tasa de error familiar (la probabilidad de obtener al menos un hallazgo falso positivo entre múltiples pruebas) para limitar los resultados falsos positivos.

Los protocolos ahora suelen especificar:

• Los estimandos precisos (las cantidades exactas que se miden)
• Los métodos de análisis que se utilizarán para obtener los valores de P
• Las covariables que se deben controlar
• Incluso las tablas ficticias que se llenarán una vez que los datos estén completos

Los análisis en estudios observacionales suelen estar prespecificados de manera menos rigurosa, aunque cada vez se espera más que un plan de análisis estadístico establecido antes de que comience el análisis de datos se incluya como material complementario en los informes publicados.

El problema de la IA: patrones sin prespecificación

Los enfoques de IA a menudo buscan patrones en los datos que no están prespecificados, lo cual es una de sus fortalezas. Pero la desventaja es que el potencial de resultados falsos positivos aumenta a menos que se incorporen procedimientos rigurosos para evaluar la reproducibilidad.

Se han establecido nuevas pautas de presentación de informes y recomendaciones para la IA en la ciencia médica para garantizar una mayor confianza y generalización de las conclusiones. Los autores también señalan que los algoritmos de IA altamente adaptativos heredan todos los sesgos y la falta de representatividad que puedan estar presentes en los datos de entrenamiento. Al utilizar herramientas de predicción de IA de caja negra, puede ser difícil juzgar si las señales predictivas surgen de factores de confusión debido a sesgos ocultos en los datos.

Los métodos del campo de la inteligencia artificial explicable (XAI) pueden ayudar a contrarrestar el aprendizaje opaco de representaciones de características. Sin embargo, para aplicaciones en las que la seguridad es un aspecto crítico, la naturaleza de caja negra de los modelos de IA exige una consideración y justificación cuidadosas.

Cuando la IA se equivoca: sesgo en el mundo real

Uno de los ejemplos más sorprendentes de sesgo de la IA en la atención médica proviene de la investigación de Obermeyer y sus colegas. El equipo describió un algoritmo basado en IA que se aplicó a una población de 200 millones de personas en los Estados Unidos cada año para identificar a los pacientes con mayor riesgo de incurrir en costos sustanciales de atención médica y derivarlos a "programas de gestión de atención de alto riesgo".

El análisis sugirió que el algoritmo discriminaba involuntariamente a los pacientes negros. ¿La razón? En todos los niveles de gasto sanitario y de edad, los pacientes negros presentaban más afecciones coexistentes que los pacientes blancos. Dado que el algoritmo se entrenó con el gasto sanitario como indicador indirecto de las necesidades de salud —y que factores sistémicos conducen a un menor gasto en los pacientes negros incluso cuando están más enfermos—, el algoritmo subestimaba sistemáticamente las necesidades de salud de los pacientes negros.

Este ejemplo ilustra dramáticamente una preocupación central que plantean los autores: los sistemas de IA entrenados con datos del mundo real pueden perpetuar e incluso amplificar las inequidades existentes en la atención médica.

Lo que esto significa para los pacientes

Para los pacientes, el mensaje es a la vez esperanzador y cauteloso. La IA tiene el potencial de transformar la medicina de maneras poderosas:

• Leer e interpretar imágenes médicas como mamografías con alta precisión
• Predecir el riesgo de enfermedad a partir de registros médicos electrónicos
• Analizar datos genómicos y otros datos "-ómicos" para descubrir mecanismos de enfermedad
• Reducir conjuntos de datos masivos a las características más relevantes para preguntas clínicas

Pero los pacientes también deben ser conscientes de las limitaciones:

• Los resultados de la IA pueden ser difíciles de interpretar y verificar
• Es posible que los modelos de IA no se generalicen a poblaciones diferentes de aquellas con las que fueron entrenados
• Los sesgos en los datos de entrenamiento pueden dar lugar a resultados injustos o inexactos para ciertos grupos
• La falta de transparencia en los algoritmos comerciales dificulta la validación independiente

Los pacientes pueden defenderse a sí mismos haciendo preguntas sobre cómo se está utilizando la IA en su atención. La disposición de las instituciones de atención médica a proporcionar respuestas claras sobre la validación, las limitaciones y la supervisión de las herramientas de IA es una buena señal de una implementación responsable.

Los autores señalan que el uso de métodos de predicción estadística convencionales junto con métodos de IA interpretables puede ayudar a comprender las señales de predicción y puede mitigar asociaciones sin sentido. Combinar lo mejor de ambos enfoques—el poder de la IA para manejar grandes cantidades de datos y el rigor de la estadística en la interpretación—es probablemente el camino más seguro a seguir.

Limitaciones de esta revisión

Como artículo de revisión y no un estudio de investigación original, este documento sintetiza el conocimiento existente en lugar de presentar nuevos datos experimentales. Los autores reconocen que las limitaciones de espacio impidieron una discusión detallada del área importante de la IA y el diseño experimental, y solo comentan brevemente el área emergente de la IA generativa y los chatbots médicos en lugar de proporcionar un análisis profundo.

El artículo refleja las perspectivas de dos investigadores con sede en el Reino Unido—uno de salud poblacional en Oxford y otro de estadística y medicina en Oxford y el Instituto Alan Turing—y se basa en gran medida en ejemplos de los contextos de atención médica de EE. UU. y el Reino Unido. El campo de la IA en medicina está evolucionando rápidamente, y algunos detalles específicos (como la escala de los modelos fundacionales con billones de parámetros) pueden cambiar rápidamente con el tiempo.

Recomendaciones para el futuro

Con base en su análisis, los autores ofrecen varias recomendaciones prácticas para científicos médicos e instituciones de atención médica:

1. Publicar todo el código. Compartir el código y proporcionar declaraciones claras sobre el ajuste del modelo y los datos reservados utilizados para informar la precisión facilita la evaluación externa de la reproducibilidad.
2. Ser transparente sobre los datos. La presentación clara de los resultados y la disponibilidad del código aumentan el potencial de replicación externa y refinamiento por parte de otros grupos.
3. Utilizar planes de análisis preespecificados. Para los estudios observacionales, se debe esperar un plan de análisis estadístico establecido antes del análisis de datos, tal como se hace para los ensayos aleatorizados.
4. Combinar la IA con métodos convencionales. El uso de métodos de predicción estadística tradicionales junto con métodos de IA interpretables puede aclarar las señales de predicción y mitigar asociaciones sin sentido.
5. Emplear la reducción de características con prudencia. La IA puede reducir datos de alta dimensionalidad a un conjunto más pequeño de características que luego pueden probarse con estadística convencional, lo que permite a los analistas humanos aplicar conocimientos específicos de la materia.
6. Mantener la supervisión humana. El juicio humano será necesario en el futuro previsible, especialmente porque diferentes algoritmos de IA pueden presentar conclusiones diferentes, y la inferencia causal requiere suposiciones que van más allá de lo que los datos por sí solos pueden revelar.
7. Seguir las pautas de presentación de informes. Se están estableciendo nuevas pautas y recomendaciones de presentación de informes para la IA en la ciencia médica para garantizar una mayor confianza y generalización de las conclusiones.
8. Evaluar la reproducibilidad interna. Los datos deben dividirse en conjuntos de descubrimiento y de prueba, y la generalización a otros conjuntos de datos debe evaluarse cuidadosamente.

Los autores enfatizan que abordar la IA en medicina con el rigor y las salvaguardas adecuadas no es solo una preocupación técnica—es esencial para la seguridad del paciente, la integridad científica y la equidad en salud.

Como deja claro el planteamiento del artículo, una técnica que funciona para la publicidad dirigida o la predicción meteorológica puede no cumplir con las exigencias rigurosas del diagnóstico médico y la predicción de riesgos. Lo que está en juego es simplemente demasiado alto.

Preguntas frecuentes

¿Para qué se utiliza actualmente la inteligencia artificial (IA) en medicina?

La IA ya se utiliza en la atención médica para leer mamografías, predecir el riesgo de enfermedades, analizar registros médicos electrónicos y ayudar con la toma de notas médicas. También puede ayudar a analizar datos genómicos y reducir conjuntos de datos masivos a las características más relevantes para preguntas clínicas. Estas aplicaciones muestran el potencial de la IA, pero conllevan limitaciones importantes que es necesario comprender.

¿En qué se diferencia la IA de la estadística tradicional en la investigación médica?

La estadística tradicional se basa en una selección cuidadosa y manual de mediciones y características, con supuestos de modelado explícitos. La IA busca automáticamente patrones en conjuntos de datos vastos y aprende las características por sí misma. Esto hace que la IA sea poderosa para la predicción, pero puede dificultar su interpretación, verificación y comprobación de sesgos ocultos en comparación con los métodos estadísticos convencionales.

¿Puede la IA tener sesgos o cometer errores en la atención médica?

Sí. Un algoritmo de IA del mundo real aplicado a 200 millones de estadounidenses para identificar pacientes de alto riesgo discriminó involuntariamente a los pacientes negros. Como fue entrenado con el gasto en atención médica, y los factores sistémicos conducen a un menor gasto en pacientes negros incluso cuando están más enfermos, subestimó sus necesidades de salud. La IA puede heredar y amplificar los sesgos existentes en los datos de entrenamiento.

¿Por qué es difícil verificar las decisiones de la IA en medicina?

Los modelos de IA a menudo utilizan aprendizaje interno de representación de características, lo que crea características difíciles de interpretar y que carecen de sentido común. Con frecuencia no pueden rastrear la línea de evidencia desde los datos hasta las características, lo que dificulta la auditabilidad y la verificación. Por eso la transparencia, la presentación clara de informes y la supervisión humana son esenciales cuando se utiliza la IA en la atención de pacientes.

¿Qué deberían preguntar los pacientes sobre la IA utilizada en su atención?

Los pacientes pueden preguntar cómo se está utilizando la IA en su atención, cómo fue validada, cuáles son sus limitaciones y quién la supervisa. Una institución de salud que da respuestas claras sobre estos temas está demostrando una implementación responsable. Los pacientes también deben saber que los resultados de la IA pueden no generalizarse a poblaciones diferentes y pueden contener sesgos.

¿Se puede utilizar la IA para comprender las causas de las enfermedades, no solo para predecir el riesgo?

La IA es especialmente buena en la predicción a gran escala, como predecir el riesgo de enfermedades. Sin embargo, comprender los mecanismos de las enfermedades en la población general es más difícil. Existe una brecha de evidencia entre predecir resultados para un individuo y hacer afirmaciones inferenciales sobre la población. Combinar la IA con la estadística convencional y el juicio humano es el camino más seguro a seguir.

¿Cómo se ve el futuro de la IA en medicina para los pacientes?

El futuro encierra tanto promesas como cautela. La IA tiene el potencial de transformar la medicina, pero los pacientes deben conocer las limitaciones, como la interpretación difícil, la escasa generalización y el sesgo. La implementación responsable incluye publicar el código, transparencia sobre los datos, uso de planes de análisis preespecificados y supervisión humana. La combinación de la IA con métodos convencionales probablemente sea el enfoque más seguro.

¿Debería obtener una segunda opinión si se utiliza IA en mi diagnóstico médico o plan de tratamiento?

Sí, una segunda opinión puede ser valiosa cuando hay herramientas de IA involucradas en su atención. Los sistemas de IA pueden tener sesgos, como lo demostró un algoritmo que discriminó involuntariamente a los pacientes negros, y sus resultados pueden ser difíciles de interpretar o verificar. Una segunda opinión de un experto independiente puede ayudar a garantizar que su diagnóstico o plan de tratamiento sea preciso y apropiado, especialmente si tiene inquietudes sobre cómo se utilizó la IA. Diagnostic Detectives Network ofrece segundas opiniones independientes de expertos.

Información de la fuente

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

Este artículo orientado al paciente se basa en investigaciones revisadas por pares y tiene fines educativos. No constituye asesoramiento médico.