Índice
- Pontos-Chave
- Por que Esta Pesquisa é Importante
- Um Século de Estatística na Medicina
- Como a IA Aprende: O Poder da Detecção Automatizada de Padrões
- Previsão vs. Compreensão: Dois Objetivos Diferentes
- A IA Funcionará no Mundo Real? Generalização e Interpretação
- Mantendo a IA Honesta: Estabilidade e Garantias Estatísticas
- Quando a IA Erra: Viés no Mundo Real
- O que Isso Significa para os Pacientes
- Limitações Desta Revisão
- Recomendações para o Futuro
- Perguntas Frequentes
- Informações da Fonte
Pontos-Chave
- A IA já é usada na medicina para mamografias, previsão de risco de doenças e prontuários eletrônicos, mas possui vulnerabilidades estatísticas.
- A descoberta automatizada de padrões da IA pode amplificar vieses ocultos; um algoritmo aplicado a 200 milhões de americanos discriminou pacientes negros.
- Os modelos de IA são frequentemente difíceis de interpretar e verificar, exigindo transparência e supervisão humana para uso médico seguro.
- Existe uma lacuna entre a capacidade da IA de prever desfechos individuais e a compreensão da doença na população em geral.
- Recomenda-se a divulgação do código, planos de análise pré-especificados, a combinação da IA com estatísticas convencionais e o julgamento humano para o uso responsável da IA.
Por Que Esta Pesquisa É Importante
A inteligência artificial não é mais um conceito distante na área da saúde — ela já está presente. Os sistemas de IA estão sendo usados para interpretar mamografias, prever o risco de doenças, analisar prontuários eletrônicos e até auxiliar na redação de anotações médicas. Mas como sabemos se esses sistemas são seguros, precisos e justos?
Este artigo de revisão, escrito por David J. Hunter, M.B., B.S., do Nuffield Department of Population Health da Universidade de Oxford, e Christopher Holmes, Ph.D., do Department of Statistics e do Alan Turing Institute em Londres, aborda uma questão crítica: o que acontece quando o mundo rigoroso da estatística médica encontra o mundo poderoso, mas muitas vezes opaco, da inteligência artificial?
Os autores descrevem um paradoxo fundamental. A capacidade da IA de descobrir automaticamente padrões em conjuntos de dados enormes a torna uma ferramenta de pesquisa médica incrivelmente valiosa — mas essas mesmas características a tornam estatisticamente vulnerável. Técnicas adequadas para publicidade direcionada a eleitores ou consumidores podem não atender às exigências rigorosas da predição de risco ou do diagnóstico em medicina. Este artigo explora essa tensão e o que ela significa para o futuro do cuidado ao paciente.
Um Século de Estatística na Medicina
A estatística surgiu como uma disciplina distinta por volta do início do século XX. Durante esse período, foram desenvolvidos conceitos fundamentais que transformariam a pesquisa médica, incluindo o uso de randomização em ensaios clínicos, teste de hipóteses, inferência baseada em verossimilhança, valores de P e análise bayesiana e teoria da decisão.
A estatística rapidamente se tornou essencial para as ciências aplicadas. De fato, em 2000, os editores do New England Journal of Medicine citaram a "Aplicação da Estatística à Medicina" como um dos 11 desenvolvimentos mais importantes da ciência médica nos últimos 1000 anos.
Então, o que exatamente é estatística? Os autores a definem como o raciocínio com informações incompletas — a interpretação rigorosa e a comunicação dos achados científicos a partir dos dados. A estatística inclui a determinação do desenho ideal de experimentos e a quantificação precisa da incerteza sobre as conclusões, tudo expresso por meio da linguagem da probabilidade.
Agora, no século XXI, a inteligência artificial surgiu como uma nova força poderosa na pesquisa médica. Esse desenvolvimento é impulsionado, em parte, por enormes expansões no poder computacional e na disponibilidade de dados — mas com esses avanços surgem novos desafios estatísticos que esta revisão se propõe a abordar.
Como a IA Aprende: O Poder da Detecção Automatizada de Padrões
A Abordagem Tradicional: Estatística Manual
A modelagem estatística tradicional depende da seleção cuidadosa e manual de medições e características dos dados a serem incluídas em uma análise. Por exemplo, um estatístico deve decidir quais covariáveis (fatores que podem influenciar o desfecho) incluir em um modelo de regressão — um método estatístico que examina as relações entre variáveis. Ele também determina quais transformações ou padronizações das medições são necessárias.
Técnicas semiautomatizadas de redução de dados, como florestas aleatórias e regressão stepwise com seleção progressiva ou regressiva, têm auxiliado os estatísticos nesse processo de seleção há décadas. Nessa estrutura tradicional, as suposições e características da modelagem são tipicamente explícitas, e o número de parâmetros no modelo geralmente é conhecido.
A Revolução da IA: Aprendizado Automático de Características
Indiscutivelmente, o aspecto mais impressionante e distintivo da IA é sua capacidade automatizada de buscar e extrair características arbitrárias, complexas e orientadas à tarefa a partir dos dados — um processo chamado aprendizado de representação de características. As características são projetadas algoritmicamente a partir dos dados durante uma fase de treinamento para descobrir transformações de dados que sejam corretas para a tarefa de aprendizado.
Os algoritmos de IA eliminam em grande parte a necessidade de os analistas pré-especificarem características ou curarem manualmente as transformações de variáveis. Isso é especialmente benéfico em domínios de dados grandes e complexos, como:
- Análise de imagens (como mamografias ou lâminas de patologia)
- Genômica (o estudo do conjunto completo de genes de um organismo)
- Modelagem de registros eletrônicos de saúde (versões digitais dos históricos médicos dos pacientes)
Os modelos de IA podem pesquisar entre potencialmente bilhões de transformações não lineares de covariáveis para reduzir um grande número de variáveis a um conjunto menor de características adaptadas à tarefa. De forma um tanto paradoxal, aumentar a complexidade de um modelo de IA por meio de parâmetros adicionais — o que acontece no aprendizado profundo — na verdade ajuda o modelo a encontrar conjuntos internos de características mais ricos, desde que os métodos de treinamento sejam adequadamente adaptados.
O Lado Sombrio do Paradoxo
Aqui está o problema: as características que os engenheiros de IA costumam criar estão além do escopo do que os humanos podem criar, e é por isso que a IA tem um desempenho tão impressionante. Mas essas mesmas características costumam ser difíceis de interpretar, são frágeis (propensas a quebrar) quando os dados mudam e carecem de bom senso no que diz respeito ao uso de conhecimento prévio e verificações qualitativas que os estatísticos aplicam rotineiramente.
Os modelos de IA muitas vezes não conseguem rastrear a linha de evidência dos dados até as características, o que torna a auditabilidade e a verificação desafiadoras. Isso significa que são necessários mais freios e contrapesos para garantir a validade e a generalização dos achados científicos habilitados por IA.
Os autores também comentam brevemente sobre o campo emergente da IA generativa — como grandes modelos de linguagem e chatbots médicos que podem ser usados para anotações médicas em registros eletrônicos de saúde. Esses "modelos de fundação" usam aprendizado autossupervisionado em vastas quantidades de dados de treinamento não documentados, com funções objetivo treinadas usando trilhões de parâmetros (no momento da redação). Isso contrasta fortemente com o aprendizado "supervisionado", em que os dados de treinamento são conhecidos e rotulados de acordo com desfechos clínicos, e o objetivo do treinamento é claro e direcionado. Dada a opacidade desses modelos generativos, os autores recomendam cautela extra para aplicações em saúde.
Predição vs. Compreensão: Dois Objetivos Diferentes
A IA é especialmente adequada para — e em grande parte projetada para — tarefas de predição em larga escala. O objetivo do treinamento é claro, e a acurácia preditiva geralmente é bem caracterizada. Um bom exemplo é prever o risco de doença.
No entanto, o objetivo final da maioria dos estudos médicos não é explicitamente prever risco. Em vez disso, é compreender algum mecanismo biológico ou causa de doença na população em geral, ou auxiliar no desenvolvimento de novas terapias. Os autores enfatizam que existe uma lacuna de evidência entre um bom modelo preditivo que opera no nível individual e a capacidade de fazer afirmações inferenciais sobre a população.
A estatística se preocupa principalmente com a inferência populacional — generalizar a evidência de um estudo para uma hipótese científica sobre a população mais ampla. A predição é uma tarefa importante, porém mais simples; a inferência científica frequentemente tem maior influência na compreensão mecanicista.
Como Hipócrates observou há séculos: "É mais importante saber que tipo de pessoa tem uma doença do que saber que tipo de doença uma pessoa tem."
Um Exemplo do Mundo Real: A Pandemia de Covid-19
Durante a pandemia de Covid-19, várias ferramentas de predição foram desenvolvidas para determinar se uma pessoa tinha infecção por SARS-CoV-2 (o vírus que causa a Covid-19). No entanto, passar da predição individual para a compreensão da prevalência populacional — e identificar quais subgrupos da população estavam em maior risco — mostrou-se muito mais desafiador.
Como Medimos a Acurácia Preditiva?
Um desafio adicional é que existem muitas maneiras de medir e relatar a acurácia preditiva, incluindo:
- Área sob a curva característica de operação do receptor (uma medida de quão bem um teste distingue entre grupos)
- Precisão e revocação (medidas de exatidão e completude)
- Erro quadrático médio (média dos quadrados dos erros)
- Valor preditivo positivo (probabilidade de que um resultado de teste positivo esteja correto)
- Taxa de classificação incorreta (com que frequência o modelo erra a resposta)
- Índice de reclassificação líquida (se um novo modelo melhora a classificação)
- Escore de probabilidade logarítmica (uma medida de confiança da predição)
Escolher a medida apropriada para o contexto é de vital importância, pois a precisão em uma medida pode não se traduzir em precisão em outra — e pode não estar relacionada a uma medida clinicamente significativa de desempenho ou segurança.
Em contraste, os alvos inferenciais para estatísticas populacionais tendem a ser menos ambíguos, e a incerteza é claramente caracterizada usando valores de P, intervalos de confiança e intervalos de credibilidade. Mesmo assim, modelos de predição de IA robustos e precisos indicam que sinais repetíveis e associações estáveis nos dados merecem investigação adicional.
Aprendizado de Máquina Causal: Onde a IA e a Estatística se Encontram
Um ponto de encontro interessante entre os métodos de predição de IA e a inferência estatística é o aprendizado de máquina causal, que dá atenção especial às quantidades inferenciais. Ao adotar estruturas de modelagem causal estrutural ou de resultados potenciais — com ferramentas como grafos acíclicos direcionados (diagramas que mostram relações de causa e efeito) — os pesquisadores podem usar o conhecimento do domínio para reduzir a probabilidade de que um modelo de IA cometa erros. Esses erros incluem especificar incorretamente a relação temporal entre exposição e desfecho, condicionar em uma variável que é causada tanto pela exposição quanto pela doença (um "colisor") ou destacar associações espúrias (como um efeito de lote em um estudo de biomarcador).
Métodos de inferência causal também podem ser aplicados à IA para ajudar a interpretar imagens radiológicas ou patológicas e para apoiar a tomada de decisão clínica e o diagnóstico. No entanto, os autores enfatizam que o julgamento humano provavelmente será necessário no futuro previsível, nem que seja porque diferentes algoritmos de IA podem nos apresentar conclusões diferentes. Além disso, a análise causal a partir de dados observacionais exige suposições que estão além do que pode ser aprendido apenas com os dados — para evitar viés de averiguação, mediação e confusão.
A IA Funcionará no Mundo Real? Generalização e Interpretação
Um dos maiores desafios na interpretação dos resultados de IA é que os algoritmos de representação interna de características são projetados para adaptar automaticamente sua complexidade à tarefa em questão, com flexibilidade quase infinita em algumas abordagens.
Essa flexibilidade é uma grande vantagem — mas também exige cuidado para evitar o sobreajuste, que ocorre quando um modelo aprende tão bem o ruído e as peculiaridades aleatórias de seus dados de treinamento que passa a ter um desempenho ruim em dados novos e não vistos.
Os Limites das Garantias Estatísticas Tradicionais
O uso de regularização (técnicas que previnem o sobreajuste penalizando a complexidade do modelo) e a otimização estocástica controlada dos parâmetros do modelo durante o treinamento podem ajudar a prevenir o sobreajuste. Mas essas técnicas também significam que os algoritmos de IA têm noções mal definidas de graus de liberdade estatísticos e do número de parâmetros livres. As garantias estatísticas tradicionais contra o excesso de otimismo não podem ser usadas no contexto da IA.
Em vez disso, os pesquisadores devem substituir essas garantias por técnicas como validação cruzada e amostras de teste separadas para imitar o verdadeiro desempenho fora da amostra. A contrapartida é que a quantidade de dados disponíveis para descoberta é reduzida. Em conjunto, esses fatores criam um risco real de superinterpretar a generalização e a reprodutibilidade dos resultados.
Um Exemplo Notável: IA e Rastreamento do Câncer de Mama
Os autores destacam um caso bem conhecido envolvendo um estudo de McKinney et al. sobre o uso de IA para prever câncer de mama com base em mamografias. O estudo mostrou alto potencial da IA no rastreamento do câncer de mama. No entanto, Haibe-Kains e colegas pediram publicamente maior transparência, afirmando: "Em seu estudo, McKinney et al. mostraram o alto potencial da IA para o rastreamento do câncer de mama. No entanto, a falta de detalhes dos métodos e do código do algoritmo compromete seu valor científico."
Isso ilustra por que o relato claro dos resultados e a disponibilidade do código são essenciais para a replicação externa e o refinamento por outros grupos de pesquisa — embora isso possa ser limitado por uma tendência a buscar direitos de propriedade intelectual para produtos comerciais de IA.
Usando IA para Reduzir Grandes Volumes de Dados
As abordagens de IA podem ser úteis para reduzir um conjunto de dados com um número muito grande de características — como conjuntos de dados "-ômicos" (metabolômicos, proteômicos ou genômicos) — a um número menor de características que podem então ser testadas com métodos estatísticos convencionais.
Métodos populares de IA que fornecem classificações de "relevância de características" das covariáveis incluem:
- Florestas aleatórias (um conjunto de árvores de decisão)
- XGBoost (um algoritmo de aumento de gradiente)
- Árvores de regressão aditivas bayesianas
Métodos estatísticos como o operador de seleção e encolhimento mínimo absoluto (LASSO) usam seleção explícita de variáveis como parte do ajuste do modelo. A redução de características ajuda o analista humano a examinar os dados de forma mais eficaz e a aplicar restrições com base em conhecimento prévio do assunto. Por exemplo, um pesquisador pode saber que a característica A é frequentemente confundida pela característica X, ou que um período de latência de vários anos entre a exposição à característica A e o desfecho da doença significa que nenhuma relação é esperada no acompanhamento inicial.
IA vs. Estatística Convencional: Uma Comparação Lado a Lado
O artigo fornece uma comparação detalhada dos métodos de IA e da estatística convencional. As principais diferenças incluem:
- Hipóteses prévias: A IA é agnóstica ou muito geral sobre hipóteses; a estatística convencional especifica hipóteses como primárias, secundárias ou exploratórias.
- Técnicas: A IA usa florestas aleatórias, redes neurais e XGBoost; a estatística convencional usa comparações paramétricas e não paramétricas, regressão e modelos de sobrevivência com preditores lineares.
- Estabilidade: As análises de IA são mais propensas à instabilidade devido aos domínios de aplicação e às escolhas do usuário na especificação do algoritmo; a estatística convencional segue um plano de análise pré-especificado com escolhas mínimas definidas pelo usuário.
- Aplicações: A IA se destaca em imagens, saídas de monitores, registros eletrônicos de saúde e processamento de linguagem natural; a estatística convencional se adequa a dados com menos preditores, dados tabulares e ensaios randomizados.
- Propósito: A IA se concentra na descoberta de padrões, representação automática de características, redução de características e predição; a estatística convencional se concentra em inferência, teste de fatores específicos, controle de confundimento e quantificação da incerteza.
- Reprodutibilidade: A IA frequentemente fornece reprodutibilidade interna (validação cruzada ou amostras divididas); a estatística convencional idealmente fornece reprodutibilidade externa com novos dados.
- Barreiras: A IA enfrenta algoritmos proprietários não disponíveis para outros pesquisadores e relatórios pouco claros; a estatística convencional enfrenta progresso lento no compartilhamento de dados primários.
- Interpretabilidade: A IA é frequentemente uma caixa-preta; a estatística convencional tem características explícitas e graus de liberdade claros.
- Equidade: O aprendizado de características orientado por dados da IA é suscetível a vieses nos dados, agravando as iniquidades em saúde; os modelos de estatística convencional são mais facilmente verificados quanto à equidade quando dados relevantes estão disponíveis.
Mantendo a IA Honesta: Estabilidade e Garantias Estatísticas
A ciência médica é um processo iterativo de observação e refinamento de hipóteses—ciclos de experimentação, análise e conjectura que levam a novos experimentos e, finalmente, a um nível de evidência que refuta teorias existentes ou apoia novas terapias e recomendações de estilo de vida.
Os ensaios randomizados de medicamentos experimentais têm sido historicamente mantidos em um alto padrão de rigor. As preocupações sobre a superinterpretação de análises de desfechos secundários e de subgrupos levaram a um foco ainda maior na descrição pré-especificada de hipóteses primárias e no controle da taxa de erro familiar (a probabilidade de obter pelo menos um achado falso positivo entre múltiplos testes) para limitar resultados falso-positivos.
Os protocolos agora frequentemente especificam:
- Os estimandos precisos (as quantidades exatas que estão sendo medidas)
- Os métodos de análise que serão usados para obter os valores de P
- As covariáveis a serem controladas
- Até mesmo as tabelas simuladas que serão preenchidas assim que os dados estiverem completos
As análises em estudos observacionais geralmente são pré-especificadas de forma menos rigorosa, embora um plano de análise estatística estabelecido antes do início da análise dos dados seja cada vez mais esperado como material suplementar em relatórios publicados.
O Problema da IA: Padrões Sem Pré-especificação
As abordagens de IA frequentemente buscam padrões nos dados que não são pré-especificados — o que é um de seus pontos fortes. Mas a desvantagem é que o potencial para resultados falso-positivos aumenta, a menos que procedimentos rigorosos para avaliar a reprodutibilidade sejam incorporados.
Novas diretrizes de relato e recomendações para IA na ciência médica foram estabelecidas para garantir maior confiança e generalização das conclusões. Os autores também observam que algoritmos de IA altamente adaptativos herdam todos os vieses e a falta de representatividade que possam estar presentes nos dados de treinamento. Ao usar ferramentas de predição de IA do tipo caixa-preta, pode ser difícil julgar se os sinais preditivos surgem de confusão devido a vieses ocultos nos dados.
Métodos do campo da IA explicável (XAI) podem ajudar a contrabalançar o aprendizado opaco de representação de características. No entanto, para aplicações em que a segurança é uma questão crítica, a natureza de caixa-preta dos modelos de IA exige consideração e justificativa cuidadosas.
Quando a IA Erra: Viés no Mundo Real
Um dos exemplos mais marcantes de viés de IA na área da saúde vem da pesquisa de Obermeyer e colegas. A equipe descreveu um algoritmo informado por IA que foi aplicado a uma população de 200 milhões de pessoas nos Estados Unidos a cada ano para identificar pacientes com maior risco de incorrer em custos substanciais de saúde e encaminhá-los a "programas de gerenciamento de cuidados de alto risco".
A análise sugeriu que o algoritmo discriminou involuntariamente pacientes negros. A razão? Em todos os níveis de gastos com saúde e idade, pacientes negros tinham mais condições coexistentes do que pacientes brancos. Como o algoritmo foi treinado com gastos em saúde como um substituto para as necessidades de saúde — e como fatores sistêmicos levam a menores gastos com pacientes negros mesmo quando estão mais doentes — o algoritmo subestimou sistematicamente as necessidades de saúde dos pacientes negros.
Este exemplo ilustra dramaticamente uma preocupação central levantada pelos autores: sistemas de IA treinados com dados do mundo real podem perpetuar e até amplificar as desigualdades existentes na área da saúde.
O Que Isso Significa para os Pacientes
Para os pacientes, a mensagem é tanto esperançosa quanto cautelosa. A IA tem o potencial de transformar a medicina de maneiras poderosas:
- Ler e interpretar imagens médicas como mamografias com alta precisão
- Prever o risco de doenças a partir de registros eletrônicos de saúde
- Analisar dados genômicos e outros dados "-ômicos" para descobrir mecanismos de doenças
- Reduzir conjuntos de dados massivos às características mais relevantes para questões clínicas
Mas os pacientes também devem estar cientes das limitações:
- Os resultados da IA podem ser difíceis de interpretar e verificar
- Os modelos de IA podem não se generalizar para populações diferentes daquelas em que foram treinados
- Vieses nos dados de treinamento podem levar a resultados injustos ou imprecisos para certos grupos
- A falta de transparência em algoritmos comerciais dificulta a validação independente
Os pacientes podem defender a si mesmos fazendo perguntas sobre como a IA está sendo usada em seus cuidados. A disposição das instituições de saúde em fornecer respostas claras sobre a validação, as limitações e a supervisão das ferramentas de IA é um bom sinal de implementação responsável.
Os autores observam que o uso de métodos convencionais de predição estatística juntamente com métodos de IA interpretáveis pode ajudar a fornecer uma compreensão dos sinais de predição e pode mitigar associações sem sentido. Combinar o melhor de ambas as abordagens—o poder da IA para lidar com vastos dados e o rigor da estatística na interpretação—é provavelmente o caminho mais seguro a seguir.
Limitações Desta Revisão
Como um artigo de revisão em vez de um estudo de pesquisa original, este artigo sintetiza o conhecimento existente em vez de apresentar novos dados experimentais. Os autores reconhecem que as restrições de espaço impediram uma discussão detalhada da importante área de IA e desenho experimental, e eles apenas comentam brevemente sobre a área emergente de IA generativa e chatbots médicos, em vez de fornecer uma análise aprofundada.
O artigo reflete as perspectivas de dois pesquisadores baseados no Reino Unido—um da área de saúde populacional em Oxford e outro de estatística e medicina em Oxford e no Alan Turing Institute—e se baseia fortemente em exemplos dos contextos de saúde dos EUA e do Reino Unido. O campo da IA na medicina está evoluindo rapidamente, e alguns detalhes específicos (como a escala dos modelos de fundação com trilhões de parâmetros) podem mudar rapidamente ao longo do tempo.
Recomendações para o Futuro
Com base em sua análise, os autores oferecem várias recomendações práticas para cientistas médicos e instituições de saúde:
- Disponibilizar todo o código. Compartilhar o código e fornecer declarações claras sobre o ajuste do modelo e os dados de teste utilizados para relatar a precisão facilita a avaliação externa da reprodutibilidade.
- Ser transparente sobre os dados. O relato claro dos resultados e a disponibilidade do código aumentam o potencial de replicação externa e refinamento por outros grupos.
- Usar planos de análise pré-especificados. Para estudos observacionais, um plano de análise estatística estabelecido antes da análise dos dados deve ser esperado, assim como é para ensaios randomizados.
- Combinar IA com métodos convencionais. Usar métodos tradicionais de predição estatística juntamente com métodos de IA interpretáveis pode esclarecer os sinais de predição e mitigar associações sem sentido.
- Empregar a redução de características com sabedoria. A IA pode reduzir dados de alta dimensionalidade a um conjunto menor de características que podem então ser testadas com estatísticas convencionais, permitindo que analistas humanos apliquem conhecimento específico do assunto.
- Manter a supervisão humana. O julgamento humano será necessário no futuro previsível, especialmente porque diferentes algoritmos de IA podem apresentar conclusões diferentes, e a inferência causal requer suposições que vão além do que os dados sozinhos podem revelar.
- Seguir as diretrizes de relato. Novas diretrizes de relato e recomendações para IA na ciência médica estão sendo estabelecidas para garantir maior confiança e generalização das conclusões.
- Avaliar a reprodutibilidade interna. Os dados devem ser particionados em conjuntos de descoberta e teste, e a generalização para outros conjuntos de dados deve ser cuidadosamente avaliada.
Os autores enfatizam que abordar a IA na medicina com o rigor e as salvaguardas apropriadas não é apenas uma preocupação técnica—é essencial para a segurança do paciente, a integridade científica e a equidade em saúde.
Como o enquadramento do artigo deixa claro, uma técnica que funciona para publicidade direcionada ou previsão do tempo pode não atender às demandas rigorosas do diagnóstico médico e da predição de risco. Os riscos são simplesmente altos demais.
Perguntas Frequentes
Para que a inteligência artificial (IA) é usada atualmente na medicina?
A IA já é usada na área da saúde para ler mamografias, prever o risco de doenças, analisar prontuários eletrônicos e auxiliar na tomada de notas médicas. Ela também pode ajudar a analisar dados genômicos e reduzir conjuntos de dados massivos às características mais relevantes para questões clínicas. Essas aplicações mostram o potencial da IA, mas vêm com limitações importantes a serem compreendidas.
Como a IA é diferente da estatística tradicional na pesquisa médica?
A estatística tradicional depende de uma seleção cuidadosa e manual de medições e características, com suposições de modelagem explícitas. A IA busca automaticamente por padrões em vastos conjuntos de dados, aprendendo características por conta própria. Isso torna a IA poderosa para previsão, mas pode dificultar a interpretação, a verificação e a checagem de vieses ocultos em comparação com os métodos estatísticos convencionais.
A IA pode ser tendenciosa ou cometer erros na área da saúde?
Sim. Um algoritmo de IA do mundo real aplicado a 200 milhões de americanos para identificar pacientes de alto risco discriminou involuntariamente pacientes negros. Como foi treinado com base nos gastos com saúde, e fatores sistêmicos levam a gastos menores com pacientes negros mesmo quando estão mais doentes, ele subestimou as necessidades de saúde deles. A IA pode herdar e amplificar vieses existentes nos dados de treinamento.
Por que é difícil verificar as decisões da IA na medicina?
Os modelos de IA frequentemente usam aprendizado de representação interna de características, o que cria características difíceis de interpretar e que carecem de senso comum. Eles muitas vezes são incapazes de rastrear a linha de evidência dos dados até as características, tornando a auditabilidade e a verificação desafiadoras. É por isso que transparência, relatórios claros e supervisão humana são essenciais quando a IA é usada no cuidado ao paciente.
O que os pacientes devem perguntar sobre a IA usada em seu cuidado?
Os pacientes podem perguntar como a IA está sendo usada em seu cuidado, como ela foi validada, quais são suas limitações e quem a supervisiona. Uma instituição de saúde que dá respostas claras sobre esses tópicos está demonstrando implementação responsável. Os pacientes também devem estar cientes de que os resultados da IA podem não se generalizar para populações diferentes e podem conter vieses.
A IA pode ser usada para entender as causas das doenças, não apenas prever o risco?
A IA é especialmente boa em previsão em larga escala, como prever o risco de doenças. No entanto, entender os mecanismos das doenças na população em geral é mais difícil. Existe uma lacuna de evidências entre prever desfechos para um indivíduo e fazer afirmações inferenciais sobre a população. Combinar a IA com a estatística convencional e o julgamento humano é o caminho mais seguro a seguir.
Como é o futuro da IA na medicina para os pacientes?
O futuro reserva tanto promessas quanto cautela. A IA tem potencial para transformar a medicina, mas os pacientes devem estar cientes de limitações como interpretação difícil, baixa generalização e viés. A implementação responsável inclui a liberação do código, transparência sobre os dados, uso de planos de análise pré-especificados e supervisão humana. A combinação da IA com métodos convencionais é provavelmente a abordagem mais segura.
Devo buscar uma segunda opinião se a IA for usada no meu diagnóstico médico ou plano de tratamento?
Sim, uma segunda opinião pode ser valiosa quando ferramentas de IA estão envolvidas no seu cuidado. Os sistemas de IA podem ser tendenciosos, como mostrado por um algoritmo que discriminou involuntariamente pacientes negros, e seus resultados podem ser difíceis de interpretar ou verificar. Uma segunda opinião de um especialista independente pode ajudar a garantir que seu diagnóstico ou plano de tratamento seja preciso e apropriado, especialmente se você tiver preocupações sobre como a IA foi usada. A Diagnostic Detectives Network fornece segundas opiniões independentes de especialistas.
Informações da Fonte
Original article title: Where Medical Statistics Meets Artificial Intelligence
Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.
Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219
Publication date: September 28, 2023
DOI: 10.1056/NEJMra2212850
Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.
Copyright: © 2023 Massachusetts Medical Society. All rights reserved.
Este artigo voltado para pacientes é baseado em pesquisa revisada por pares e destina-se a fins educacionais. Ele não constitui aconselhamento médico.