医学中的人工智能：前景、陷阱与患者须知

目录

• 要点
• 为何这项研究至关重要
• 医学统计的一个世纪
• AI如何学习：自动模式检测的力量
• 预测与理解：两个不同的目标
• AI在现实世界中有效吗？泛化性与解释性
• 确保AI诚实：稳定性与统计保证
• 当AI出错时：现实世界中的偏见
• 这对患者意味着什么
• 本综述的局限性
• 未来建议
• 常见问题
• 来源信息

要点

• AI已用于医学中的乳腺X线摄影、疾病风险预测和电子健康记录，但它存在统计弱点。
• AI的自动模式发现可能放大隐藏偏见；一项应用于2亿美国人的算法歧视了黑人患者。
• AI模型通常难以解释和验证，需要透明度和人工监督以确保医疗使用安全。
• 在人工智能预测个体结果的能力与理解更广泛人群中的疾病之间，存在着一道鸿沟。
• 负责任地使用人工智能的建议包括：公开代码、公布预设的分析计划、将人工智能与传统统计学相结合，以及结合人类判断。

这项研究为何重要

人工智能在医疗领域已不再是遥远的概念——它已经到来。人工智能系统正被用于阅读乳腺X光片、预测疾病风险、分析电子健康记录，甚至协助撰写医疗笔记。但我们如何知道这些系统是安全、准确且公平的？

这篇综述文章由牛津大学人口健康系纽菲尔德部门的David J. Hunter医学博士和伦敦统计系及艾伦·图灵研究所的Christopher Holmes博士撰写，探讨了一个关键问题：当严谨的医学统计学世界与强大但往往不透明的人工智能世界相遇时，会发生什么？

作者描述了一个根本性的悖论。人工智能能够从海量数据中自动发现模式，这使其成为极具价值的医学研究工具——但正是这些特性使其在统计学上变得脆弱。适用于针对选民或消费者进行定向广告的技术，可能无法满足医学风险预测或诊断的严格要求。本文探讨了这种张力及其对患者护理未来的意义。

医学统计学的百年历程

统计学作为一门独立的学科大约在20世纪初兴起。在此期间，发展出了将改变医学研究的基础概念，包括临床试验中的随机化、假设检验、基于似然的推断、P值以及贝叶斯分析和决策理论。

统计学迅速成为应用科学不可或缺的一部分。事实上，在2000年，《新英格兰医学杂志》的编辑将“统计学在医学中的应用”列为过去1000年中医学科学的11项最重要发展之一。

那么，统计学到底是什么？作者将其定义为基于不完整信息的推理——即对数据中科学发现的严谨解释和沟通。统计学包括确定实验的最佳设计以及准确量化结论的不确定性，所有这些均通过概率的语言来表达。

如今，在21世纪，人工智能已成为医学研究中一股强大的新力量。这一发展部分得益于计算能力和数据可用性的巨大扩展——但随着这些进步而来的是新的统计学挑战，本综述旨在解决这些挑战。

人工智能如何学习：自动模式检测的力量

传统方法：手工统计学

传统的统计建模依赖于仔细的手工选择要纳入分析的测量值和数据特征。例如，统计学家必须决定在回归模型（一种考察变量之间关系的统计方法）中包含哪些协变量（可能影响结果的因素）。他们还确定需要对测量值进行何种变换或标准化。

数十年来，随机森林和向前或向后选择的逐步回归等半自动化数据降维技术一直协助统计学家完成这一选择过程。在这一传统框架中，建模假设和特征通常是明确的，且模型中的参数数量通常是已知的。

人工智能革命：自动特征学习

人工智能最令人印象深刻和独特的方面，无疑是其从数据中自动搜索和提取任意、复杂、任务导向特征的 ability——这一过程称为特征表示学习。在训练阶段，算法从数据中工程化地构建特征，以揭示适用于学习任务的数据变换。

人工智能算法在很大程度上消除了分析师预先指定特征或手动整理变量变换的需求。这对于大型、复杂的数据领域尤其有益，例如：

• 图像分析（如乳腺X光片或病理切片）
• 基因组学（研究生物体的完整基因集合）
• 电子健康记录（患者病历的数字版本）的建模

人工智能模型可以搜索潜在的数十亿个非线性协变量变换，将大量变量减少为一组针对任务优化的特征。有些悖论的是，通过增加参数来提高人工智能模型的复杂性——这正是深度学习中所发生的情况——实际上有助于模型找到更丰富的内部特征集，前提是训练方法经过适当调整。

悖论的阴暗面

问题在于：人工智能工程师所提取的特征往往超出了人类能够创造的范围，这也是人工智能表现如此出色的原因。但这些特征通常难以解释，在数据发生变化时很脆弱（容易出错），并且在运用背景知识和定性检查方面缺乏常识，而这些正是统计学家常规应用的方法。

人工智能模型往往无法追溯从数据到特征的证据链，使得可审计性和验证变得具有挑战性。这意味着需要更多的制衡措施，以确保基于人工智能的科学发现的有效性和普遍适用性。

作者还简要评论了新兴的生成式人工智能领域——例如大型语言模型和可能用于电子健康记录中医疗笔记撰写的医疗聊天机器人。这些“基础模型”在未记录的庞大数据量上使用自监督学习，其目标函数使用数万亿个参数进行训练（截至撰写本文时）。这与“监督式”学习形成鲜明对比，在监督式学习中，训练数据是已知的并根据临床结果标记，且训练目标清晰明确。鉴于这些生成模型的模糊性，作者敦促在健康应用中格外谨慎。

预测与理解：两个不同的目标

人工智能特别适合——且主要设计用于——大规模预测任务。训练目标清晰，预测准确性通常也有很好的表征。一个很好的例子是预测疾病风险。

然而，大多数医学研究的最终目标并非明确地预测风险。相反，是为了理解更广泛人群中疾病的某些生物学机制或原因，或协助开发新的疗法。作者强调，在个体层面运行的良好预测模型与能够就人群做出推断性陈述之间，存在证据差距。

统计学主要关注人群推断——将一项研究的证据推广到关于更广泛人群的假设。预测是一项重要但相对简单的任务；科学推断通常对机制理解产生更大的影响。

正如希波克拉底数百年前所观察到的：“了解患病的患者是什么样的人，比了解患者患的是什么病更为重要。”

一个现实世界的例子：新冠疫情

在新冠疫情期间，开发了各种预测工具来确定一个人是否感染了SARS-CoV-2（引起Covid-19的病毒）。然而，从个体预测转向理解人群患病率——并确定人群中哪些亚组处于更高风险之中——被证明具有更大的挑战性。

我们如何衡量预测准确性？

另一个挑战是，有许多衡量和报告预测准确性的方法，包括：

• 受试者工作特征曲线下面积（衡量测试区分组别能力的指标）
• 精确率和召回率（衡量准确性和完整性的指标）
• 均方误差（误差平方的平均值）
• 阳性预测值（阳性检测结果正确的概率）
• 误分类率（模型答错的频率）
• 净重新分类指数（新模型是否改善了分类）
• 对数概率评分（预测置信度的度量）

选择适合上下文的指标至关重要，因为某一指标的准确性未必能转化为另一指标的准确性——且未必与具有临床意义的性能或安全指标相关。

相比之下，用于总体统计的推断目标往往不太模糊，不确定性通过使用P值、置信区间和可信区间得到清晰表征。即便如此，稳健且准确的AI预测模型表明，数据中可重复的信号和稳定的关联值得进一步调查。

因果机器学习：AI与统计学的交汇点

AI预测方法与统计推断之间的一个有趣交汇点是因果机器学习，它特别关注推断量。通过采用结构因果模型或潜在结果框架——使用有向无环图（显示因果关系图的工具）等工具——研究人员可以利用领域知识降低AI模型出错的可能性。这些错误包括错误指定暴露与结局之间的时间关系、对由暴露和疾病共同导致的变量进行条件化（即“碰撞因子”），或突出虚假关联（如生物标志物研究中的批次效应）。

因果推断方法也可应用于AI，以帮助解释放射学或病理学图像并支持临床决策和诊断。然而，作者强调，在可预见的未来，人类判断可能仍是必要的，仅因为不同的AI算法可能会向我们呈现不同的结论。此外，来自观察性数据的因果分析需要依赖超出仅从数据本身所能学习的假设——以避免由确认偏倚、中介效应和混杂因素引起的偏倚。

AI在现实世界中可行吗？泛化性与解释性

解释AI结果的最大挑战之一是，用于内部特征表示的算法被设计为自动适应其复杂度以应对当前任务，在某些方法中具有近乎无限的灵活性。

这种灵活性是一个巨大的优势——但也需要谨慎以避免过拟合，即模型过度学习训练数据中的噪声和随机特征，导致在新数据上表现不佳。

传统统计保证的局限性

在训练过程中使用正则化（通过惩罚模型复杂度来防止过拟合的技术）和对模型参数的受控随机优化有助于防止过拟合。但这些技术也意味着AI算法对统计自由度和自由参数数量的概念定义不清。传统的针对过度乐观的统计保证不能在AI背景下使用。

相反，研究人员必须采用交叉验证和保留样本等技术来模拟真实的样本外性能。其权衡是可用于发现的数据量减少。综合这些因素，产生了过度解读结果的泛化性和可重复性的真实风险。

一个值得注意的案例：AI与乳腺癌筛查

作者重点介绍了一个著名案例，涉及McKinney等人关于使用AI根据乳腺X线摄影预测乳腺癌的研究。该研究展示了AI在乳腺癌筛查中的巨大潜力。然而，Haibe-Kains及其同事公开呼吁提高透明度，指出：“在他们的研究中，McKinney等人展示了AI在乳腺癌筛查中的巨大潜力。然而，缺乏方法细节和算法代码削弱了其科学价值。”

这说明了清晰报告结果和提供代码对于其他研究组进行外部复制和改进至关重要——尽管这可能受到寻求商业AI产品知识产权倾向的限制。

利用AI从大数据中筛选关键特征

AI方法有助于将具有大量特征的数据库（如“组学”数据集，包括代谢组学、蛋白质组学或基因组学数据）缩减为较少数量的特征，随后可使用传统统计方法对这些特征进行测试。

提供协变量“特征相关性”排名的流行AI方法包括：

• 随机森林（决策树的集成）
• XGBoost（一种梯度提升算法）
• 贝叶斯加法回归树

诸如最小绝对收缩和选择算子 (LASSO) 在内的统计方法在模型拟合过程中使用显式的变量选择。特征降维有助于人类分析师更有效地检查数据，并基于先前的受试者知识应用约束。例如，研究人员可能知道特征 A 经常受到特征 X 的混杂影响，或者特征 A 暴露与疾病结局之间存在数年的潜伏期，这意味着在早期随访中预计不会存在关联。

人工智能与传统统计学：并排比较

本文详细比较了人工智能方法和传统统计学。主要区别包括：

• 先验假设：人工智能对假设持中立或非常通用的态度；传统统计学将假设指定为主要、次要或探索性的。
• 技术：人工智能使用随机森林、神经网络和 XGBoost；传统统计学使用参数和非参数比较、回归以及具有线性预测因子的生存模型。
• 稳定性：由于应用领域和用户在选择算法规范时的决定，人工智能分析更容易出现不稳定性；传统统计学遵循预先指定的分析计划，用户定义的决策极少。
• 应用：人工智能在图像、监测输出、电子健康记录和自然语言处理方面表现出色；传统统计学适合预测因子较少的数据、表格数据和随机试验。
• 目的：人工智能侧重于模式发现、自动特征表示、特征降维和预测；传统统计学侧重于推断、测试特定因素、控制混杂因素和量化不确定性。
• 可重复性：人工智能通常提供内部可重复性（交叉验证或拆分样本）；传统统计学理想情况下使用新数据提供外部可重复性。
• 障碍：人工智能面临其他研究人员无法获得的专有算法和报告不明确的问题；传统统计学面临共享主要数据进展缓慢的问题。
• 可解释性：人工智能通常是一个黑盒；传统统计学具有显式特征和明确的自由度。
• 公平性：人工智能的数据驱动特征学习容易受到数据偏见的影响，从而加剧健康不平等；当有相关数据时，传统统计学模型更容易检查其公平性。

保持人工智能的诚实：稳定性和统计保证

医学科学是一个观察和假设修正的迭代过程——实验、分析和推测的循环，导致进一步的实验，并最终达到足以反驳现有理论或支持新疗法和生活建议的证据水平。

历史上，对试验药物的随机对照试验有着严格的标准。对次要终点和亚组分析过度解读的担忧，导致人们更加关注主要假设的预先指定描述以及族系误差率（在多次测试中至少出现一次假阳性发现的概率）的控制，以限制假阳性结果。

方案现在通常规定：

• 精确的估计量（正在测量的确切数量）
• 将用于获取 P 值的分析方法
• 需要控制的协变量
• 甚至那些在数据完整后将填写的虚拟表

观察性研究中的分析通常较少进行严格的预先规定，尽管在数据分析开始前制定的统计分析计划越来越被期望作为已发表报告的补充材料。

AI 的问题：缺乏预先规定的模式

AI 方法通常寻求数据中未预先规定的模式——这是其优势之一。但缺点是，除非纳入严格的程序来评估可重复性，否则假阳性结果的风险会增加。

已建立针对医学科学中 AI 的新报告指南和建议，以确保结论具有更高的可信度和普遍适用性。作者还指出，高度自适应的 AI 算法继承了训练数据中可能存在的所有偏见和代表性不足的问题。在使用黑盒 AI 预测工具时，很难判断预测信号是否源于数据中隐藏偏见导致的混杂因素。

来自可解释 AI (XAI)领域的方法可以帮助对抗不透明的特征表示学习。然而，在安全是关键问题的应用中，AI 模型的黑盒性质值得仔细考虑并提供理由。

当 AI 出错时：现实世界中的偏见

医疗保健中 AI 偏见最引人注目的例子之一来自 Obermeyer 及其同事的研究。该团队描述了一种由 AI 支持的算法，应用于美国每年约 2 亿人口的人群，以识别面临最高高额医疗费用风险的患者，并将他们转介至“高风险护理管理项目”。

分析表明，该算法无意中歧视了黑人患者。原因何在？在每一层级的医疗保健支出和年龄水平上，黑人患者比白人患者有更多的合并症。由于该算法以医疗保健支出作为健康需求的代理指标进行训练——并且系统性因素导致即使黑人患者病情更重，其医疗支出也较低——因此该算法系统性地低估了黑人患者的健康需求。

这个例子生动地说明了作者提出的一个核心担忧：在现实世界数据上训练的 AI 系统可能会延续甚至加剧医疗保健中现有的不平等现象。

这对患者意味着什么

对于患者而言，这一信息既充满希望又具有警示意义。AI 有潜力以强大的方式改变医学：

• 高准确度地读取和解读医学图像，如乳腺 X 光片
• 从电子健康记录中预测疾病风险
• 分析基因组和其他“组学”数据以揭示疾病机制
• 将海量数据集简化为与临床问题最相关的特征

但患者也应了解其局限性：

• AI 结果难以解释和验证
• AI 模型可能无法泛化到与其训练数据不同的不同人群
• 训练数据中的偏差可能导致对某些群体产生不公平或不准确的结果
• 商业算法缺乏透明度，使得独立验证更加困难

患者可以通过询问有关其护理中人工智能使用方式的问题来为自己争取权益。医疗保健机构愿意就人工智能工具的验证、局限性和监督提供清晰的答案，这是负责任实施的良好迹象。

作者指出，将传统统计预测方法与可解释的人工智能方法结合使用，有助于理解预测信号，并减少无意义的关联。结合这两种方法的优势——人工智能处理海量数据的能力与统计学在解释方面的严谨性——可能是最安全的未来路径。

本综述的局限性

作为一篇综述文章而非原创研究，本文综合了现有知识，而非呈现新的实验数据。作者承认，受篇幅限制，未能详细讨论人工智能与实验设计这一重要领域，也仅简要评论了生成式人工智能和医疗聊天机器人这一新兴领域，而未进行深入探讨。

本文反映了两位位于英国的研究人员的观点——一位来自牛津大学的人群健康领域，另一位来自牛津大学和艾伦·图灵研究所的统计学与医学领域——并大量引用了美国和英国医疗保健背景中的案例。医学中的人工智能领域正在快速发展，一些具体内容（例如具有数万亿参数的大型基础模型的规模）可能会随时间迅速变化。

未来建议

基于其分析，作者为医学科学家和医疗保健机构提出了几项实用建议：

1. 公开所有代码。 共享代码并提供关于模型拟合及用于报告准确性的保留数据的清晰说明，有助于外部评估可重复性。
2. 对数据保持透明。 清晰地报告结果并提供代码可用性，增加了其他团队进行外部复制和优化的可能性。
3. 使用预先指定的分析计划。 对于观察性研究，应在数据分析之前建立统计分析计划，正如随机对照试验所要求的那样。
4. 将人工智能与传统方法相结合。 将传统统计预测方法与可解释的人工智能方法结合使用，可以阐明预测信号并减少无意义的关联。
5. 明智地运用特征降维。 人工智能可以将高维数据减少为一组较小的特征，然后可以使用传统统计学对这些特征进行测试，使人类分析师能够应用特定领域的知识。
6. 保持人工监督。 在可预见的未来，人类判断仍然是必要的，因为不同的人工智能算法可能会得出不同的结论，且因果推断需要超出数据本身所能揭示的假设。
7. 遵循报告指南。 新的医学科学中人工智能的报告指南和建议正在建立，以确保更高的结论可信度和可推广性。
8. 评估内部可重复性。 数据应划分为发现集和测试集，并且必须仔细评估其向其他数据集的可推广性。

作者强调，以适当的严谨性和保障措施来对待医学中的人工智能，不仅是一个技术问题，更是患者安全、科学诚信和健康公平所必需的。

正如文章框架所明确指出的那样，适用于定向广告或天气预测的技术可能无法满足医学诊断和风险预测的严格要求。其风险实在太高。

常见问题解答

人工智能（AI）目前在医学中有哪些应用？

AI 已用于医疗保健领域，包括阅读乳腺 X 光片、预测疾病风险、分析电子健康记录以及协助医疗笔记记录。它还可以帮助分析基因组数据，并将海量数据集简化为与临床问题最相关的特征。这些应用展示了 AI 的潜力，但也存在需要理解的重要局限性。

AI 与医学研究中的传统统计学有何不同？

传统统计学依赖于仔细、人工选择的测量指标和特征，并基于明确的建模假设。AI 则自动在海量数据集中搜索模式，自行学习特征。这使得 AI 在预测方面非常强大，但与传统统计方法相比，其可解释性、可验证性以及排查隐藏偏倚的难度更大。

AI 在医疗保健中是否可能存在偏倚或犯错？

是的。一种应用于 2 亿美国人的真实世界 AI 算法在识别高风险患者时，无意中歧视了黑人患者。因为该算法是基于医疗支出进行训练的，而系统性因素导致黑人患者即使在病情更重时，医疗支出也较低，因此该算法低估了他们的健康需求。AI 可能会继承并放大训练数据中已存在的偏见。

为什么难以验证 AI 在医学中的决策？

AI 模型通常使用内部特征表示学习，这会生成难以解释且缺乏常识的特征。它们往往无法追溯从数据到特征的证据链，使得审计和验证变得具有挑战性。这就是为什么在将 AI 用于患者护理时，透明度、清晰的报告以及人工监督至关重要。

患者应对其护理中使用的 AI 提出哪些问题？

患者可以询问 AI 在其护理中是如何使用的、如何经过验证、其局限性是什么以及由谁进行监督。能够就这些话题提供清晰答案的医疗机构表明其正在负责任地实施 AI。患者还应意识到，AI 结果可能无法推广到其他人群，且可能包含偏倚。

AI 能否用于理解疾病成因，而不仅仅是预测风险？

AI 特别擅长大规模预测，例如预测疾病风险。然而，在更广泛的人群中理解疾病机制则更为困难。在预测个体结果与对人群做出推断性陈述之间存在证据缺口。将 AI 与传统统计学和人类判断相结合是最稳妥的前进道路。

AI 在医学中的未来对患者意味着什么？

未来既充满希望也需谨慎。AI 有潜力改变医学，但患者应了解其局限性，如难以解释、泛化能力差以及存在偏倚。负责任的实施包括公开代码、数据透明、使用预设分析计划以及人工监督。将 AI 与传统方法相结合可能是最安全的方法。

如果我的医学诊断或治疗计划中使用了 AI，我应该寻求第二诊疗意见吗？

是的，当您的护理涉及 AI 工具时，寻求第二诊疗意见可能很有价值。AI 系统可能存在偏倚，正如一项无意中歧视黑人患者的算法所示，且其结果往往难以解释或验证。来自独立专家的第二诊疗意见有助于确保您的诊断或治疗计划准确且适当，特别是如果您对 AI 的使用方式存有疑虑。Diagnostic Detectives Network 提供独立的专家第二诊疗意见。

来源信息

Original article title: Where Medical Statistics Meets Artificial Intelligence

Authors: David J. Hunter, M.B., B.S., and Christopher Holmes, Ph.D.

Journal: The New England Journal of Medicine, 2023; volume 389, pages 1211–1219

Publication date: September 28, 2023

DOI: 10.1056/NEJMra2212850

Article type: Review Article in the "AI in Medicine" series, edited by Jeffrey M. Drazen, M.D., with guest editors Isaac S. Kohane, M.D., Ph.D., and Tze-Yun Leong, Ph.D.

Copyright: © 2023 Massachusetts Medical Society. All rights reserved.

这篇患者友好型文章基于同行评审的研究编写，旨在用于教育目的。它不构成医疗建议。