跳到主内容

Clinical Research · 临床研究服务

影像组学诊断模型

曲线下面积(AUC) 0.87 仅为评价起点。审稿质询通常集中于三点:是否开展独立外部验证;特征筛选过程是否存在数据泄漏;决策曲线分析能否支持模型的实际临床价值。

本页数据与图表均为示意数据,不指向真实患者、医院或委托方项目。

训练集 + 独立外部验证集
845 + 360
训练集 / 外部验证集 AUC
0.92 / 0.87
Bootstrap 内部验证
1000 次
决策曲线分析(DCA) 扫描阈值内净获益均占优
5%–80%

01 Clinical Research · 临床研究

方法学图表

示意数据仅用于展示分析路径与表达方式,不代表真实项目结果。

示意数据 本页全部图表与数字均为示意数据(Synthetic illustrative data),由言拓致优用 R 模拟脚本生成,不指向任何真实患者、医院或委托方项目;生成脚本可按要求提供。

ROC 曲线 · 训练集 vs 外部验证集(示意数据)
图 1ROC 曲线 · 训练集 vs 外部验证集示意数据
图注与解释边界

训练集表观 AUC=0.92(n=845,未经乐观性校正),外部验证集 AUC=0.87(n=360)。两条曲线并置用于示意训练集与外部验证集之间的区分度差异(示意数据);图内同时标注 DeLong 法 95% CI。

校准曲线 · 外部验证集(n=360)(示意数据)
图 2校准曲线 · 外部验证集(n=360)示意数据
图注与解释边界

按预测概率十分位分为 10 组(每组 n=36),误差线为各组实测率的 95% CI,红线为 loess 平滑曲线,对角线为理想校准参考线。图内报告由示意数据计算的校准斜率 0.78(95% CI 0.62–0.95)与校准截距 0.16(95% CI -0.14–0.46);校准斜率低于 1 提示预测概率偏于极端。校准以校准曲线、校准斜率与截距评估(回归或人工智能预测模型的透明报告规范(TRIPOD+AI);Van Calster 等,2019),不以 Hosmer-Lemeshow 检验作为主要依据。

临床决策曲线分析(DCA)(示意数据)
图 3临床决策曲线分析(DCA)示意数据
图注与解释边界

在扫描的决策阈值 5%–80% 范围内,模型净获益均同时高于「全治疗」与「全不治疗」策略;浅红色区域标出扫描范围。实际应用时的决策阈值应依据临床共识事先确定。

02 Clinical Research · 临床研究

方法学风险

影像组学诊断研究面临三项系统性方法学风险:第一,特征维度远大于样本量("维数灾难"),未经降维直接建模将导致严重过拟合,表现为训练集 AUC 较高而验证集性能显著下降;第二,数据泄漏,即特征筛选时混入验证集数据,导致模型表现虚高;第三,临床实用性缺乏论证,仅报告 AUC 而未开展 DCA 决策曲线分析,将引发关于模型临床实际用途的审稿质询。

报告规范按研究目的选择:评价单项检测或指标诊断准确性的研究适用 诊断准确性研究报告标准(STARD) 2015;开发或验证多变量诊断/预后预测模型的研究适用 TRIPOD+AI(2024),无论采用回归建模还是机器学习方法;该清单已取代 TRIPOD 2015。本案例为多变量影像组学诊断模型,按 TRIPOD+AI 核查。审稿阶段对报告规范合规性高度关注,高频质询点包括:候选预测变量是否预先声明;特征筛选过程是否在训练集内完成;缺失值处理在数据分割之前抑或之后进行。上述各项均需在方法节逐项说明。

本类研究的方法学重点:严格的训练/验证集分割 → 训练集内完成特征筛选 → 最小绝对收缩与选择算子(LASSO) / 递归特征消除 → Bootstrap 1000 次内部验证 + 独立外部数据集验证 → DCA 决策曲线分析临床价值 → TRIPOD+AI 报告规范逐条对照。

  • 特征筛选混入验证集数据(数据泄漏)
  • 缺乏独立外部数据集验证
  • 仅报告 AUC,未做 DCA 临床决策分析
  • 特征稳定性(组内相关系数(ICC))未报告
  • 样本量未按预测模型样本量计算方法论证(Riley 等, 2019/2020)
  • 仅以 Hosmer-Lemeshow 检验判断校准,未报告校准曲线、校准斜率与截距

03 Clinical Research · 临床研究

分析框架

  1. 特征稳定性筛选(ICC 检验)

    影像组学特征提取后,先做观测者内(intra-observer)和观测者间(inter-observer)一致性检验(ICC)。ICC<0.75 的特征视为不稳定,在后续建模前剔除。该步骤属于候选预测变量的预处理与预筛选(不使用结局信息),按 TRIPOD+AI 须在方法节报告其方法、阈值与剔除结果。

  2. 严格训练/验证集分割(分割前处理)

    在任何特征选择与预处理之前完成数据分割。本案例示意设定为:训练集 845 例来自开发机构,外部验证集 360 例来自另一机构。若仅有单一来源数据,按 7:3 等比例随机分割属于内部验证,不得报告为外部验证;按时间分割的验证类型亦须按 TRIPOD+AI 如实标注。训练集与验证集完全隔离。缺失值插补、标准化(Z-score 或 Min-Max)均在训练集上拟合,再将参数应用于验证集,验证集的任何信息均不得进入训练流程。

  3. 特征筛选(训练集内完成)

    在训练集内进行两阶段特征筛选:相关性筛选(剔除 Pearson r>0.9 的高度相关特征对)+ 正则化降维(LASSO logistic 回归,通过 10-fold 交叉验证确定最优 λ)。可支持的候选预测参数数量按 Riley 等(2019/2020)提出的预测模型样本量计算方法(pmsampsize)确定,并结合 LASSO 收缩控制过拟合;每个变量的事件数(EPV) 类经验比例不能替代该计算。LASSO 路径图作为附件图表提交。

  4. 模型构建与内部验证(Bootstrap 1000 次)

    基于 LASSO 筛选特征构建 Logistic 回归模型(或随机森林 / 支持向量机(SVM) 作为对比)。Bootstrap 1000 次重采样进行乐观性校正,报告原始 AUC 与校正后 AUC 的差值(过拟合程度量化)。以校准曲线(Calibration plot)、校准斜率与校准截距评估校准度;Hosmer-Lemeshow 检验不单独作为校准判断依据。

  5. 外部验证集独立评估

    在完全独立的外部数据集(不同机构或不同时间段)上评估模型表现:AUC + 95% CI(Delong 法)、敏感性、特异性、阳性/阴性预测值。若外部验证集的区分度或校准度较开发阶段(乐观性校正后)明显下降,在讨论节说明可能原因(数据来源、扫描设备、人群分布差异)。

  6. DCA 决策曲线分析 + Nomogram

    决策曲线分析(DCA)在不同概率阈值下比较模型 vs 全治疗 vs 无治疗的净收益,用于评价模型的临床实用价值。Nomogram 或评分系统可视化模型,提升临床可用性。TRIPOD+AI 逐条核查表随交付打包。

04 Clinical Research · 临床研究

审稿质询与预防

以下为按报告规范条目整理的方法学示意写法,不是任何真实审稿意见的转载,也不代表特定期刊或审稿人。

关于数据泄漏与过拟合

示意意见 · 非真实审稿意见

The authors report an impressive AUC of 0.94 in the training cohort, which drops to 0.79 in the test cohort. This discrepancy suggests significant overfitting. Furthermore, it is unclear whether feature selection was performed on the entire dataset before splitting, which would constitute data leakage and invalidate the validation performance.

预防策略:方法节明确说明"数据分割在任何特征选择和预处理之前完成"。特征筛选流程仅在训练集内进行(包括 LASSO 的交叉验证参数调优)。所有预处理参数(均值/标准差)仅在训练集上拟合,再应用于验证集。Bootstrap 1000 次乐观性校正结果在方法节或表格中报告,量化模型的过拟合程度。

关于外部验证缺失

示意意见 · 非真实审稿意见

The model was developed and validated on patients from a single institution. Without external validation on an independent cohort from a different institution or time period, the generalizability of this model cannot be established. Internal validation alone is insufficient to support clinical adoption.

预防策略:影像组学诊断研究标准化验证路径为:训练集内部验证(Bootstrap) + 独立外部验证集(不同机构或不同时间段)。若暂无外部数据,可在讨论局限性中说明,并提出计划中的多中心验证研究。若仅有同一机构不同时间段的数据,可按时间非随机分割开展时间验证(temporal validation),须如实标注验证类型,其泛化性证据弱于机构间(地理)外部验证,需如实标注验证类型。

关于临床实用性

示意意见 · 非真实审稿意见

The authors report diagnostic performance metrics (AUC, sensitivity, specificity), but do not demonstrate the clinical utility of the proposed model. Without decision curve analysis comparing net benefit to current clinical alternatives, it is impossible to determine whether this model would actually improve patient management.

预防策略:DCA 决策曲线分析已成为预测/诊断模型研究的常规图表,建议与 ROC 曲线一同作为正文图表(而非附件)。DCA 对比三条线:本模型 vs 全治疗策略 vs 不治疗策略。若临床决策阈值有共识文献依据,在正文说明阈值来源,结论聚焦于"在 X%-Y% 的临床阈值范围内,本模型提供正净收益"。

05 Clinical Research · 临床研究

交付文件

方法学交付物清单
交付文件规格与内容
ICC 特征稳定性评估报告观测者内/间 ICC 矩阵,ICC<0.75 特征剔除清单及剔除理由。
LASSO 特征筛选代码 + 路径图glmnet 包 R 代码,含 10-fold 交叉验证(CV) 选 λ 过程,LASSO 系数路径图和 CV 误差曲线可作为附件 Figure S1-S2。
ROC 曲线 + 校准曲线 + DCA 图表包训练集与验证集对比 ROC 曲线(含 Delong 法 95% CI)、Calibration plot(校准曲线)、DCA 决策曲线,300 DPI TIFF 格式。
Nomogram / 评分系统可视化rms 包 nomogram 图,含每个预测变量的得分刻度和总分-概率对应表,可直接作为正文图表或临床决策辅助工具。
TRIPOD+AI 报告规范核查表TRIPOD+AI 逐条核查,标注对应正文位置,可直接作为投稿 Reporting Checklist 附件提交。

06 Clinical Research · 临床研究

委托范围与说明

单中心数据与验证类型

可以开展,但须在方法节及讨论局限性中予以明确说明,并采用覆盖全部建模步骤的内部验证策略(如 Bootstrap 1000 次 + 乐观性校正,特征筛选等步骤须在每次重采样中重复)。样本量允许时,可按时间分割(较早时段患者用于建模,较晚时段用于验证)开展时间验证;按时间非随机分割的验证须如实标注为时间验证(temporal validation),其泛化性证据弱于机构间外部验证。不同期刊对外部验证的要求差别很大,投稿前应逐刊核对作者须知与近两年同类文章的做法;若确实没有外部验证集,需要在讨论局限性中做充分说明。

超过 2000 个影像特征的处理

该情形属于典型的"维数灾难"问题。标准流程为:ICC 筛除不稳定特征 → 相关性筛除高度冗余特征(Pearson r 大于 0.9) → LASSO 完成最终特征选择(入模特征数由交叉验证选定的惩罚参数决定,不预设固定上限)。全部筛选步骤仅在训练集内进行。所需样本量与可支持的候选预测参数数量宜按 Riley 等(2019/2020)的预测模型样本量计算方法(如 pmsampsize)估算,而非套用 EPV 经验规则;高维影像组学特征远超样本量可支持的参数数量时,需结合惩罚回归(如 LASSO)进行收缩与筛选,并在每次 Bootstrap 重采样中重复全部筛选步骤。

多模型比较与模型选择偏倚

建议在分析计划中预先说明模型比较与最终模型的选择规则。Nomogram 是回归模型(如 Logistic 回归)的图形化呈现方式,不与 Logistic 回归并列为独立模型。在同一数据上比较多个模型后挑选表现较优者,会引入模型选择带来的乐观偏倚:需在报告中说明模型选择过程,并将该选择步骤纳入内部验证(如在每次 Bootstrap 重采样中重复),其余模型的结果列于附表。正文重点报告最终模型的完整验证体系(区分度/校准/DCA),而非多模型性能排序。

相关服务

Get Started · 方法学评估

预约方法学评估

提交研究问题、已有数据与期望产出后,24 小时内回复(工作日优先),首次回复即提供可行性意见、可行的统计路径与推荐套餐。

提交评估申请评估不收费 · 评估后报价