// AI 新闻 · 2026-10-31 · Nature
研究揭示医疗大模型临床推理的可变性
研究人员对GPT-5、MedGemma-27B-Text-IT和OpenBioLLM-Llama3-70B三种医疗大模型在临床推理中的稳定性进行了系统评估，使用来自医生验证的肿瘤学SOAP记录、简短案例和MIMIC数据集的3035个系统性扰动进行测试。研究发现模型在仅改变提示格式的情况下，分期准确率波动超过50%，且在临床证据不足时仍生成确定性诊断。通过训练稀疏自编码器对5万条MIMIC-IV临床笔记中的10亿token进行分析，发现MedGemma存在层级编码结构：高幅值特征反映词汇身份，低幅值特征体现上下文语义；而OpenBioLLM则实现信息均匀分布。不同架构的内部编码机制影响推理干预效果，表明对某一模型有效的安全干预可能对另一模型产生负面作用。
原文发布 2026-10-31 08:00（北京时间）来源 Nature自动整理 · 已核对原文
01摘要
该研究强调，在医疗大模型部署前必须进行针对具体架构的安全性验证，以应对其内在推理不稳定性和潜在临床风险。
由开源模型根据原文自动整理，经数字/专名逐项核对（必须在原文中出现），以原文为准。
02要点
- 三种医疗大模型在不同提示格式下分期准确率波动超50%，显示显著推理不稳定性。
- MedGemma呈现层级编码结构，高幅值特征编码词汇身份，低幅值特征编码上下文语义。
- OpenBioLLM的信息分布更均匀，内部表示机制与MedGemma存在本质差异。
- 不同架构的内部编码结构影响干预效果，提示需采用架构特定的安全验证策略。
03原文出处
Nature · 发布于 2026-10-31 08:00（北京时间） · 上方为原标题
05相关新闻
出自智图 AI 新闻：从 1100 多个官方与媒体信源采集。摘要只转述原文内容，详情请看原文。 2026-10-31 全部新闻 · 按日期归档 · 全部 AI 新闻 · 今日