{"id":35151,"topic":"ai","source":"上海交通大学 新闻网","title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","url_hash":"8b0a461e004409aa4b1455e210be739d19a53d4c","author":"","summary":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 上海交通大学 新闻网","content":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.\n原文在线： https://www.nature.com/articles/s41551-026-01728-1","image_url":null,"lang":"zh","published_at":"2026-07-13T06:15:48+00:00","fetched_at":"2026-07-13T07:15:07+00:00","status":"read","starred":0,"extract_state":"ok","summary_auto":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.","cluster_id":null,"extract_retries":0,"extract_error":null,"contract_version":"news_item.v1","format_contract_version":"news_item_formats.v1","dedup_url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}},"news_item":{"id":35151,"canonical_url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","source_url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","source_name":"上海交通大学 新闻网","author":null,"published_at":"2026-07-13T06:15:48+00:00","locale":"zh","topic":"ai","tags":[],"rss_summary":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 上海交通大学 新闻网","full_text":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.\n原文在线： https://www.nature.com/articles/s41551-026-01728-1","excerpt":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.","extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2888 characters.","diagnostics_url":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}}},"display_formats":["compact","card","full","digest_section","json"]},"daily_stack_record":{"title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","summary":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.","source":"上海交通大学 新闻网","date":"2026-07-13T06:15:48+00:00","content":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.\n原文在线： https://www.nature.com/articles/s41551-026-01728-1","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2888 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}},"tags":[]},"fallback_formats":["markdown","json","html"],"actions":{"read":"/item/35151","export_markdown":"/api/items/35151/export?format=markdown","export_json":"/api/items/35151/export?format=json","diagnose":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html"},"formats":{"full":{"id":35151,"title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","source":"上海交通大学 新闻网","author":null,"published_at":"2026-07-13T06:15:48+00:00","locale":"zh","topic":"ai","tags":[],"excerpt":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.","full_text":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.\n原文在线： https://www.nature.com/articles/s41551-026-01728-1","reading_time_min":1,"extraction":{"state":"ok","confidence":0.9,"error":null,"explanation":"High confidence: full text extraction produced 2888 characters.","diagnostics_url":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}}},"quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}},"actions":{"read":"/item/35151","export_markdown":"/api/items/35151/export?format=markdown","export_json":"/api/items/35151/export?format=json","diagnose":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html"}},"digest":{"id":35151,"title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","source":"上海交通大学 新闻网","topic":"ai","published_at":"2026-07-13T06:15:48+00:00","excerpt":"探索发现 · 交大智慧 上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI:…","quality_bucket":"high","quality_reason":"High confidence: full text extraction produced 2888 characters.","reading_time_min":1,"cluster_id":null},"card":{"display_title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","subtitle":"上海交通大学 新闻网 · 2026-07-13","summary":"探索发现 · 交大智慧 上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical…","badges":["quality:high"],"links":{"read":"/item/35151","original":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","diagnose":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html"},"quality_warning":null},"export":{"title":"上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式 - 上海交通大学 新闻网","url":"https://news.sjtu.edu.cn/jdzh/20260713/224611.html","summary":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.","source":"上海交通大学 新闻网","date":"2026-07-13T06:15:48+00:00","content":"探索发现 · 交大智慧\n上海交大盛斌教授团队在《自然·生物医学工程》发表观点述评提出神经符号人工智能推动医疗AI安全可信发展新范式\n近日，上海交通大学计算机学院、人工智能教育部重点实验室盛斌教授联合剑桥大学、斯坦福大学、新加坡中央医院等全球多机构跨学科专家，在国际顶级期刊《自然·生物医学工程》（Nature Biomedical Engineering，影响因子26.3）刊发题为《面向医学的神经符号人工智能》（Neuro-symbolic artificial intelligence in medicine，DOI: 10.1038/s41551-026-01728-1）的观点文章（2026年07月10日全文在线发表）。该文针对当前医疗AI落地的核心痛点—深度学习与大模型的大规模落地应用正面临由可解释性“黑箱”与“幻觉”引发的医患信任危机，创新性提出神经符号（NeSy）混合人工智能新范式，为医疗AI探索从“实验室性能突破”走向“临床安全可问责”指明了核心发展路径。\n图1：原文在线\n一、医疗AI的十字路口：AI生成过剩却难获临床信任\n过去十年，深度学习与大语言模型在影像识别、病历分析、辅助诊断等生物医学任务上性能不断逼近甚至超越人类专家，却始终未能真正打破临床落地的“玻璃门”：AI给出的诊断结论无法追溯推理过程，一本正经开出超剂量药方的“幻觉”风险始终存在，医生不敢全信、患者心存顾虑、监管无据可依，“性能很强但不敢用”成为全行业的共同困境。\n文章一针见血地指出：医疗AI的核心矛盾早已不是“能不能识别病症”，而是“能不能为结论负责、能不能守住安全红线、能不能在复杂临床场景中保持稳定”。纯数据驱动的神经网络如同“聪明却毛躁的实习医生”——模式识别能力极强、反应快，但推理过程不透明、偶尔犯离谱错误；传统基于规则的符号AI如同“死板的教科书”——知识点绝对准确，但面对临床千变万化的非典型病例、杂乱多源的真实数据立刻失效。两类范式各有致命短板，都无法满足临床场景对“准确+安全+可解释”的三重要求。\n二、神经符号人工智能方案破局：给医学AI装上安全刹车与病历\n针对这一困局，研究团队系统提出神经符号团队AI框架：将神经网络强大的多模态数据感知能力，与符号系统可审计、可验证的逻辑推理能力深度融合，相当于给经验丰富的“AI实习医生”配上了一套刚性的诊疗规范红线与可追溯的诊疗日志，最终实现“既有感知直觉、又守规则底线”的临床级AI，类比兼具经验与严谨性的资深主任医师。\n图2：医疗神经符号AI核心架构示意图\n二、文章明确了神经符号AI的两大不可替代的临床价值：\n一是全链路可审计，让AI决策“说清道理”：AI给出的每一个结论都能追溯完整逻辑链——比如建议排查肺栓塞时，系统可明确展示“从病历提取到心动过速+长期卧床两项指征→匹配肺栓塞临床筛查标准→给出检查建议”的完整过程，彻底告别大模型“无依据输出风险评分”的黑箱模式，让医生能验证、能判断、敢采纳。\n二是硬规则兜底，给AI装上不可突破的“安全刹车”：将用药最大剂量、绝对诊疗禁忌、指南红线等医学常识固化为不可绕过的符号校验层，一旦神经网络给出超剂量用药、违反诊疗原则的错误建议，符号层会直接拦截修正，从架构层面杜绝离谱医疗错误，在概率性的AI输出之上加了一层确定性的安全护栏。\n文章特别强调，神经符号AI不是对大模型、深度学习的否定，而是对现有技术范式的关键补全：神经网络负责从影像、病历、波形等非结构化数据中提取特征，符号层负责承载诊疗指南、生理因果模型、安全规则，两者分工协作，真正落地医疗领域亟需的因果推理与可解释决策。\n三、不止于技术：为医疗AI画出从安全落地到长期演进的路线图\n文章没有将神经符号AI包装为“万能药方”，而是清晰划定了技术适用边界：高风险、强监管的临床场景（重症用药、影像诊断、治疗方案制定）最能发挥神经符号AI的安全价值；常规文书书写、标准化录入等低风险场景，纯神经网络模型已足够胜任，无需额外增加系统复杂度。\n针对当前神经符号AI落地的现实挑战，团队提出了成体系的设计原则：针对知识库更新滞后的问题，提出建设可版本化、可溯源、由临床专家主导的医学知识基础设施；针对规则与临床判断的冲突，明确“硬约束守安全红线、软约束供临床参考”的分层机制，允许医生在标注理由的前提下偏离指南推荐，保留临床判断的灵活性；针对医生使用中的“自动化偏见”与“认知过载”问题，提出自适应分层解释机制——急诊场景只给结论摘要，疑难病例可展开完整推理链路，避免告警疲劳。\n文章更首次为医疗神经符号AI画出了三阶段发展路线图：近期以安全校验、可解释诊断为核心，解决“敢用”的问题；中期落地神经符号数字孪生，支撑个性化动态诊疗，适配基层低资源医疗场景；长期融入元认知机制，让AI能主动识别自身推理失效场景，实现自我监管的自主医疗AI。\n四、回归医疗本质：性能只是入场券，安全才是生命线\n该成果来自于盛斌教授团队在多模态大模型与医工交叉领域长期深耕中的科学探索。盛斌教授长期聚焦多模态人工智能、医学影像智能分析、重大慢性疾病智能管理等方向研究，带领团队在医工交叉领域取得了一系列具有国际影响力的成果，推动了AI技术在临床场景的落地应用。本文与盛斌团队此前在《柳叶刀·数字健康》提出的“生成式AI赋能临床研究”、《自然·生物医学工程》提出的“合成数据破解医疗数据孤岛”系列成果形成完整体系：从破局数据瓶颈，到优化临床研究流程，再到筑牢安全可解释的落地底线，团队始终跳出“刷性能、追参数”的技术内卷，回归医疗“人命关天”的本质需求。\n“医疗AI的终极目标从来不是在数据集上比医生准确率高几个百分点，而是真正能走进临床，帮医生减负、让患者放心。”盛斌教授表示，在全行业追逐大模型参数规模、追逐榜单性能的热潮中，这篇评论更像一次冷静的行业提醒：医疗是强监管、高风险的特殊领域，性能只是AI进入临床的入场券，透明、安全、可问责才是医疗AI的生命线。神经符号范式为行业提供了一条务实的路径—不用等待“完美大模型”的出现，通过架构融合就能让现有AI技术安全落地，真正惠及临床与患者。该文研究为全球医疗AI的技术研发、监管标准制定、临床落地路径提供了核心学术参考，有望推动更多安全、可解释的医疗AI产品从实验室走向病房，打通医疗AI落地的“最后一公里”。本文得到国家自然科学基金青年科学基金(A类)项目的支持。\n近年来，上海交通大学计算机学院高度重视人工智能与生物医学的交叉融合，在医疗大模型、医学影像智能计算、数字医疗等方向布局了一批高水平研究团队，产出了多项标志性成果。本次在《Nature Biomedical Engineering》发表的评论文章，不仅为医疗AI的下一阶段发展提供了清晰的技术路线图，也彰显了学院在国际AI+医疗领域的学术话语权，将进一步推动我国可信医疗人工智能的技术创新与临床转化。.\n原文在线： https://www.nature.com/articles/s41551-026-01728-1","confidence":0.9,"diagnostics_url":"/api/diagnose?url=https%3A//news.sjtu.edu.cn/jdzh/20260713/224611.html","quality_bucket":"high","failure_kind":"none","retryable":false,"quality_reason":"High confidence: full text extraction produced 2888 characters.","quality_profile":{"profile_version":"extraction_quality.v2","bucket":"high","confidence":0.9,"failure_kind":"none","retryable":false,"retry_after_attempts":0,"reason":"High confidence: full text extraction produced 2888 characters.","operator_guidance":{"severity":"ok","recommended_action":"trust_full_text","next_step":"Use the extracted full text as the primary article source.","operator_label":"Ready","can_retry":false,"can_use_summary":false,"diagnostics_required":false},"content_depth":{"contract_version":"content_depth.v1","category":"full_text","label":"Full text","has_full_text":true,"has_summary":true,"content_length":2888,"summary_length":2831,"usable_text_length":2888,"source_field":"content"},"legacy_collapsed":false,"signals":{"extract_state":"ok","extract_error":null,"extract_retries":0,"content_length":2888,"summary_length":2831}},"tags":[],"format_contract_version":"news_item_formats.v1"}}}