准确率是个不够用的指标

在医疗质控场景里，单纯看"准确率"没有意义。一份报告里绝大多数内容是正确的，模型只要"什么都不报"就能拿到很高的准确率——但这样的系统毫无价值。

四个值得关注的指标

  • 检出率：真实问题中被系统发现的比例
  • 误报率：系统提示中最终被判定为无问题的比例
  • 人工复核时效：从提示到医生确认的平均时长
  • 规则命中分布：哪些规则贡献了最多提示，哪些长期零命中

治理机制比模型更重要

可解释、可调节、可追溯，是医疗 AI 落地的三个前提。医生需要知道"为什么提示"，并且能够方便地反馈"这个提示不对"。

双引擎的价值

规则引擎负责确定性问题的精准拦截，大模型覆盖语义层面的复杂矛盾，裁判员机制对 AI 输出做二次校验。三者结合，才能把误报控制在医生可接受的范围内。

宁可漏报，不可误报。错误的提示会持续消耗医生的信任，其代价高于偶尔的漏检。