1 篇博文 含有标签「clinical-ai」

临床决策支持工具的任务只有一个：帮助医生使用他们在病历中使用的词汇来推理症状、药物和治疗方案。这意味着智能体必须能够直呼其名地讨论药物过量阈值、药物相互作用、禁忌症和剂量。这些都不是可选的。这就是产品本身。

因此，当模型在会诊中途打断，对面前就有患者的专业医生说，没有专业监督就无法提供医疗建议时，这是一种特殊的失败。医生没变，患者没变，提示词也没变。改变的是团队并不拥有的安全过滤器，它是针对团队并不属于的人群进行微调的，并按照团队无法控制的时间表进行更新。

这就是“供应商审核裂缝”（vendor moderation seam），它是应用 AI 领域讨论最少的边界之一。大多数团队将供应商的安全层视为模型的固定属性，就像上下文窗口一样。但事实并非如此。这是一种策略——一种动态的策略——无论你是否编写了它，现在它就是你产品的策略。