Hugging Face 博客·· 16 小时前AI 评分38
Hugging Face 发布 ProvenanceGuard:面向 MCP 智能体的来源感知事实核查
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
Hugging Face 发布 ProvenanceGuard,一个面向 MCP 智能体的生成后验证层,专门检测"跨来源混淆"——即事实在证据池中成立、却被归因到错误来源。在 281 条医疗智能体真实 trace 上,专家判定应拦截的 139 条声明中它拦下 138 条,来源识别准确率约 86%,并支持 RARR 式修复后重新验证。
来源:Hugging Face 博客 · hf-mirror.com