Hugging Face Blog·· 17 天前AI 评分20
ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可保留工具输出的来源身份,检测"跨来源混淆"——即事实为真但被归因到错误来源。在医疗智能体的 281 条真实 trace 上,专家判定应拦截的 139 条 claim 中它拦下 138 条,来源识别准确率约 86%,并在四款对照检查器中得分最高。
来源:Hugging Face Blog · huggingface.co