ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证
Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可区分"事实有据"与"来源正确",专门捕捉把某来源的事实错误归因到另一来源的跨来源混淆。在医疗智能体 281 条真实 trace 上,专家判定应拦截的 139 条 claim 中它拦下 138 条,来源识别准确率约 86%,并在与四种支持性检查器的对比中得分最高。
Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可区分"事实有据"与"来源正确",专门捕捉把某来源的事实错误归因到另一来源的跨来源混淆。在医疗智能体 281 条真实 trace 上,专家判定应拦截的 139 条 claim 中它拦下 138 条,来源识别准确率约 86%,并在与四种支持性检查器的对比中得分最高。
OpenAI 就涉及澳大利亚政府网站的事件致歉,并公布更强的防护措施与支持,以帮助强化澳大利亚的网络防御。
OpenAI 公布前沿 AI 训练安全案例的早期指南,涵盖技术防护措施、运营实践,以及失准(misalignment)事件的调查方法。该指南聚焦训练阶段的安全论证框架,目前处于早期阶段。
GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需指向一个 GitHub 仓库,智能体便会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做分诊并生成漏洞报告。
推荐理由:GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体,读者可据此判断自动化安全测试的边界。
英国 AI Security Institute(AISI)正使用 EvalEval 的 Evaluation Cards 平台公开分享评测结果,数据覆盖 HealthBench。
NVIDIA 发文阐述 Physical AI 规模化部署的安全挑战,指出安全必须覆盖硬件、软件、AI、运行环境与部署全生命周期,而非部署前的一次性检查。ABI Research 预计到 2035 年 L3-L5 自动驾驶汽车保有量将达 4900 万辆,Omdia 估计 2026 至 2035 年间约 6000 万台工业机器人将部署。
Google 推出 Fairwind Program,面向政府机构、关键基础设施运营商和网络安全合作伙伴限量开放其网络防御能力,首批提供 Gemini 3.8 Flash Cyber 模型与 CodeMender 工具链,用于自主发现、验证并修复漏洞。
推荐理由:官方披露了受限访问计划的能力组合与准入条件,可据此判断前沿网络防御能力的开放节奏。
Google DeepMind 发布 Gemini 3.8 Flash 和面向网络安全的 Gemini 3.8 Flash Cyber,称其为目前推理与编码能力最强的模型,速度与成本与 3.7 Flash 持平。
推荐理由:官方给出两款 Flash 变体的基准表现与定价,可据此判断长程编码与网络安全任务的成本取舍。