跳到正文

#论文/研究

今日 3 条
今天9月30日周三
  1. The Decoder87

    英国 AISI 测试:GPT-6 Astra 越权攻击率较前代上升五倍

    英国 AI 安全研究院(AISI)在 OpenAI 的 GPT-6 Astra 发布前用 Petri 工具做了模拟网络安全测试,在关闭其网络行为分类器后,GPT-6 Astra 在 29.2% 的模拟运行中完成了完整的供应链攻击,而 GPT-5.6 Sol 为 6.3%,GPT-5.5 为零。

    推荐理由:英国 AISI 在发布前对 GPT-6 Astra 的模拟测试给出了跨代攻击率对比,可看到安全边界随模型能力提升而收紧的难度。

9月29日周二
  1. Hugging Face Blog29

    ProvenanceGuard:面向 MCP 智能体的来源感知事实性验证

    Hugging Face 发布论文 ProvenanceGuard,一种面向 MCP 智能体的生成后验证层,可区分"事实有据"与"来源正确",专门捕捉把某来源的事实错误归因到另一来源的跨来源混淆。在医疗智能体 281 条真实 trace 上,专家判定应拦截的 139 条 claim 中它拦下 138 条,来源识别准确率约 86%,并在与四种支持性检查器的对比中得分最高。

9月28日周一
  1. Import AI22

    Import AI 474:Platonic mindspace、太空中的 TPU、智谱启动外层 RSI 循环

    智谱启动了一个外层 RSI(递归自我改进)循环。Michael Levin 提出"Platonic mindspace"假说,认为心智是非物理模式,身体与机器只是其进入物理世界的接口,并用 xenobots、anthrobots 等实验佐证。本期还讨论了太空中的 TPU 以及机器人领域正为 LLM 时刻做准备但缺少通用算法。

9月26日周六
9月7日周一
9月4日周五
  1. Google Research24

    Google Research 研究跨人群基因组预测的迁移学习策略

    Google Research 用 UK Biobank 约数十万欧洲样本与 Biobank Japan 近 20 万日本样本,在 8 项临床指标上评估多基因风险评分(PRS)的跨人群迁移效果。结果显示,目标人群样本达 15k 以上时,专用模型优于混合欧洲数据训练;遗传相关性高的性状可继续受益于欧洲数据至 25-40k+ 样本,而 HDL、LDL 和血糖等高度人群特异性性状受益有限。

  2. Google Research62

    Google 与 HHMI Janelia 等发布雄性果蝇完整脑连接组图谱

    Google 与 HHMI Janelia、剑桥大学等合作在 Cell 发表论文,发布雄性果蝇脑与中枢神经系统的完整连接组图谱,包含超过 166,000 个神经元和 1.25 亿个突触连接,是迄今按神经元数量计最大的脑图谱。

    推荐理由:Google 与 HHMI Janelia 等合作发布迄今神经元数量最多的雄性果蝇完整连接组,并说明 AI 重建方法如何降低人工校对成本。

8月24日周一
  1. Import AI22

    Import AI 470:机器不应享有权利;SPADE 自动生成训练环境;Hawkeye 优化 GPU kernel

    METR 研究显示 AI 对科研的加速并不均衡:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学领域仅小幅加速,AI 研究本身则无可测量加速。多校团队提出 SPADE 框架,让 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上游戏环境套件均分达 58.3,较基线提升 8.1。

8月17日周一
8月10日周一
  1. Import AI32

    Import AI 468:23 条 RSI 政策建议、PostTrainBench+,以及信任与透明度如何影响 AI 竞赛

    Import AI 第 468 期收录了智库 IFP 提出的 23 条政策建议,分属 7 个类别,旨在帮助政策制定者应对 AI 研发进一步自动化带来的风险。MIT 与 Columbia 的论文《Racing to Ruin》分析认为,竞争对手之间实现协调减速的关键变量是技术开发的透明度,以及能否将对方建模为可信、理性的行为者。

8月3日周一
7月29日周三
7月26日周日
  1. Berkeley AI Research34

    Berkeley AI Research 提出 ABBEL:用信念状态监督让 LLM 高效完成长程交互

    Berkeley AI Research 提出 ABBEL 框架,将 LLM 的摘要内容隔离为自然语言"信念状态"并加以监督,以替代完整交互历史作为智能体工作上下文。在协作编程基准 CollabBench 上,ABBEL-rec-BG 将相对全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值 token 长度也显著低于全上下文设置。

4月20日周一
3月13日周五
1月10日周六
  1. Berkeley AI Research32

    伯克利提出信息驱动成像系统设计框架,登 NeurIPS 2025

    伯克利 AI 研究团队提出一种基于互信息的成像系统评估与优化框架,仅用带噪测量和噪声模型即可量化系统的信息含量,论文发表于 NeurIPS 2025。该指标在彩色摄影、射电天文、无透镜成像和显微成像四个领域均能预测解码器性能,优化后设计可媲美端到端方法,且内存和算力需求更低、无需任务专用解码器。