跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

61 条精选近 30 天 40 条共收录 479 条

更新

精选归档 · 第 4 页

9月23日周二第 61–61 条
  1. Qwen Blog66

    Qwen 发布 Qwen3Guard 安全护栏模型系列

    Qwen 发布 Qwen 系列首个安全护栏模型 Qwen3Guard,基于 Qwen3 基础模型微调,可对提示词和回复做安全检测并给出风险等级与分类。它提供 Qwen3Guard-Gen 和 Qwen3Guard-Stream 两个变体,后者通过 Transformer 末层两个轻量分类头实现逐 token 的实时流式检测,两者均有 0.6B、4B、8B 三种规模。

    推荐理由:原文给出两种安全护栏变体的能力差异与开源入口,读者可据此判断流式审核在部署中的取舍。