精选国内外AI工具, 查看最新收录

阿里通义千问发布首个安全护栏模型

Qwen 官方博客 返回资讯

通义千问团队发布 Qwen3Guard,这是 Qwen 系列首个安全护栏模型,基于 Qwen3 底座微调,专门用于安全分类。它有两个版本:Qwen3Guard-Gen 接受完整提示词和模型回复做离线安全标注,Qwen3Guard-Stream 则能在模型生成回复的过程中逐词实时检测。两个版本均有 0.6B、4B、8B 三种参数规模,已在 Hugging Face 和 ModelScope 开源,同时接入阿里云 AI Guardrails 服务。 安全护栏正在成为大模型落地的必要组件。此前开源护栏模型多为离线批量检测,无法在生成过程中拦截风险内容,Qwen3Guard-Stream 通过在主模型最后一层挂接两个轻量分类头,实现逐 token 的即时判定,把安全检测从事后审核变成生成时拦截。它还引入安全、不安全、争议三档分级,争议类可按场景动态调整松紧,解决了传统二分类难以适配不同数据标准的痛点。 对做模型部署和内容审核的团队来说,这套模型提供了可直接使用的开源方案:资源紧张可选 0.6B,追求精度可选 8B,多语言业务可覆盖 119 种语言和方言。需要离线标注数据集、为强化学习提供安全奖励,或用流式检测保障在线对话安全的开发者,都能按需选择对应版本,无需从零训练护栏模型。


原文:Qwen 官方博客

资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗

会员留言

推荐工具↑ ↓ 选择 Enter 打开