阿里通义千问开源文本嵌入与重排模型
阿里通义千问团队发布了 Qwen3 Embedding 系列模型,包含文本嵌入和重排两类,参数规模从 0.6B 到 8B。这些模型基于 Qwen3 基础模型,采用双编码器和交叉编码器架构,通过 LoRA 微调保留并增强基座的文本理解能力。嵌入模型支持 32K 序列长度和自定义向量维度,重排模型则专注于提升检索相关性。该系列已在 Hugging Face 和 ModelScope 以 Apache 2.0 协议开源,技术报告和代码同步在 GitHub 发布。在 MTEB 多语言排行榜上,8B 嵌入模型排名第一,重排模型在多个检索基准上显著领先同规模竞品。 这一发布对搜索、推荐和 RAG 应用开发者意义直接。嵌入和重排是检索增强生成流程中的关键环节,决定了大模型能否准确找到相关信息。此前高质量嵌入模型多由 OpenAI 等闭源服务提供,或依赖 BGE 等社区模型。Qwen3 Embedding 以开源协议放出全尺寸系列,且支持超 100 种语言和编程语言,意味着开发者可以在本地部署、自由微调,不必受 API 调用限制。对中文和多语言场景,CMTEB 和 MMTEB 上的成绩也提供了可参考的选型依据。 对普通开发者和企业技术团队来说,最直接的用处是可以用更低的成本搭建多语言检索系统。如果正在做 RAG 应用、代码搜索或跨语言文档检索,可以根据算力选择 0.6B 做快速原型,或用 4B、8B 追求更高精度。嵌入模型支持自定义向量维度,能适配不同向量数据库的存储要求;指令感知特性允许针对特定任务调整输入格式。模型已在主流平台开源,下载和测试门槛较低,适合纳入技术选型对比清单。
原文:Qwen 官方博客
资讯内容仅供参考;产品功能、价格与发布日期请以原文和官方公告为准。查看原始来源 ↗
会员留言