精选国内外AI工具, 查看最新收录

GPU 云主机 · 国内

阿里云

阿里云 GPU 云服务器(EGS)基于 ECS 异构计算实例族提供 NVIDIA 专业卡,公开产品页列出 gn8is(L20-48G)/gn7i(A10-24G)/gn6e(V100-32G)/gn6v(V100-16G)/gn6i(T4-16G)/gn5(P100-16G)等规格族;逐实例价格需价格计算器按地域查询。

V100 16GB 显存 适合 Qwen2.5-14B GPTQ4 / 7B推理

模型部署与选型依据

Qwen2.5-14B GPTQ4 / 7B推理

  • 容量依据Qwen2.5-14B GPTQ-Int4在A100官方6144输入基准占11.36GB,可作为16GB档容量选型依据。
  • 部署环境使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。
  • 配置边界不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
  • 微调选型微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。

模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。

部署依据核对:2026-11-14

配置参数

GPU

GPU 型号
V100
显存
16 GB

计算

vCPU
8 核
内存
32 GB

实例

实例类型
NVIDIA V100 · gn6v 规格族
地区
国内
适合模型规模
Qwen2.5-14B GPTQ4 / 7B推理

费用计算器

按量费用—
包月费用—
结论—

只按本页填写的按量价与包月价估算,不含磁盘、流量、公网 IP 等附加费用。

同款 V100 价格对比

厂商实例类型显存按量 / 时包月
智星云小时单价最低 Tesla V100-16GB 16 GB ¥1.1 —
智星云 Tesla V100-32GB 32 GB ¥1.32 —
矩池云 Tesla V100 16 GB ¥1.85 —
AutoDL NVIDIA V100 32 GB ¥1.88 —
丹摩智算 Tesla V100-SXM2 32 GB ¥1.98 —
华为云 NVIDIA V100 PCIe · P2s 计算加速型 32 GB ¥16.44 ¥7,890
腾讯云 NVIDIA V100 NVLink · GN10Xp/GN10X 计算型 32 GB ¥18.04 ¥5,190
阿里云 NVIDIA V100 · gn6e 规格族 32 GB ¥19.74 ¥9,475
阿里云当前 NVIDIA V100 · gn6v 规格族 16 GB ¥26.46 ¥7,620
UCloud Tesla V100 16 GB — ¥3,982
UCloud GPU型G3(V100按颗) 16 GB — ¥5,000

按已填显存要求筛选的工作流

以下工作流按已填显存要求匹配(≤ 16GB)。

厂商与开通

节点地区
多地域多可用区(官网购买页选择,公开产品页未列清单)
计费方式
与 ECS 一致:包年包月、按量付费,另有抢占式实例与节省计划阿里云开发者社区口径GPU 实例费用含计算资源、镜像、块存储、公网带宽、快照等计费项
新用户优惠
官网不定期有新用户/免费试用活动(如 PAI Artlab 试用额度,以活动页实时为准)
实名 / 开通要求
注册需实名认证(中国站)GPU 实例购买部分地域有配额申请
系统镜像 / 驱动
支持主流 Linux 发行版与预装 GPU 驱动镜像配套 AIACC-Training/AIACC-Inference 加速引擎、FastGPU 集群部署工具、容器共享 GPU 软件官方产品页

开通步骤

  1. 注册阿里云账号并实名认证
  2. 进入 ECS 购买页选择 GPU 计算型实例族(gn8is/gn7i/gn6i 等)与地域
  3. 用价格计算器询价后下单,选择预装驱动的镜像或手动安装 CUDA

阿里云 GPU 实例族

  • gn8is 搭载 NVIDIA L20,最大 8 卡、最大 GPU 显存 48GB×8、最大内存 1024GB,适用于 30B-70B 模型推理(开发者社区口径)
  • gn7i 搭载 A10,最大 4 卡、24GB×4、最大内存 752GB,代表规格 ecs.gn7i-c32g1.8xlarge(32 vCPU/188GiB/1×A10)
  • gn6e 搭载 V100 32GB,最大 8 卡、736GB 内存
  • gn6v 搭载 V100 16GB,最大 8 卡、336GB
  • gn6i 搭载 T4,最大 4 卡、372GB,代表规格 ecs.gn6i-c40g1.10xlarge(40 vCPU/155GiB/1×T4)
  • gn5 搭载 P100 16GB,最大 8 卡、480GB。另有 gn9gc(Blackwell 架构、单卡显存 72GB、支持 FP4)与 vgn/sgn 虚拟化型实例族(开发者社区口径,以官方实时文档为准)

详细介绍

适用范围

Qwen2.5-14B GPTQ4 / 7B推理。不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。

可运行模型的选择

Qwen2.5-14B GPTQ-Int4在A100官方6144输入基准占11.36GB,可作为16GB档容量选型依据。 使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。

价格明细

价格 按量目录价 26.46 元/小时、包月目录价 7620 元(ecs.gn6v-c8g1.2xlarge 单卡 8核32GB,华北 2 北京,Linux);仅含实例规格,系统盘与带宽另计(来源:官网价格页,2026-11-13 查询,以官网实时价格为准)
其他费用 磁盘扩容、流量、公网 IP、存储等附加费用另计,以官网实时价格为准

阿里云 全部公开配置

GPU 型号 显存 vCPU/内存 按量价 包日 包月 抢占式 备注
NVIDIA L20 48GB 最高多核(按规格) / 规格族最大 1024GB 需登录 gn8is 规格族,最大 8 卡;价格需价格计算器查询
NVIDIA A10 24GB 32 vCPU 起 / 188GiB 起 需登录 gn7i 规格族,最大 4 卡;ecs.gn7i-c32g1.8xlarge 为代表规格
NVIDIA V100 32GB 按规格 / 规格族最大 736GB 需登录 gn6e 规格族,最大 8 卡 NVLink
NVIDIA V100 16GB 按规格 / 规格族最大 336GB 需登录 gn6v 规格族,最大 8 卡
NVIDIA T4 16GB 40 vCPU 起 / 155GiB 起 需登录 gn6i 规格族,最大 4 卡;ecs.gn6i-c40g1.10xlarge 为代表规格
NVIDIA P100 16GB 按规格 / 规格族最大 480GB 需登录 gn5 规格族,最大 8 卡

参考资料

  1. Alibaba Cloud.《GPU云服务器-产品规格族》. alibabacloud.com/zh/product/heterogeneous_computing. 2026年11月13日访问.
  2. Alibaba Cloud.《GPU云服务器(gn/vgn/sgn系列)规格》. alibabacloud.com/help/doc-detail/108496.htm. 2026年11月13日访问.

本文价格与配置数据采集自上述来源网站 2026年11月13日 的公开页面渲染内容;官方未公开的字段(标注『需登录控制台/价格计算器』或『未公开』)一律不推算、不填估值。『可运行模型的选择』『适用范围』中按显存给出的适配建议为通用技术口径,非各平台官方承诺;实际以目标模型的官方显存要求为准。

选机建议

  • V100/Volta:选择FP16或GPTQ路径
  • 不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
  • 微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。
推荐工具↑ ↓ 选择 Enter 打开