模型部署与选型依据
Qwen2.5-32B GPTQ4 / 旧卡推理
- 容量依据Qwen2.5-32B GPTQ-Int4在A100官方6144输入基准占21.09GB,可作为32GB档容量选型依据。
- 部署环境使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。
- 配置边界不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
- 微调选型微调规划:LlamaFactory官方预估14B LoRA约32GB、30B QLoRA4约24GB。它们是训练方法的预算起点,批量和序列长度需要另外配置。
模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。
部署依据核对:2026-11-14
配置参数
GPU
- GPU 型号
- V100
- 显存
- 32 GB
实例
- 实例类型
- NVIDIA V100
- 地区
- 国内
- 适合模型规模
- Qwen2.5-32B GPTQ4 / 旧卡推理
费用计算器
按量费用—
结论—
只按本页填写的按量价与包月价估算,不含磁盘、流量、公网 IP 等附加费用。
同款 V100 价格对比
| 厂商 | 实例类型 | 显存 | 按量 / 时 | 包月 |
|---|---|---|---|---|
| 智星云小时单价最低 | Tesla V100-16GB | 16 GB | ¥1.1 | — |
| 智星云 | Tesla V100-32GB | 32 GB | ¥1.32 | — |
| 矩池云 | Tesla V100 | 16 GB | ¥1.85 | — |
| AutoDL当前 | NVIDIA V100 | 32 GB | ¥1.88 | — |
| 丹摩智算 | Tesla V100-SXM2 | 32 GB | ¥1.98 | — |
| 华为云 | NVIDIA V100 PCIe · P2s 计算加速型 | 32 GB | ¥16.44 | ¥7,890 |
| 腾讯云 | NVIDIA V100 NVLink · GN10Xp/GN10X 计算型 | 32 GB | ¥18.04 | ¥5,190 |
| 阿里云 | NVIDIA V100 · gn6e 规格族 | 32 GB | ¥19.74 | ¥9,475 |
| 阿里云 | NVIDIA V100 · gn6v 规格族 | 16 GB | ¥26.46 | ¥7,620 |
| UCloud | Tesla V100 | 16 GB | — | ¥3,982 |
| UCloud | GPU型G3(V100按颗) | 16 GB | — | ¥5,000 |
按已填显存要求筛选的工作流
以下工作流按已填显存要求匹配(≤ 32GB)。
厂商与开通
- 节点地区
- 官网首页未标注机房城市AutoDL 以多地机房著称,下单时在控制台选择(以控制台实际为准)
- 计费方式
- 按量计费(元/小时),会员 95 折官网首页标注包周/包月等长期计费以控制台为准
- 新用户优惠
- 官网首页未列新用户优惠以控制台活动为准
- 实名 / 开通要求
- 官网首页未列实名与绑卡要求以注册流程实际为准
- 系统镜像 / 驱动
- 官网首页未列镜像清单AutoDL 提供主流深度学习框架镜像(以控制台实际为准)
开通步骤
- 注册 AutoDL 账号(autodl.com)
- 在算力市场选择卡型与地区
- 选镜像创建实例,按量计费,会员享 95 折
AutoDL 首页价格卡同时给出单精度/半精度算力参数,方便横向比卡
- H800 80G 半精 756 Tensor TFLOPS、9.98 元/时
- H20 96G 9.98 元/时
- A800-80G 5.59 元/时
- RTX 5090 32G 2.78 元/时单精 104.8 TFLOPS
- V100 32G 与 RTX 4090 24G 均 1.88 元/时
- RTX 3090 24G 1.32 元/时
- RTX 2080Ti 11G 0.88 元/时。完整卡型列表与各地区实时余量需登录控制台查看
详细介绍
适用范围
Qwen2.5-32B GPTQ4 / 旧卡推理。不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
可运行模型的选择
Qwen2.5-32B GPTQ-Int4在A100官方6144输入基准占21.09GB,可作为32GB档容量选型依据。 使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。
价格明细
| 按量(元/小时) | 1.88 元/小时 |
|---|---|
| 按量(元/天,约合) | 45.12 元/天(24小时) |
| 其他费用 | 磁盘扩容、流量、公网 IP、存储等附加费用另计,以官网实时价格为准 |
计算示例(按公开按量价):每天使用 8 小时 × 30 天 = 240 小时,约 451 元;全天候 24×30 = 720 小时,约 1354 元。
估算只含 GPU 实例按量费用,不含磁盘扩容、流量、公网 IP、存储等附加费用;以官网实时价格为准。
AutoDL 全部公开配置
| GPU 型号 | 显存 | vCPU/内存 | 按量价 | 包日 | 包月 | 抢占式 | 备注 |
|---|---|---|---|---|---|---|---|
| NVIDIA H800 | 80GB | 9.98 元/时 | 单精 51.2 TFLOPS / 半精 756.0 Tensor TFLOPS | ||||
| NVIDIA H20 | 96GB | 9.98 元/时 | 半精算力官网标注暂无 | ||||
| NVIDIA A800-80GB | 80GB | 5.59 元/时 | 单精 19.5 TFLOPS / 半精 312 Tensor TFLOPS | ||||
| NVIDIA RTX 5090 | 32GB | 2.78 元/时 | 单精 104.8 TFLOPS / 半精 210 Tensor TFLOPS | ||||
| NVIDIA V100 | 32GB | 1.88 元/时 | 单精 15.7 TFLOPS / 半精 125 Tensor TFLOPS | ||||
| NVIDIA RTX 4090 | 24GB | 1.88 元/时 | 单精 82.58 TFLOPS / 半精 165.2 Tensor TFLOPS | ||||
| NVIDIA RTX 3090 | 24GB | 1.32 元/时 | 单精 35.58 TFLOPS / 半精 71 Tensor TFLOPS | ||||
| NVIDIA RTX 2080Ti | 11GB | 0.88 元/时 | 单精 13.45 TFLOPS / 半精 53.8 Tensor TFLOPS |
参考资料
- AutoDL.《AutoDL算力云首页价格卡》. www.autodl.com. 2026年11月13日访问.
本文价格与配置数据采集自上述来源网站 2026年11月13日 的公开页面渲染内容;官方未公开的字段(标注『需登录控制台/价格计算器』或『未公开』)一律不推算、不填估值。『可运行模型的选择』『适用范围』中按显存给出的适配建议为通用技术口径,非各平台官方承诺;实际以目标模型的官方显存要求为准。
选机建议
- V100/Volta:选择FP16或GPTQ路径
- 不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
- 微调规划:LlamaFactory官方预估14B LoRA约32GB、30B QLoRA4约24GB。它们是训练方法的预算起点,批量和序列长度需要另外配置。
