模型部署与选型依据
Qwen2.5-14B GPTQ4 / 7B推理
- 容量依据Qwen2.5-14B GPTQ-Int4在A100官方6144输入基准占11.36GB,可作为16GB档容量选型依据。
- 部署环境使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。
- 配置边界不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
- 微调选型微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。
模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。
部署依据核对:2026-11-14
配置参数
GPU
- GPU 型号
- V100
- 显存
- 16 GB
计算
- vCPU
- 4 核
- 内存
- 8 GB
存储与网络
- 存储
- 20
实例
- 实例类型
- GPU型G3(V100按颗)
- 地区
- 国内
- 适合模型规模
- Qwen2.5-14B GPTQ4 / 7B推理
同款 V100 价格对比
| 厂商 | 实例类型 | 显存 | 按量 / 时 | 包月 |
|---|---|---|---|---|
| 智星云小时单价最低 | Tesla V100-16GB | 16 GB | ¥1.1 | — |
| 智星云 | Tesla V100-32GB | 32 GB | ¥1.32 | — |
| 矩池云 | Tesla V100 | 16 GB | ¥1.85 | — |
| AutoDL | NVIDIA V100 | 32 GB | ¥1.88 | — |
| 丹摩智算 | Tesla V100-SXM2 | 32 GB | ¥1.98 | — |
| 华为云 | NVIDIA V100 PCIe · P2s 计算加速型 | 32 GB | ¥16.44 | ¥7,890 |
| 腾讯云 | NVIDIA V100 NVLink · GN10Xp/GN10X 计算型 | 32 GB | ¥18.04 | ¥5,190 |
| 阿里云 | NVIDIA V100 · gn6e 规格族 | 32 GB | ¥19.74 | ¥9,475 |
| 阿里云 | NVIDIA V100 · gn6v 规格族 | 16 GB | ¥26.46 | ¥7,620 |
| UCloud | Tesla V100 | 16 GB | — | ¥3,982 |
| UCloud当前 | GPU型G3(V100按颗) | 16 GB | — | ¥5,000 |
按已填显存要求筛选的工作流
以下工作流按已填显存要求匹配(≤ 16GB)。
厂商与开通
UCloud GPU 云主机的 V100 机型可选 1–4 颗 NVIDIA Tesla V100(Volta 架构,每颗 16GB 显存、5120 CUDA 核心、单精度 14 TFLOPS、Tensor 112 TFLOPS),CPU 4–32 核、内存 8–128G,数据盘可选 20–1000G SSD 本地盘或 SSD 云盘。
注意:UCloud 官方「GPU 云主机机型」文档已将 V100 标注为「售罄 / 已下线」;同代在售的是 V100S(32GB 显存,可选华北北京2 B、华南广州 B、华东上海2 A)。
- 节点地区
- 上海/北京/广州/香港;全球30+可用区五大洲
- 计费方式
- 预付费按小时/月/年;关机不收费(关机不收计算费随开随用);SSD云盘/带宽VPC另计;老卡按颗包月(V100 5000/P40 2500每颗月)
- 新用户优惠
- GPU新用户9.9元畅享24小时(限一种机型截止2026-12-31);29.9元一周;高校科研新客1.4折;40/50系0.2折(个企/高校/香港)
- 实名 / 开通要求
- 注册+实名后参与;部分线路PathX仅限企业实名新客;关联信息相同视为同一用户
- 系统镜像 / 驱动
- 标准镜像CentOS/Ubuntu/Debian/Windows/Redhat;通用公共镜像预装NVIDIA驱动/TF;支持上传自制镜像;镜像市场免费开源大模型镜像(ChatGLM/Alpaca-LoRA)
开通步骤
- 注册→实名→充值→UHost选地域可用区→选GPU型(G3 V100/RTX4090/A100)→选标准/通用镜像(带驱动)或自上传→配SSD云盘/VPC/EIP→创建→SSH
详细介绍
中立第三方云,香港节点有优势。主力为V100按颗包月5000元、P40包月2500元、RTX 4090单卡2.6元/时或50元/天(包月约1252元),为国内少见公开4090;A100/A800多卡活动低至1.1折。适合香港跨境业务与4090单卡用户。注意A100/A800刊例需询价,折扣空间大。
选机建议
- V100/Volta:选择FP16或GPTQ路径
- 不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
- 微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。
