精选国内外AI工具, 查看最新收录

GPU 云主机 · 国内

UCloud

GPU型G3(V100按颗)

V100 16GB 显存 适合 Qwen2.5-14B GPTQ4 / 7B推理

模型部署与选型依据

Qwen2.5-14B GPTQ4 / 7B推理

  • 容量依据Qwen2.5-14B GPTQ-Int4在A100官方6144输入基准占11.36GB,可作为16GB档容量选型依据。
  • 部署环境使用支持Volta的Transformers/GPTQ镜像,按FP16计算。当前vLLM预编译安装要求SM7.5以上,V100为SM7.0。
  • 配置边界不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
  • 微调选型微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。

模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。

部署依据核对:2026-11-14

配置参数

GPU

GPU 型号
V100
显存
16 GB

计算

vCPU
4 核
内存
8 GB

存储与网络

存储
20

实例

实例类型
GPU型G3(V100按颗)
地区
国内
适合模型规模
Qwen2.5-14B GPTQ4 / 7B推理

同款 V100 价格对比

厂商实例类型显存按量 / 时包月
智星云小时单价最低 Tesla V100-16GB 16 GB ¥1.1 —
智星云 Tesla V100-32GB 32 GB ¥1.32 —
矩池云 Tesla V100 16 GB ¥1.85 —
AutoDL NVIDIA V100 32 GB ¥1.88 —
丹摩智算 Tesla V100-SXM2 32 GB ¥1.98 —
华为云 NVIDIA V100 PCIe · P2s 计算加速型 32 GB ¥16.44 ¥7,890
腾讯云 NVIDIA V100 NVLink · GN10Xp/GN10X 计算型 32 GB ¥18.04 ¥5,190
阿里云 NVIDIA V100 · gn6e 规格族 32 GB ¥19.74 ¥9,475
阿里云 NVIDIA V100 · gn6v 规格族 16 GB ¥26.46 ¥7,620
UCloud Tesla V100 16 GB — ¥3,982
UCloud当前 GPU型G3(V100按颗) 16 GB — ¥5,000

按已填显存要求筛选的工作流

以下工作流按已填显存要求匹配(≤ 16GB)。

厂商与开通

UCloud GPU 云主机的 V100 机型可选 1–4 颗 NVIDIA Tesla V100(Volta 架构,每颗 16GB 显存、5120 CUDA 核心、单精度 14 TFLOPS、Tensor 112 TFLOPS),CPU 4–32 核、内存 8–128G,数据盘可选 20–1000G SSD 本地盘或 SSD 云盘。
注意:UCloud 官方「GPU 云主机机型」文档已将 V100 标注为「售罄 / 已下线」;同代在售的是 V100S(32GB 显存,可选华北北京2 B、华南广州 B、华东上海2 A)。

节点地区
上海/北京/广州/香港;全球30+可用区五大洲
计费方式
预付费按小时/月/年;关机不收费(关机不收计算费随开随用);SSD云盘/带宽VPC另计;老卡按颗包月(V100 5000/P40 2500每颗月)
新用户优惠
GPU新用户9.9元畅享24小时(限一种机型截止2026-12-31);29.9元一周;高校科研新客1.4折;40/50系0.2折(个企/高校/香港)
实名 / 开通要求
注册+实名后参与;部分线路PathX仅限企业实名新客;关联信息相同视为同一用户
系统镜像 / 驱动
标准镜像CentOS/Ubuntu/Debian/Windows/Redhat;通用公共镜像预装NVIDIA驱动/TF;支持上传自制镜像;镜像市场免费开源大模型镜像(ChatGLM/Alpaca-LoRA)

开通步骤

  1. 注册→实名→充值→UHost选地域可用区→选GPU型(G3 V100/RTX4090/A100)→选标准/通用镜像(带驱动)或自上传→配SSD云盘/VPC/EIP→创建→SSH

详细介绍

中立第三方云,香港节点有优势。主力为V100按颗包月5000元、P40包月2500元、RTX 4090单卡2.6元/时或50元/天(包月约1252元),为国内少见公开4090;A100/A800多卡活动低至1.1折。适合香港跨境业务与4090单卡用户。注意A100/A800刊例需询价,折扣空间大。

选机建议

  • V100/Volta:选择FP16或GPTQ路径
  • 不要选择AWQ或原生BF16路径;不能直接沿用A100/H100镜像。
  • 微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。
推荐工具↑ ↓ 选择 Enter 打开