精选国内外AI工具, 查看最新收录

GPU 云主机 · 国内

火山引擎

按GPU·小时/包年包月/资源包预留;GPU与CPU内存云盘带宽分别计量

A10 24GB 显存 适合 Qwen3-8B BF16 / 32B AWQ

模型部署与选型依据

Qwen3-8B BF16 / 32B AWQ

  • 容量依据Qwen3官方基准在6144输入、2048输出时:8B BF16占16811MB,32B AWQ-INT4占20795MB。
  • 部署环境现代NVIDIA卡可采用匹配CUDA环境的Transformers或vLLM;AWQ、GPTQ和FP8按框架硬件矩阵选择。
  • 配置边界32B须使用4-bit模型;增加上下文或并发时重新计算KV缓存。32B BF16不适合24GB单卡。
  • 微调选型微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。

模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。

部署依据核对:2026-11-14

配置参数

GPU

GPU 型号
A10
显存
24 GB

计算

vCPU
26 核
内存
112 GB

实例

实例类型
ai.gni2.26c-112gi
地区
国内
适合模型规模
Qwen3-8B BF16 / 32B AWQ

费用计算器

按量费用—
包月费用—
结论—

只按本页填写的按量价与包月价估算,不含磁盘、流量、公网 IP 等附加费用。

同款 A10 价格对比

厂商实例类型显存按量 / 时包月
天翼云小时单价最低 pi7.4xlarge.4(A10计算加速型) 24 GB ¥9.27 ¥4,447
阿里云 ecs.gn7i-c8g1.2xlarge 24 GB ¥9.53 ¥4,576
火山引擎当前 ai.gni2.26c-112gi 24 GB ¥10.61 ¥5,092
腾讯云 NVIDIA A10 · PNV4 计算型 24 GB ¥10.69 ¥5,132
百度智能云 NVIDIA Tesla A10 · GN5 计算型 24 GB — ¥4,370

按已填显存要求筛选的工作流

以下工作流按已填显存要求匹配(≤ 24GB)。

厂商与开通

字节跳动旗下,视频AI生态突出。主力为A10机型10.61元/时(AI数据湖档低至7.8元/GPU·时)、A100 EMR按GPU时50.4元,MLP高性能H800需询价。适合抖音视频AI与字节生态用户。注意A100按GPU时报价,整机需自行组合CPU与内存。

节点地区
华北北京(cn-beijing)为主;具体可用区B等以控制台为准
计费方式
按量计费(先使用后付费,秒级计费、每小时整点结算可开启节省停机模式)/ 包年包月(先付费后使用)/ 抢占式实例 / 按量计费 + 预留实例券 / 弹性预约实例
新用户优惠
注册即送方舟免费推理额度;LAS企业实名新用户20次免费算子;开通Seedance2.0需余额>200元或购资源包
实名 / 开通要求
注册即用部分免费额度;付费须实名(个人/企业);LAS算子免费仅企业实名
系统镜像 / 驱动
MLP节点预装CUDA/PyTorch镜像(hpcpni2/pni2族);公共镜像Ubuntu/CentOS;具体CUDA版本官网未明确

开通步骤

  1. 注册→实名→充值/购包→开通MLP/方舟→创建资源组(选pni2/hpcpni2)→选镜像/云盘→建队列→Notebook/SSH

详细介绍

字节跳动旗下,视频AI生态突出。主力为A10机型10.61元/时(AI数据湖档低至7.8元/GPU·时)、A100 EMR按GPU时50.4元,MLP高性能H800需询价。适合抖音视频AI与字节生态用户。注意A100按GPU时报价,整机需自行组合CPU与内存。

选机建议

  • 32B量化按6K输入选型;优先BF16/INT4路径
  • 32B须使用4-bit模型;增加上下文或并发时重新计算KV缓存。32B BF16不适合24GB单卡。
  • 微调规划:LlamaFactory官方预估7B LoRA约16GB、14B QLoRA4约12GB;长序列或更大批量应选更高显存档。
推荐工具↑ ↓ 选择 Enter 打开