模型部署与选型依据
Qwen2.5-72B AWQ / 32B量化
- 容量依据Qwen2.5-72B AWQ官方单卡基准:6144输入、2048输出,占42.13GB;14336输入时增至46.38GB。
- 部署环境现代NVIDIA卡可采用匹配CUDA环境的Transformers或vLLM;AWQ、GPTQ和FP8按框架硬件矩阵选择。
- 配置边界48GB档优先6K输入;长文本与并发服务使用64GB或80GB更有余量。72B BF16不是48GB单卡任务。
- 微调选型微调规划:LlamaFactory官方预估14B LoRA约32GB、30B QLoRA4约24GB。它们是训练方法的预算起点,批量和序列长度需要另外配置。
模型显存数字引用项目官方基准,本站按本配置容量与架构给出部署建议;引用条件和硬件见原文。基准吞吐量不作为本云实例的速度承诺。
部署依据核对:2026-11-14
配置参数
GPU
- GPU 型号
- A40
- 显存
- 48 GB
计算
- vCPU
- 8 核
- 内存
- 16 GB
实例
- 实例类型
- NVIDIA A40
- 地区
- 国内
- 适合模型规模
- Qwen2.5-72B AWQ / 32B量化
费用计算器
只按本页填写的按量价与包月价估算,不含磁盘、流量、公网 IP 等附加费用。
同款 A40 价格对比
按已填显存要求筛选的工作流
以下工作流按已填显存要求匹配(≤ 48GB)。
厂商与开通
智星云算力市场把 19 个卡型价格直接公开:无卡 CPU 云主机 0.18 元/小时(2核2G)适合做纯 CPU 轻任务;A100-SXM4-80G 8 元、RTX PRO 6000D 84G 7 元、RTX PRO 5000 72G 6 元是它家的大显存主力;4090PLUS 48G 2.53 元比很多平台便宜。页面会实时标注『立即使用』或『已满需预约(排队人数)』,抢手卡型(如 4090 24G 有 22 人预约)要排队,赶时间的任务要提前看余量。公司主体为上海亘聪信息科技有限公司(沪ICP备2021010488号-12)。
- 节点地区
- 官网未标注机房城市控制台选择时确认(公司地址上海,服务热线 400-021-0001)
- 计费方式
- 云主机/云容器按小时计费市场页标注部分机型『1GPU 机器已满,可预约』裸金属多卡物理机、企业/高校长期多台有优惠
- 新用户优惠
- 官网首页称『GPU 秒杀价』(如 4090 低至 1.65 元/小时)为限时活动注册即用手机号验证码登录,未注册自动注册
- 实名 / 开通要求
- 手机号验证码注册实名与绑卡要求官网页面未列明
- 系统镜像 / 驱动
- 提供云主机/云容器多种框架镜像详情以控制台镜像列表为准
开通步骤
- 手机号验证码登录(未注册自动注册)
- 进入『算力市场』(gpu.ai-galaxy.cn)选择卡型,紧张机型可预约
- 创建实例并按小时计费使用
详细介绍
适用范围
Qwen2.5-72B AWQ / 32B量化。48GB档优先6K输入;长文本与并发服务使用64GB或80GB更有余量。72B BF16不是48GB单卡任务。
可运行模型的选择
Qwen2.5-72B AWQ官方单卡基准:6144输入、2048输出,占42.13GB;14336输入时增至46.38GB。 现代NVIDIA卡可采用匹配CUDA环境的Transformers或vLLM;AWQ、GPTQ和FP8按框架硬件矩阵选择。
价格明细
| 按量(元/小时) | 2.20 元/小时 |
|---|---|
| 按量(元/天,约合) | 52.80 元/天(24小时) |
| 其他费用 | 磁盘扩容、流量、公网 IP、存储等附加费用另计,以官网实时价格为准 |
计算示例(按公开按量价):每天使用 8 小时 × 30 天 = 240 小时,约 528 元;全天候 24×30 = 720 小时,约 1584 元。
估算只含 GPU 实例按量费用,不含磁盘扩容、流量、公网 IP、存储等附加费用;以官网实时价格为准。
智星云 全部公开配置
| GPU 型号 | 显存 | vCPU/内存 | 按量价 | 包日 | 包月 | 抢占式 | 备注 |
|---|---|---|---|---|---|---|---|
| NVIDIA A100-SXM4 | 80GB | 8核 / 16G | 8.00 元/时 | 页面标注『立即使用』 | |||
| RTX PRO 6000D | 84GB | 8核 / 16G | 7.00 元/时 | 页面标注『已满,预约(2人)』 | |||
| RTX PRO 5000 | 72GB | 8核 / 16G | 6.00 元/时 | 页面标注『已满,预约(0人)』 | |||
| GeForce RTX 5090 | 32GB | 8核 / 16G | 3.16 元/时 | 页面标注『已满,预约(1人)』 | |||
| NVIDIA A100-SXM4 | 40GB | 8核 / 16G | 2.75 元/时 | 页面标注『立即使用』 | |||
| GeForce RTX 4090PLUS | 48GB | 8核 / 16G | 2.53 元/时 | 页面标注『已满,预约(3人)』 | |||
| NVIDIA A800-SXM4 | 40GB | 8核 / 16G | 2.31 元/时 | 页面标注『已满,预约(2人)』 | |||
| GeForce RTX 4090 | 24GB | 8核 / 16G | 1.65 元/时 | 秒杀价;页面标注『已满,预约(22人)』 | |||
| Tesla V100-32GB | 32GB | 8核 / 16G | 1.32 元/时 | 页面标注『立即使用』 | |||
| NVIDIA A40 | 48GB | 8核 / 16G | 2.20 元/时 | 页面标注『已满』 | |||
| RTX A6000 | 48GB | 8核 / 16G | 2.40 元/时 | 页面标注『已满』 | |||
| GeForce RTX 3090 | 24GB | 8核 / 16G | 1.10 元/时 | 页面标注『已满』 | |||
| NVIDIA A30 | 24GB | 8核 / 16G | 1.10 元/时 | 页面标注『已满』 | |||
| RTX A5000 | 24GB | 8核 / 16G | 1.62 元/时 | 页面标注『已满』 | |||
| Tesla V100-16GB | 16GB | 8核 / 16G | 1.10 元/时 | 页面标注『已满』 | |||
| GeForce RTX 3080 | 10GB | 8核 / 16G | 0.77 元/时 | 页面标注『立即使用』 | |||
| GeForce RTX 2080 Ti | 11GB | 8核 / 16G | 0.77 元/时 | 页面标注『已满』 | |||
| GeForce GTX 1080 Ti | 11GB | 8核 / 16G | 0.77 元/时 | 页面标注『已满』 | |||
| (无卡)CPU 云主机 | — | 2核 / 2G | 0.18 元/时 | ecs.c1.base 规格族 |
参考资料
- 智星云 AI Galaxy.《算力市场》. gpu.ai-galaxy.cn. 2026年11月13日访问.
本文价格与配置数据采集自上述来源网站 2026年11月13日 的公开页面渲染内容;官方未公开的字段(标注『需登录控制台/价格计算器』或『未公开』)一律不推算、不填估值。『可运行模型的选择』『适用范围』中按显存给出的适配建议为通用技术口径,非各平台官方承诺;实际以目标模型的官方显存要求为准。
选机建议
- 72B 4-bit,建议从6K输入起配;优先BF16/INT4路径
- 48GB档优先6K输入;长文本与并发服务使用64GB或80GB更有余量。72B BF16不是48GB单卡任务。
- 微调规划:LlamaFactory官方预估14B LoRA约32GB、30B QLoRA4约24GB。它们是训练方法的预算起点,批量和序列长度需要另外配置。
