
NVIDIA NIM API 价格与接入
NVIDIA NIM把模型推理封装为可部署微服务:开发者可通过API Catalog进行原型验证,也可下载容器自托管。生产部署需分别核算软件授权、GPU算力和运维成本。
NIM使用路径与计费方式
| 使用路径 | 适用阶段 | 费用构成 |
|---|---|---|
| API Catalog托管端点 | 原型、研发和测试 | 账号额度及模型配额;开发访问不能直接替代生产授权 |
| 可下载NIM容器 | 自托管部署 | GPU算力、存储、网络和运维单独核算 |
| AI Enterprise授权 | 生产服务 | 按GPU授权;合同与采购渠道决定最终费用 |
NIM没有本页全部模型通用的一组Token售价,因此不参与统一Token月预算。官方授权示例及来源见下方“限额与计费”。
能力支持
- 流式输出:支持
- 函数调用:未标记支持
- JSON 模式:未标记支持
- 图片理解:未标记支持
- 语音:未标记支持
- 向量模型:未标记支持
- 批量接口:未标记支持
- 提示缓存:未标记支持
- 联网搜索:未标记支持
- 微调:未标记支持
NVIDIA NIM 接入教程
代码示例使用已核实的接口地址、鉴权方式和 API 模型 ID 生成;请以官方文档为准。
https://integrate.api.nvidia.com/v1Authorization: Bearernvidia/nemotron-3.5-lightning-30b-a3bcurl https://integrate.api.nvidia.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"nvidia\/nemotron-3.5-lightning-30b-a3b","messages":[{"role":"user","content":"你好"}]}'此示例仅适用于已标记 OpenAI 兼容的平台;实际路径及鉴权方式仍以官方文档为准。
限额与计费
调用限额
| 等级 | 条件 | RPM | TPM |
|---|---|---|---|
| 开发者API | 按具体模型和账号配额 | 以模型页或控制台显示为准 | 随模型和账号权限变化 |
计费方式
注册与付款
拿到 API Key 的步骤
- 选择使用路径
进入build.nvidia.com选择当前模型,区分云端API试用或下载容器部署。
- 取得开发密钥
登录开发者账号,在模型页生成API Key;按页面要求申请模型访问权限,将密钥保存在自己的环境变量中。
- 配置接口与模型
云端LLM使用https://integrate.api.nvidia.com/v1;从当前目录复制模型ID及请求示例。自托管则使用自己的端点、部署名称和认证。
访问与付款
费用估算
自托管费用按部署成本核算,不使用统一Token单价。
预算 = 软件授权 + GPU实例使用费用 + 存储网络 + 运维;吞吐与利用率决定单位Token的实际成本。软件授权和云GPU租赁费应分开计算。
平台介绍
三种使用方式如何选择
API Catalog托管端点用于快速验证模型和接口;可下载NIM容器用于在自己的GPU或云端GPU上部署;面向真实用户的生产使用还需核对AI Enterprise授权。云端目录和可下载容器是不同交付路径,并非每个模型都同时提供。
为什么不列统一Token单价
NVIDIA官方NIM FAQ按GPU说明生产授权,不能将某个第三方模型或托管平台的Token价格视为NIM整体售价。自托管预算应分别计入软件授权、GPU实例使用时长、存储、网络与运维;实际每百万Token成本还随吞吐、利用率和并发变化。
接入与模型选择
LLM云端接口为https://integrate.api.nvidia.com/v1/chat/completions,使用NVIDIA API Key。示例模型ID取自官方目录;上线前在账号模型页检查可用状态与请求参数。自托管时使用自己的服务地址和部署模型名。
官方依据
NVIDIA NIM 常见问题
NIM是不是统一按Token收费的模型平台?
NIM提供推理微服务和部署交付。开发者API与自托管生产授权属于不同路径,官方生产授权按GPU说明,不能套用一组平台统一Token单价。
API Catalog与下载容器是否相同?
前者使用NVIDIA托管端点验证,后者将推理服务部署到自己的环境。部分模型有可下载容器,具体可用性、许可和硬件要求分别查看模型页。
同类平台对比
点击平台名进入详情页;价格取各平台已填写的主力模型。
| 平台 | 主力模型 | 输入 /1M | 输出 /1M | 国内直连 | 免费额度 |
|---|---|---|---|---|---|
| NVIDIA NIM(本页) | NIM推理微服务(试用 / 自托管) | — | — | — | ✓ |
| Stability AI | Stable Image Ultra | — | 8 credits | — | ✓ |
| Hugging Face | Qwen3.8-27B · deepinfra | $0.20 | $2.50 | — | — |
| Replicate | CPU (Small) | — | $0.000025/秒 | — | — |