精选国内外AI工具, 查看最新收录
开放 API

NVIDIA NIM API 价格与接入

build.nvidia.com

NVIDIA NIM把模型推理封装为可部署微服务:开发者可通过API Catalog进行原型验证,也可下载容器自托管。生产部署需分别核算软件授权、GPU算力和运维成本。

提供免费额度OpenAI 兼容
主力模型NIM推理微服务(试用 / 自托管)
生产授权按GPU计费
算力资源另行核算
最长上下文按具体模型
新用户额度开发者计划支持原型、研发和测试;账号额度及可用模型以控制台为准,不能替代生产授权。

NIM使用路径与计费方式

使用路径适用阶段费用构成
API Catalog托管端点原型、研发和测试账号额度及模型配额;开发访问不能直接替代生产授权
可下载NIM容器自托管部署GPU算力、存储、网络和运维单独核算
AI Enterprise授权生产服务按GPU授权;合同与采购渠道决定最终费用

NIM没有本页全部模型通用的一组Token售价,因此不参与统一Token月预算。官方授权示例及来源见下方“限额与计费”。

能力支持

  • 流式输出:支持
  • 函数调用:未标记支持
  • JSON 模式:未标记支持
  • 图片理解:未标记支持
  • 语音:未标记支持
  • 向量模型:未标记支持
  • 批量接口:未标记支持
  • 提示缓存:未标记支持
  • 联网搜索:未标记支持
  • 微调:未标记支持

NVIDIA NIM 接入教程

代码示例使用已核实的接口地址、鉴权方式和 API 模型 ID 生成;请以官方文档为准。

接口地址https://integrate.api.nvidia.com/v1
鉴权方式Authorization: Bearer
示例模型nvidia/nemotron-3.5-lightning-30b-a3b
curl https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"nvidia\/nemotron-3.5-lightning-30b-a3b","messages":[{"role":"user","content":"你好"}]}'

此示例仅适用于已标记 OpenAI 兼容的平台;实际路径及鉴权方式仍以官方文档为准。

限额与计费

调用限额

等级条件RPMTPM
开发者API按具体模型和账号配额以模型页或控制台显示为准随模型和账号权限变化

计费方式

API Catalog开发验证开发者计划用于原型、研究、研发和测试;额度与配额按账号和模型页确定。生产授权NIM官方FAQ说明按GPU计软件授权,示例起价4500美元/GPU/年,或云端约1美元/GPU/小时;报价和合同另行确认,不是包含GPU算力的Token套餐。基础设施自托管还需GPU实例、存储、网络和运维。授权费与算力资源分别核算,不参与本站统一Token月预算。

注册与付款

拿到 API Key 的步骤

  1. 选择使用路径

    进入build.nvidia.com选择当前模型,区分云端API试用或下载容器部署。

  2. 取得开发密钥

    登录开发者账号,在模型页生成API Key;按页面要求申请模型访问权限,将密钥保存在自己的环境变量中。

  3. 配置接口与模型

    云端LLM使用https://integrate.api.nvidia.com/v1;从当前目录复制模型ID及请求示例。自托管则使用自己的端点、部署名称和认证。

访问与付款

国内访问需境外网络实名要求待确认付款方式待补充

费用估算

自托管费用按部署成本核算,不使用统一Token单价。

预算 = 软件授权 + GPU实例使用费用 + 存储网络 + 运维;吞吐与利用率决定单位Token的实际成本。软件授权和云GPU租赁费应分开计算。

平台介绍

三种使用方式如何选择

API Catalog托管端点用于快速验证模型和接口;可下载NIM容器用于在自己的GPU或云端GPU上部署;面向真实用户的生产使用还需核对AI Enterprise授权。云端目录和可下载容器是不同交付路径,并非每个模型都同时提供。

为什么不列统一Token单价

NVIDIA官方NIM FAQ按GPU说明生产授权,不能将某个第三方模型或托管平台的Token价格视为NIM整体售价。自托管预算应分别计入软件授权、GPU实例使用时长、存储、网络与运维;实际每百万Token成本还随吞吐、利用率和并发变化。

接入与模型选择

LLM云端接口为https://integrate.api.nvidia.com/v1/chat/completions,使用NVIDIA API Key。示例模型ID取自官方目录;上线前在账号模型页检查可用状态与请求参数。自托管时使用自己的服务地址和部署模型名。

官方依据

NVIDIA NIM 常见问题

NIM是不是统一按Token收费的模型平台?

NIM提供推理微服务和部署交付。开发者API与自托管生产授权属于不同路径,官方生产授权按GPU说明,不能套用一组平台统一Token单价。

API Catalog与下载容器是否相同?

前者使用NVIDIA托管端点验证,后者将推理服务部署到自己的环境。部分模型有可下载容器,具体可用性、许可和硬件要求分别查看模型页。

同类平台对比

点击平台名进入详情页;价格取各平台已填写的主力模型。

平台主力模型输入 /1M输出 /1M国内直连免费额度
NVIDIA NIM(本页)NIM推理微服务(试用 / 自托管)———✓
Stability AIStable Image Ultra—8 credits—✓
Hugging FaceQwen3.8-27B · deepinfra$0.20$2.50——
ReplicateCPU (Small)—$0.000025/秒——
推荐工具↑ ↓ 选择 Enter 打开