
Groq API 价格与接入
以 LPU 推理硬件换速度的模型托管平台,官方文档标称 GPT OSS 20B 可达 1000 tokens/秒,价格按百万 token 计。
最低价仅比较本表已录入、同币种且按百万 tokens 计费的正式报价。调度文档中的示例成本、按图片或秒计费项目不参与最低 token 价格与预算计算;不代表平台全部模型的最低报价。缓存能力以具体模型及其缓存计价项为准。
Groq 模型价格
币种:美元(USD) · 价格更新于
| 模型 | 类型 | 输入 | 缓存命中 | 输出 | 上下文 | 最大输出 | 说明 |
|---|---|---|---|---|---|---|---|
| OpenAI GPT OSS 120B主力 | 生产模型 | $0.15 | — | $0.60 | 131,072 | 65,536 | 约 500 tokens/秒 |
| OpenAI GPT OSS 20B | 生产模型 | $0.08 | — | $0.30 | 131,072 | 65,536 | 约 1000 tokens/秒 |
| Whisper Large V3 | 语音识别 | — | — | $0.111/小时 | — | — | 最大文件 100MB |
| Whisper Large V3 Turbo | 语音识别 | — | — | $0.04/小时 | — | — | 最大文件 100MB |
| Qwen3.8-27B | 预览模型 | $0.80 | — | $4.00 | 131,072 | 16,384 | 约 450 tokens/秒,最大文件 20MB |
| Safety GPT OSS 20B | 安全分类 | $0.08 | — | $0.30 | 131,072 | 65,536 | 内容安全护栏模型 |
| Llama Prompt Guard 2 22M | 输入防护 | $0.03 | — | $0.03 | 512 | 512 | 极短上下文,仅做提示注入检测 |
| Prompt Guard 2 86M | 输入防护 | $0.04 | — | $0.04 | 512 | 512 | 同上,参数量更大 |
| Canopy Labs Orpheus V1 English | 语音合成 | — | — | $22.00/百万字符 | 4,000 | 50,000 | 按字符计费 |
| Canopy Labs Orpheus Arabic Saudi | 语音合成 | — | — | $40.00/百万字符 | 4,000 | 50,000 | 阿拉伯语(沙特) |
能力支持
- 流式输出:支持
- 函数调用:支持
- JSON 模式:支持
- 图片理解:未标记支持
- 语音:支持
- 向量模型:未标记支持
- 批量接口:未标记支持
- 提示缓存:未标记支持
- 联网搜索:未标记支持
- 微调:未标记支持
Groq 接入教程
代码示例使用已核实的接口地址、鉴权方式和 API 模型 ID 生成;请以官方文档为准。
https://api.groq.com/openai/v1Authorization: Bearer $GROQ_API_KEY模型 ID 待核实,请参阅官方文档可复制示例尚未核实(需有效接口、鉴权方式、兼容标记与模型 ID),请按官方文档接入。
限额与计费
调用限额
| 等级 | 条件 | RPM | TPM |
|---|---|---|---|
| Developer | 自助付费 | 1,000 RPM | 250,000 TPM |
| Enterprise | 合同客户 | 以合同为准 | 以合同为准 |
计费方式
注册与付款
拿到 API Key 的步骤
- 注册账号
在 console.groq.com 用邮箱或 Google 账号注册。
- 创建 API Key
在控制台 API Keys 页面新建密钥。
- 调用
把 OpenAI SDK 的 base_url 改为 https://api.groq.com/openai/v1,model 填文档里的模型 ID。
访问与付款
费用估算
按模型列表价估算每月费用,不含缓存折扣;以官方账单为准。
平台介绍
Groq 卖的不是模型,是速度。该平台用自研 LPU 硬件跑开源模型,官方模型文档在价格旁边直接标注了 tokens/秒:GPT OSS 20B 约 1000 tokens/秒,GPT OSS 120B 约 500 tokens/秒,Qwen3.8-27B 约 450 tokens/秒,Whisper 转写按小时计价。对需要低首字延迟的实时对话场景,这个指标比单价更关键。
模型阵容分三层。生产模型只有 GPT OSS 120B、GPT OSS 20B 两个对话模型加两个 Whisper 变体;预览模型里放着 Qwen3.8-27B、内容安全护栏模型、两个 Prompt Guard 小模型和两个 Orpheus 语音合成模型;此外 Llama 3.1 8B、Llama 3.3 70B、MiniMax M2.7 等标为 Enterprise 档,价格写「Contact Sales」。
Groq 常见问题
Groq 最快的模型是哪个?
按官方文档的速度列,GPT OSS 20B 标称约 1000 tokens/秒,是全表最快;GPT OSS 120B 约 500 tokens/秒。
Groq 有免费额度吗?
官方文档区分了服务分层(Service Tiers),价格表列出的是 Developer 层的速率限制,具体免费额度以控制台为准。
支持 OpenAI SDK 吗?
支持。base_url 为 https://api.groq.com/openai/v1,鉴权用 Bearer Token。
能不能做语音转写?
可以。Whisper Large V3 按 $0.111/小时计价,Turbo 版按 $0.04/小时,单文件上限 100MB。
同类平台对比
点击平台名进入详情页;价格取各平台已填写的主力模型。
| 平台 | 主力模型 | 输入 /1M | 输出 /1M | 国内直连 | 免费额度 |
|---|---|---|---|---|---|
| Groq(本页) | OpenAI GPT OSS 120B | $0.15 | $0.60 | — | — |
| Stability AI | Stable Image Ultra | — | 8 credits | — | ✓ |
| Hugging Face | Qwen3.8-27B · deepinfra | $0.20 | $2.50 | — | — |
| Replicate | CPU (Small) | — | $0.000025/秒 | — | — |