工具介绍
Groq 是一家 AI 推理芯片公司，其自研的 LPU（语言处理单元）是全球首款专为推理设计的芯片，由 Google TPU 原始创始人 Jonathan Ross 于 2016 年创立。LPU 采用确定性架构，可实现高达 1200 Token/秒的推理速度，能效比 GPU 高达 10 倍。GroqCloud 提供完全托管的云推理服务，GroqRack 提供企业级本地部署方案。2025 年获沙特阿拉伯 15 亿美元投资，同年底 NVIDIA 以约 200 亿美元收购 Groq 资产。定价方面，输入 $0.05-$1.00/百万 Token，输出 $0.08-$3.00/百万 Token。
核心功能
- 超低延迟
- LPU芯片
- 开源模型
- 免费层
- 高吞吐量
使用场景
1通过 GroqCloud API 获取超低延迟的 LLM 推理服务
2构建需要实时响应的对话式 AI 应用和聊天机器人
3利用超高速推理处理大规模文本分析和内容生成任务
4语音转文字和文字转语音的实时处理场景
5企业通过 GroqRack 在本地部署高性能推理基础设施
6批量处理提示缓存，降低重复上下文的推理成本
7开发对延迟敏感的 AI 应用，如实时翻译和代码补全
相关资源
定价方案
价格更新于 2026-04-22Free
免费
- 免费API访问
- 有限速率
- 探索Groq功能
- 社区支持
Developer
按量计费
超快推理速度，按Token计费
- 自助注册按需付费
- Batch API(25%折扣)
- 小模型低至$0.11/百万输入Token
- 中型模型约$0.75-$0.99/百万Token
Enterprise
定制
- 专属支持
- 定制容量
- SLA保障
- 企业级安全
以上价格仅供参考，以官方最新定价为准
准备好开始使用 Groq 了吗？
免费版本可用，高级功能需付费