DeepInfra vs Fireworks AI：推理 API、缓存价格和 GPU 容量怎么选

DeepInfra 与 Fireworks AI 都提供托管模型推理。DeepInfra 适合用统一的兼容式聊天接口广泛试模型；Fireworks AI 适合重点核算缓存 token、Serverless 与按需 GPU 或预留容量之间的成本。两者没有脱离具体模型和请求结构的绝对赢家。

核心差异速览

DeepInfra 的价格是逐模型、逐服务层级查看，文本模型一般区分输入与输出 token，部分模型另列缓存输入。Fireworks AI 官方价格页明确区分 Serverless 的输入、输出与缓存 token，并提供按秒计费的 on-demand GPU 和 reserved capacity。比较时先固定模型、上下文、输出长度和流量曲线，避免把不同服务层级或不同模型的价格放在同一栏。

DeepInfra 更合适的情况

你需要快速比较多个开放权重 LLM，并希望在已有 OpenAI SDK 中替换 base URL。DeepInfra 的 Chat Completions 支持流式、工具调用与结构化输出等常见能力，但官方提醒不与 OpenAI 参数百分之百兼容。每换一个模型，都要验证工具 schema、JSON 约束、长输入、响应 usage 和超时行为。目录还包括其他模态与合作方模型，选定开放权重模型时应核对许可与隐私路径。

成本方面不要按平台平均价格预算。以 2026 年 10 月 7 日官网公布的 DeepSeek-V4-Flash-0731 标准层为例，输入/输出每百万 token 为 0.06/0.18 美元；换模型、换层级或缓存命中，结算都会变。官方默认限额每模型 200 个并发请求，不等于 200 RPM。即使低于默认并发，资源繁忙仍可能返回 429，应做好退避和错误预算。

Fireworks AI 更合适的情况

如果业务有很长且重复的系统提示词或文档前缀，Fireworks AI 的缓存输入单价值得纳入账本。只有真实命中缓存且该模型支持对应方式时，折扣才转化为费用收益。对于稳态较高的生产流量，可拿 Serverless 账单和按秒 GPU、预留容量比较；专属资源未充分利用时可能反而更贵。其推理产品提供兼容式接口，但模型支持的参数与输出形式仍需测。

公平的测试方法

挑一款双方都提供、版本明确的模型，输入 100 条短请求、100 条长请求及含重复前缀的请求，分别跑低并发和目标峰值。采集成功率、429、首 token、完整延迟、输入/输出/缓存 token、每个达标答案的实际费用。再把流量扩到第二个模型，看看迁移成本；不能依据单个样本推断全平台表现。若业务包含敏感信息，逐一核对所选模型的数据保留与合作方处理规则。

应该选哪一个

要广泛试模型并保留简单的 API 接入方式，先从 DeepInfra 开始；长期有重复上下文、高并发或需要容量选择，优先给 Fireworks AI 做同场压测。预算只采纳官方最新模型价和实测账单，压测结束后再决定是否绑定单一供应商。生产系统最好保留可配置模型、超时、预算和回退策略。

资料：DeepInfra Chat 文档、DeepInfra 价格、DeepInfra 限流、Fireworks AI 价格、Fireworks AI 推理产品。