Orq.ai 介绍
了解工具的详细功能和使用方法
Orq.ai 是面向开发者的 AI Gateway:用一个兼容 OpenAI 的入口访问不同模型,并把路由、失败回退、预算和调用轨迹放在同一处管理。它还提供 MCP Gateway、可观测性和独立的 AI Studio;如果只需要模型网关,无须购买 Studio 席位。
适合谁
- 已经把多个模型接入 Agent 或产品,需要集中管理密钥、切换模型和成本的团队。
- 希望为项目、用户或 API Key 设预算上限,查看每次调用的 token、延迟和错误的开发者。
- 想在现有 OpenAI SDK 工作流上试用托管网关,而不先自行维护代理、数据库和监控系统的人。
实际能力
把 SDK 的 base URL 指向 https://api.orq.ai/v3/router,使用 Orq API Key,并选择 provider/model 格式的模型名。网关负责把请求送往已配置的模型和供应商;路由策略、重试与跨供应商 fallback 应在正式流量前逐项测试。官方还提供按 workspace、project、user、API key、provider 或 model 设置的预算与告警,以及 trace/span 视图。若使用 PII 检测与遮盖,应先核对启用状态、适用范围和实际日志字段,不能把开关存在当成全部敏感数据都已清除。
价格与边界
截至 2026 年 10 月 9 日,官网 Pay-as-you-go 对自带供应商密钥(BYOK)提供每月 100 万次网关请求免费额度,之后标注 4% 费用;使用 Orq 管理的模型密钥则标注 4.5% 平台费。供应商模型 token 费用始终另算。可观测性包含每月 10 万 spans 和 1 GB 处理数据,超额分别是每 10 万 spans €7、每 GB €3;默认保留 30 天。AI Studio 是另一项 €35/席位/月的费用,仅使用网关 API 不按席位收费。未添加账单资料时,官网 FAQ 说明请求被限制为每天 50 次;正式试点要先确认自己的账单状态和额度。价格、比例与配额会变化,采购前以官网实时计算器为准。
需要注意
Orq.ai 是托管网关,生产流量会经过这一层。先确认数据区域、日志保留和供应商自身的数据政策;对敏感请求用最小化字段和独立测试环境验证遮盖。设置预算硬阻断时,也要验证超限返回值、并发请求和 fallback 是否符合业务预期。团队若必须完全自托管,或已有成熟的 API 网关运维能力,可同时评估 LiteLLM、Bifrost 与 Kong AI Gateway。