跳到主要内容
RelayRank
返回常见问题
检测指标说明

Usage 与 Token 计费字段应该怎么看

Usage 检测用于判断输入、输出、缓存 token 等计量字段是否存在、形状是否合理,并发现代理层漏报或明显异常。

它提供什么信号

RelayRank 会交叉检查响应 usage 字段、请求规模与流式汇总结果。对于成本敏感的 Agent 和批处理,缺失 usage 会显著降低可观测性。

解读限制

  • 字段形状正确不等于价格或账单一定正确。
  • 不同供应商和协议的缓存 token 命名并不完全一致。
  • 极短请求中的 token 差异不足以证明模型降级。

运营与复测建议

  • 对照供应商账单抽查同一请求。
  • 确认流式与非流式响应都返回一致的计量信息。
  • 保留带版本的价格表,不用当前价格覆盖历史成本。

相关检测项

usage_accountingtoken_usagestreaming_integrity