检测指标说明
Usage 与 Token 计费字段应该怎么看
Usage 检测用于判断输入、输出、缓存 token 等计量字段是否存在、形状是否合理,并发现代理层漏报或明显异常。
它提供什么信号
RelayRank 会交叉检查响应 usage 字段、请求规模与流式汇总结果。对于成本敏感的 Agent 和批处理,缺失 usage 会显著降低可观测性。
解读限制
- 字段形状正确不等于价格或账单一定正确。
- 不同供应商和协议的缓存 token 命名并不完全一致。
- 极短请求中的 token 差异不足以证明模型降级。
运营与复测建议
- 对照供应商账单抽查同一请求。
- 确认流式与非流式响应都返回一致的计量信息。
- 保留带版本的价格表,不用当前价格覆盖历史成本。
相关检测项
usage_accountingtoken_usagestreaming_integrity