检测指标说明
长上下文检测能发现什么
长上下文检测用于发现输入被静默截断、代理超时、路由降级或宣称窗口与实际可用窗口不一致的问题。
它提供什么信号
检测在较长输入中放置可定位信息,要求模型准确恢复,并结合超时、usage 与响应证据判断上下文是否完整到达上游。
解读限制
- 长上下文成本高且容易受瞬时负载影响。
- 成功回忆一个标记不能证明整个窗口每个位置都可靠。
- 平台函数时限可能先于上游上下文能力触发。
运营与复测建议
- 只在确有业务需求时启用,先确认预算和平台超时。
- 对不同长度和位置重复采样,不依赖单次结论。
- 同时检查输入 token 计量,识别静默截断。
相关检测项
long_contextusage_accountingtoken_usage