请求日志的最佳实践

遵循这些经过验证的准则,以最大化您的可观测性数据的价值:从主动监控到高效的调试工作流。

概览

请求日志(Request Logs)捕获了关于每个 AI 请求的大量数据。遵循这些最佳实践可确保您有效地使用这些数据:在问题影响用户之前捕获它们、优化成本并维护一个可靠的 AI 驱动的应用程序。


监控实践

定期检查日志

建立定期检查请求日志的例程,以主动发现问题。设置每日审核、错误监控和趋势分析,以防患于未然。

有效使用过滤器

熟练掌握过滤器系统,减少噪音并专注于相关的请求。了解何时使用每种过滤模式、如何组合过滤器以及高效的日志导航策略。

监控出现故障的模型

跟踪供应商(provider)的故障频率,以便在影响用户之前发现不稳定性。设置故障转移(failover)率监控,分析故障模式,并做出由数据驱动的供应商决策。

跟踪 Webhooks 可靠性

监控 webhook 交付的成功率,以确保您的后端保持同步。及早发现端点问题,优化交付性能,并有效地采取重试策略。


组织实践

分离环境

使用 seed_batch 前缀和过滤模式将生产、测试和 playground 数据清晰地分开。这样可以避免测试噪音掩盖真实问题,并帮助您专注于正确的数据。


优化实践

Token 使用优化

检查 token 使用模式以寻找节省成本的机会。学习减少 prompt token、管理对话历史以及在不牺牲质量的情况下选择高性价比模型的技术。

时长与性能

使用时长数据监控请求延迟,找出响应慢的供应商,并针对速度进行优化。设定性能基准,跟踪趋势,并在速度与成本和质量之间取得平衡。


调试实践

审查请求与响应

掌握请求和响应主体审查技术,以进行有效调试。了解在 payload 中要寻找什么、如何比较请求以及复现和解决问题的技巧。

使用时间线上下文

利用时间线(Timeline)视图全面了解请求生命周期。超越最终结果,查看故障转移链、webhook 流和回调(callback)完成情况,以获得全貌。


快速参考

实践关键优势
定期检查日志主动发现问题
使用过滤器减少噪音
监控出现故障的模型供应商稳定性
跟踪 Webhooks后端可靠性
分离环境数据清晰
Token 优化降低成本
时长与性能速度优化
审查请求有效调试
时间线上下文完整掌握情况

下一步