概览
请求日志(Request Logs)捕获了关于每个 AI 请求的大量数据。遵循这些最佳实践可确保您有效地使用这些数据:在问题影响用户之前捕获它们、优化成本并维护一个可靠的 AI 驱动的应用程序。
监控实践
定期检查日志
建立定期检查请求日志的例程,以主动发现问题。设置每日审核、错误监控和趋势分析,以防患于未然。
有效使用过滤器
熟练掌握过滤器系统,减少噪音并专注于相关的请求。了解何时使用每种过滤模式、如何组合过滤器以及高效的日志导航策略。
监控出现故障的模型
跟踪供应商(provider)的故障频率,以便在影响用户之前发现不稳定性。设置故障转移(failover)率监控,分析故障模式,并做出由数据驱动的供应商决策。
跟踪 Webhooks 可靠性
监控 webhook 交付的成功率,以确保您的后端保持同步。及早发现端点问题,优化交付性能,并有效地采取重试策略。
组织实践
分离环境
使用 seed_batch 前缀和过滤模式将生产、测试和 playground 数据清晰地分开。这样可以避免测试噪音掩盖真实问题,并帮助您专注于正确的数据。
优化实践
Token 使用优化
检查 token 使用模式以寻找节省成本的机会。学习减少 prompt token、管理对话历史以及在不牺牲质量的情况下选择高性价比模型的技术。
时长与性能
使用时长数据监控请求延迟,找出响应慢的供应商,并针对速度进行优化。设定性能基准,跟踪趋势,并在速度与成本和质量之间取得平衡。
调试实践
审查请求与响应
掌握请求和响应主体审查技术,以进行有效调试。了解在 payload 中要寻找什么、如何比较请求以及复现和解决问题的技巧。
使用时间线上下文
利用时间线(Timeline)视图全面了解请求生命周期。超越最终结果,查看故障转移链、webhook 流和回调(callback)完成情况,以获得全貌。
快速参考
| 实践 | 关键优势 |
|---|---|
| 定期检查日志 | 主动发现问题 |
| 使用过滤器 | 减少噪音 |
| 监控出现故障的模型 | 供应商稳定性 |
| 跟踪 Webhooks | 后端可靠性 |
| 分离环境 | 数据清晰 |
| Token 优化 | 降低成本 |
| 时长与性能 | 速度优化 |
| 审查请求 | 有效调试 |
| 时间线上下文 | 完整掌握情况 |