概览
ModelRiver 系统本身已经通过其自研自带的“请求日志 (Request Logs)”体系提供了全面的 内置可观测性。但在绝大多数企业环境下，您可能更希望将涉及 AI 调用的这些指标与您当前应用系统内部正在使用的监控体系相互关联缝合。利用这些预建好通道的集成组件，您可以将 ModelRiver 的各项请求数据转发到您所首选的可观测平台之中。
为什么我们需要把 ModelRiver 的数据发送或者转接传导给外部的管控应用呢？
- 为了整合成统一化监控面板: 将 AI 服务相关指标与普通应用服务所监控的各项运作数据罗列在一个大屏幕内
- 告警通知自定义触发: 根据 AI 服务的运转延迟时间、故障报错抛出率、或者词汇 token 总成本设置各类按条件自动激活警报触发器
- 分布式追踪链路对接: 实现在您监控现有的自身服务端应用程序追踪追踪链路中平顺无缝地嵌入大模型请求的时间间距线 (spans)
- 用于数据长期保留及储存审计: 使这部分包含系统健康度及财务成本的人工智能化系统相关参数亦能一并符合、受管于您的长久遥测日志与日志数据安全生命周期管理约束系统内
平台受支持清单及概览
| 平台工具名称 | 类型大类 | 亮点及重点聚焦 | 从头构建与集成的难度层级 | 学习文档手册通道 |
|---|---|---|---|---|
| Datadog | Metrics + APM 指标管控 | DogStatsD 方案应用, 链路追踪收集落子, Webhook 外挂暗接转发 | ⭐⭐ 中等 | 查看专门的详讲指南 → |
| Sentry | 报错与异常事故系统级抛锚监控 | 监控捕杀错报代码、跟踪与记录 span 事件区间历程长度、追踪系统排雷日志的面包屑痕迹追踪 (breadcrumbs) 制 | ⭐⭐ 中等 | 查看专门的详讲指南 → |
Datadog
自动将各种向外的 AI 发包请求、时间消耗与潜伏迟滞、乃至每次在运转上烧掉过多少大模型运行 token 之类的情况统数汇总抛去您的 Datadog 大面板。不仅可以把这变为一套常规记录簿，更能立规设槛用它专门报警当出现不寻常的停工与延迟卡慢峰值及过抛发大额过错时进行全自动化断案吹哨。
PYTHON
1from datadog import statsd2 3statsd.histogram("modelriver.request.duration_ms", duration, tags=[f"workflow:{workflow}"])4statsd.increment("modelriver.request.count", tags=[f"workflow:{workflow}", "status:success"])Sentry
专门去抓捕在做 AI 类接口请求时的错漏包事件抛出、以设定制版去划列跟踪发包时长所费的时间线表记录片段 (spans)、另外就是在排查抓虫清BUG除险时沿线预留跟作一路跟踪摸底的面包屑印记 (breadcrumbs)。
PYTHON
1import sentry_sdk2 3with sentry_sdk.start_span(op="ai.chat", description=f"ModelRiver: {workflow}") as span:4 response = client.chat.completions.create(model=workflow, messages=messages)5 span.set_data("tokens", response.usage.total_tokens)ModelRiver 出厂附带即用并长亮在上的内置内管可观测性体系大盘
请别忘记了这一事实: ModelRiver 打从一开箱就是带着全幅全阵开足马力能够照清每个微小全全貌的内置大显大仪大盘大器等您检视查对的，不需要挂上别的外边系统也能将这一揽子做稳扎实底。
- 请求流水台账内录日志簿 (Request Logs): 一一陈列细算并查下每一单打头去大发所产生和其带满体貌负载跟挂料内容的求告/还报内容全大盘。
- 沿轴回转翻观的时间光绪线 (Timeline view): 按事发所先按后的全记排定下每次如果出现了在不同模型大东家相互挂换并切跳时其相互掉线转移交手换棒、亦记录全查 webhook 如何向远外头开弓送货外投的所有行轨迹。
- 账金财务总报开收统计 (Cost analytics): 下落跟精查一直算死跟管算挂钩挂实着在每一个各自名下不同大分类任务线流 (workflow) 下每个单一细如微尘字块级 token 花销费这类的帐钱开查。
- 硬实力强力输出效率监管监控哨 (Performance monitoring): 实刻抓紧挂死以其看护与洞大盯视关于各系统回话速度反应延迟之耗延迟反应时间的大长久趋势以百分之位数这等走势等势分布图进行直描与追踪跟管。
查看完整本家自带版内置内生的监控观测法门实效指导门本大录 →
下方还有待指引前往开拓探路看更多大门之道大录之指
- 向着全通大自动化做路之走通大道径 (Automation): 学用带着这走去不带也绝不需去敲这满眼枯燥大代生代码就能跟以起搭 Zapier 给接这挂线组流水任务。
- 往去到能把底跟能统观上全监控视统监的全这版去全去查监控那观去去观测底那观测去本那向可在这台统台视去这全的统管盘本台视的监控大观之局那管看这统监的大板录上去 (Observability): 看透吃尽打全 ModelRiver 从自内向向由自本生就这天这早自并就有着全带有并在其本身有着在和自并就的自带原生观测体系监控的这带功能。
- 点入向全面收管大所有命令号跟语向命令录之语指去语这并所有指令参数大全向并命令参挂全管号这就这 (API reference): 全部对各类并各色各路向所有端点这接指端这面那接头号接接口这录号参数这就这就向那详细这也那明。