2026 年 2 月:Test Mode、响应缓存和 OpenAI 兼容接口

2 月是开发者体验变化最大的月份之一。我们改进了测试、缓存、请求日志、OpenAI 兼容性、文档和公开博客体验。

AI 工作流 Test Mode

我们围绕 Test Mode 重新梳理了产品叙事:开发或 CI 每次运行时,不需要为每次请求消耗 token,也能构建和测试 AI 工作流。

Test Mode 允许工作流返回预定义 sample data,同时仍然经过真实的 ModelRiver 路径,包括认证、路由、日志和响应格式化。它适合前端开发、CI 流水线、加载状态测试,以及不应该依赖真实模型随机性的应用逻辑。

继续阅读:

工作流响应缓存

我们新增了工作流响应缓存和 Console 中的缓存可见性。这帮助团队减少重复 provider 调用、提升响应速度,并理解缓存行为何时影响请求。

相关改进包括请求日志中的缓存分类、缓存 dashboard,以及让缓存请求更容易检查的 UI 更新。

OpenAI 兼容 API

我们新增了 OpenAI 兼容支持,让团队可以将 ModelRiver 集成到已经使用 OpenAI API 形态的工具和应用中。

这降低了迁移成本,让团队可以获得 ModelRiver 的工作流、可观测性、路由和 provider 控制,而不需要立刻重写所有调用点。

请求日志改进

请求日志变得更容易浏览和调试:

  • 更好的过滤器和标签页 UI
  • 重要值的复制按钮
  • 更好的请求详情路由
  • 缓存请求处理
  • Playground 请求进入请求历史

这些变化让请求日志更像生产调试界面,而不是原始事件列表。

文档和博客改进

我们围绕可观测性重组了文档,改进了 chatbot 示例,新增缓存文档,并推出了与公开站点一致的博客布局。这些文档和博客工作让 ModelRiver 的核心概念更容易被解释,而不完全依赖现场演示。