事件驱动异步

Event-driven Architecture

实时 updates via WebSockets with disconnected backend processes. Separation of concerns provides ultimate scalability.

事件驱动异步流程

Step-by-step interactive data flow visualization

1
User prompt
Frontend interaction
2
您的后端
API call to MR
3
ModelRiver
编排
4
AI 供应商
自动故障转移 flow
异步 workflow triggered
6
您的 Webhook
Callback to 您的服务器
5
ModelRiver
Message 编排
7
用户浏览器
实时 WS update
Architecture

为什么选择事件驱动异步??

将摄入与推理分离。ModelRiver 的弹性基础设施处理 AI 请求的操作复杂性,确保您的应用程序无缝扩展。.

快速确认

带有安全通道 ID 的即时响应。无需保持连接,从根本上消除了慢速生成时的网关超时。.

后台执行

AI 在隔离的工作池中异步运行。您的后端保持极速响应,并完全免受线程耗尽的影响。.

自动故障转移

深度集成到流水线中的多供应商无缝故障转移。无需更改任何客户端架构即可实现 99.999% 的编排可用性。.

即时交付

实时 WebSocket 通道自主地将最终流式负载直接推回活跃的客户端层。.

准备好开始了吗??