Synchronous Call

同步 AI 模式

标准请求-响应阻塞式 HTTP 请求。最容易集成,提供绝对最低的首个 Token 时间 (TTFT)。.

同步请求流程

简单的阻塞式请求/响应

1
您的后端
2
ModelRiver
3
AI 供应商
Architecture

为什么选择同步请求??

直接的线性流程,实现绝对最快的首个 Token 时间。消除所有外部状态,同时牢牢锚定在我们的自动故障转移路由中。.

快速确认

带有安全通道 ID 的即时响应。无需保持连接,从根本上消除了慢速生成时的网关超时。.

后台执行

AI 在隔离的工作池中异步运行。您的后端保持极速响应,并完全免受线程耗尽的影响。.

自动故障转移

深度集成到流水线中的多供应商无缝故障转移。无需更改任何客户端架构即可实现 99.999% 的编排可用性。.

即时交付

实时 WebSocket 通道自主地将最终流式负载直接推回活跃的客户端层。.

准备好开始了吗??