概览 (Overview)
LLM 编排框架主要是面向意图用人工智能组件发家建树大系统（诸如：一条条链接器链、机灵办事的特搜人员干员、具备海盗大拿挖图技能的 RAG 及多元步态逻辑推演的各类组合工作场）的程序玩家们，从而拉高了一大截建筑高度让人们更轻易能够上手的顶级封包集散中心地与高层级调度室。 ModelRiver 则紧依着这个生态与所有叫得出名号的一线流派无缝握手——因为它们多半已经参透并承认拥抱了一套被称为是属于 OpenAI 系流水的兼容规范端点信条。
干嘛非在一套成熟的 LLM 体系里多此一举地插入 ModelRiver 这层跳板夹层？
- 天然的救生衣系统：前线正使唤某个供货巨头罢工闹事时不再代表整支业务小队也一块连带挂彩瘫痪报销
- 财务精打算盘：它能在不经意间拆分每一笔请求并在统计算力代币方面巨细无遗一目了然
- 随时跳槽供应商：把方向盘攥自己手里、想怎么从 GPT-4 随意过渡跨服至 Claude 又或者是投奔 Gemini 而原码连一行都不必动摇拆分修改
- 纵览一切可观测性：任何途径框架的这层表皮下向底层触探的所有请愿指令，其原本被遮蔽的真身足迹全将被抓取现身于本台留置供差遣点选的请求日志上 (Request Logs)
得到支援的框架阵列 (Supported frameworks)
| 框架型号 (Framework) | 开发语言类别 | 所属用武之地 | 上马难易度 | 参考图谱册 |
|---|---|---|---|---|
| LangChain | Python | Chains (链路), agents (代表推销手), RAG, 唤出调配百般各类实体工具箱干货 | ⭐ 轻松直抵 | 研读它的法典 → |
| LlamaIndex | Python | 专门针对书卷文档问切 QA, 知识巨库底座，聊天打字引擎包 | ⭐ 轻松直抵 | 研读它的法典 → |
| Haystack | Python | 图文搜索数据提取导流管线，为各类高特化定制积木元部件而生 | ⭐⭐ 普通能爬 | 研读它的法典 → |
它靠什么来维系运转
市面上的那头排三兄弟骨子里其实都在套路着那本已熟溜透顶同源同宗的 OpenAI-式客户端交互皮子发活招活揽。只需轻轻将指针改拨如下参数就可以完美诱导大流量洪峰通过 ModelRiver：
- 基本基建主地址 (Base URL) → 修正指路向
https://api.modelriver.com/v1 - 通关秘钥 (API key) → 在格子里贴附您持有的那把专属型号 ModelRiver 配发的神钥
- 型号指代词 (Model name) → 不要规矩的老照实物瞎填，而是填您早在平台大本营内规划配置而出的某一条 ModelRiver 工作流 (workflow) 流水代号
收兵：没有任何必须强装额外加载什么特级转接口，也犯不着编写适配桥梁转换脚本或者连皮带肉深挖替换；全靠这么点改头换面。
面对 LangChain 出招
作为统御把控着 Python 世界超半壁江山的执念级热土发烧大作，只需轻快地招抚 ModelRiver 将它供奉在此间当成是个完美且纯凭插播无挂包式的那个名为 ChatOpenAI 现役替代角登场，剩下的给到连体式、派设代干或是那专挖矿工专用的工具组合调用时，即刻可以大放异彩水到渠成。
1from langchain_openai import ChatOpenAI2 3llm = ChatOpenAI(4 base_url="https://api.modelriver.com/v1",5 api_key="mr_live_YOUR_API_KEY",6 model="my-workflow",7)8 9response = llm.invoke("用简明扼要的话陈述清楚什么叫作量子计算？")结缘 LlamaIndex
若想要锻造关于图书文件的对切审问回复台 (QA systems), 充斥在云霄上的知识大底座亦或者是交流漫谈的内核动能区，找 LlamaIndex。此时交由于其间的内鬼代驾司机 ModelRiver 会悄没声息地为你照章妥善安置所有那些指向各路模型或作起投射点 (embedding calls) 之大局并且天生就有给故障加锁重上的金罩铁衫被动加持防护。
1from llama_index.llms.openai import OpenAI2 3llm = OpenAI(4 api_base="https://api.modelriver.com/v1",5 api_key="mr_live_YOUR_API_KEY",6 model="my-workflow",7)驾驭 Haystack
想要徒手攒一套针对寻踪问迹搜索或是深层分析研判而生的具有极高定制化模块积木结构的自循环机床（Haystack's component-based architecture）的话不可不看这款利器。只需把流淌在这管路里所有对于那不可见远方大厂主机的寄托及请求包裹交给中转站 ModelRiver 负责跑腿接单即可白嫖稳若泰山的代付重拨系统安全体验伞。
1from haystack.components.generators.chat import OpenAIChatGenerator2 3generator = OpenAIChatGenerator(4 api_base_url="https://api.modelriver.com/v1",5 api_key=Secret.from_token("mr_live_YOUR_API_KEY"),6 model="my-workflow",7)即刻纵深探究那卷藏着关于 Haystack 门路详解法本册 →
下一步您可以接着观瞻的项目
- 转而看看同族兄弟那些负责管理代干军火库体系篇集 (Agent Frameworks): 统领诸神集结发包围捕解决痛疾杂乱烦事流的例如如雷贯耳如 AutoGen, CrewAI 那档子神造之物并带给您更多类似体会
- 沉潜更下的 Web 后装甲引擎架构底座 (Backend Frameworks): 为立项架设充实着 AI 智灵基因加成的浩浩荡荡新纪元万维网应用添砖加瓦
- 深查接口名录字典 (API reference): 为您列排展示一览关于接口终端方方面面的终极解绑细则卷宗