量子位 微信公众号 行业动态

低成本复刻Fable 5的路子找到了:OrcaRouter多模型组队,性能反超

发布:2026-06-15 22:46:55 · 事件:2026-06-15 22:46:55
允中 发自 凹非寺 量子位 | 公众号 QbitAI 这年头,AI圈最不缺的就是“得不到的白月光”。 就在大家一边对着 Claude Fable 5 望洋兴叹,一边盘算着高昂的调用成本时,有人已经悄悄把这桌“满汉全席”给掀了。 怎么掀的?一手精妙的“拼图游戏”。 AI网关 OrcaRouter 最近上线了一套可编程路由策略 Routing DSL ,多个模型同时答题,自动仲裁出最优解。 几个你现在就能调用的“常规模型”,给它来个组合编排,跑出来的综合胜率,直接掀翻了Fable 5的单体基准线。
检测数据
允中 发自 凹非寺 量子位 | 公众号 QbitAI 这年头,AI圈最不缺的就是“得不到的白月光”。 就在大家一边对着 Claude Fable 5 望洋兴叹,一边盘算着高昂的调用成本时,有人已经悄悄把这桌“满汉全席”给掀了。 怎么掀的?一手精妙的“拼图游戏”。 AI网关 OrcaRouter 最近上线了一套可编程路由策略 Routing DSL ,多个模型同时答题,自动仲裁出最优解。 几个你现在就能调用的“常规模型”,给它来个组合编排,跑出来的综合胜率,直接掀翻了Fable 5的单体基准线。 Opus 4.8 打不过Fable 5, GPT-5.5 也单挑不过,但这两个拼一组,结果就反超了。 哪怕是不混编,同一个Opus 4.8自己跟自己组队,综合得分也能从58.5%拉到约 65.5% ,追平Fable 5。 换成几个更便宜的模型组队 (Gemini+Kimi+DeepSeek) ,也只差Fable 5一个点, 成本却低上一大截 。 我们直接看数据。 反直觉的结果:组合>任何单兵 一组测试 (注:以下为示意性数据,用于说明趋势,非官方跑分) ,100道任务里评分了 93道 。 组合面板 (多模型并行+仲裁) 的得分,普遍高于它的每一个成员模型: 这里划下重点: 任意一个“组合面板”,都打过了它自己的每一个成员。Opus 4.8 + GPT-5.5 (约67.5%) 同时高于Opus单跑 (约58.5%) 和GPT-5.5单跑 (约60%) ,拉开7~9个点; 多个组合追平、甚至超过了Fable 5单跑 (约65.5%); 连“自我组合” (Opus×2,约65.5%) 都能追平Fable 5;一组便宜模型 (Gemini 3 Flash+Kimi K2.6+DeepSeek V4 Pro,约64.5%) 也几乎贴脸—— 成本却低一大截 。 再把DSL按难度智能分流跑成完整端点,差距更为直观 (同为示意数据) : 很明显,赢的不是“更强的模型”,而是 “更聪明的编排方式” 。 为什么“人多力量大”对模型也适用 道理和让三个工程师同时做题、再挑出最好的答案一样。 不同模型的知识盲区和犯错方式并不相同: 各自独立作答,错误是分散、不重叠的; 再用“裁判”或“投票”把对的挑出来,整体正确率自然会被抬上去。 模型间的分歧其实是 信号 。 OrcaRouter做的,就是 从这些分歧里挑出最优解 ,拼成满血输出。 怎么做到的:用最简单的配置,解最复杂的调度 OrcaRouter把这套编排逻辑交给你自己写。 规则用YAML,条件用Google的CEL表达式 (安全沙箱、只读、微秒级求值) ,自上而下匹配,第一条命中即生效。 整条请求的处理路径是这样的: 按难度路由,长这样: rules: id: hard when : difficulty >  0.8   # 难题 → 上顶配 use: { model:  "anthropic/claude-opus-4-8" , reasoning_effort:  "high"  } id: easy when : difficulty <  0.3   # 简单请求 → 走便宜模型 use: { model:  "google/gemini-3-flash"  } default : delegate : balanced 而 “满血复活” 的关键一招,是parallel (并行扇出) + arbiter (仲裁) : use : parallel: #  2 ~ 5  个模型并行作答 - { model:  "anthropic/claude-opus-4-8"  } - { model:  "openai/gpt-5.5"  } - { model:  "google/gemini-3.1-pro"  } arbiter: strategy: best_of_n # 让一个 "裁判模型" 挑最优 model:  "anthropic/claude-sonnet-4-6" 四种仲裁策略,对应四种 “怎么定胜负” : 担心组合也翻车? 再加一层 置信度级联 兜底:当响应触发patch_invalid (补丁打不上) 、self_doubt (模型自我怀疑) 等信号,自动改投更强的模型重试。 更省、更稳:用拓扑换智能 并行扇出意味着“每条腿都计费”,但账要这么算: 你只在难的那一小撮请求上才扇出,简单请求照样走便宜模型; 而一组便宜模型拼出的面板就能逼近Fable 5—— 用拓扑结构买智能,而不是用更高的单价买智能。 上手极简 入口在控制台:routing → create router → routing strategy → DSL。 配套自带lint校验、dry-run试跑、影子模式 (只评估不生效,先看 A/B 差异和成本变化) 、灰度放量 (0~100%滑杆) 和回滚审计—— 改路由这种高危操作,被包了一层安全网,可以先零风险跑起来再放量。 需要说明的一点是: 按难度/任务的智能路由 现已上线; “多模型并行扇出+仲裁” 的运行时目前处于灰度/预览阶段 (计费链路逐步验证中) ,可先写好规则、用影子模式观察,开放后一键生效。 现在就去试 (文末点击“阅读原文”可直达): 文档:docs.orcarouter.ai/routing/routing-dsl 网站:www.orcarouter.ai (控制台routing→create router→routing strategy→DSL) 结语 当整个圈子都在为了下一个未知数倾注赌注时,一种更具确定性的工程范式正在悄然成型。 协作大于单兵,网络优于孤岛。 几个现成模型组合起来就能赢最强单体,胜负手已经不只是“你调用了谁”, “你怎么编排” 的权重正在变大。 模型还会继续卷下去,下一个更强的迟早会来。 但当编排本身就能拉出几个点的性能增量, “怎么用” 这件事,也许该和 “用哪个” 放在同一个优先级了。 (注:本文图表均为示意性数据,仅用于说明趋势,非官方跑分;多模型融合运行时目前处于灰度/预览阶段。) *本文系量子位获授权刊载,观点仅为原作者所有。 一键三连 「点赞」「转发」「小心心」 欢迎在评论区留下你的想法! —  完  — 🌟 点亮星标 🌟 科技前沿进展每日见
← 返回资讯列表