游客发表

本周AI项目推荐|Factory Router,Inworld Router,nexos.ai ...... Router 无处不在

发帖时间:2026-07-17 06:07:53

作者 | 张奚晨 微信 | a8072314b

进入 Agent 时代,本周单次任务不再局限于向模型提问,项目而是推荐演变为包含规划、搜索、本周工具调用、项目执行及结果校验的推荐复杂闭环。每一步操作都在持续消耗 Token,本周而企业的项目 AI 账单已无法承受无节制的 Token 消耗。因此,推荐必须避免让每一个简单动作都调用昂贵的本周前沿模型。理想架构应是项目:复杂任务由最强模型处理,简单任务交由低成本模型,推荐让擅长代码、本周检索或推理的项目模型各司其职。核心问题已从“哪个模型最强”转变为“如何精准调用最合适的推荐模型”。

Router 的传统职能是连接不同模型、切换供应商以及平衡价格与稳定性。然而,随着模型数量激增和 Agent 任务链延长,Router 正承担更复杂的决策职能:理解任务意图、选择最优模型、控制成本,甚至组织多模型分工、评审与答案合成。

市场已为这一方向开出高价“奖状”。今年 5 月,OpenRouter 完成由 CapitalG(Alphabet 旗下成长基金)领投的 1.13 亿美元 B 轮融资,估值约 13 亿美元,较一年前翻倍;其年化收入在 18 个月内从 100 万美元飙升至 5000 万美元,平台每周处理 Token 量达 25 万亿。Nvidia、ServiceNow、Snowflake、Databricks 等巨头投资部门均位列股东名单,而该公司此前并未主动融资。这个抽取 5% 佣金的“中间商”获得独角兽定价,表明资本已达成共识:当模型本身走向大宗商品化,价值重心正向调度层转移。

这也是我们聚焦 Router 的原因。它既能通过“任务-模型”精准匹配降低成本,也能借助语义判断和多模型协作提升输出质量。Router 正从单纯的流量分配器,进化为 AI 系统中分配智能、算力和预算的核心决策层。

除 OpenRouter 外,本期精选六个处于快速成长期的项目,观察先行者如何在不同维度推进 Router 技术:有的专注于任务模型匹配,有的侧重意图理解后的路径选择,有的致力于多模型协同,还有的旨在构建开源网关基础设施,将其打造为企业的控制中枢。

一、选对模型:为每个任务分配合适的智能

1、Factory Router

一句话介绍:Factory Router 是专为软件开发 Agent 设计的模型路由器。它依据用户指令、近期工具调用记录、代码库规模及任务难度等多维信号,为每个 Droid 会话动态选择满足质量门槛的低成本模型,并在模型表现不佳时自动升级或切换。

团队背景:Factory 是一家 Agent 原生软件开发平台,由伯克利理论物理博士 Matan Grinberg 及前微软、Hugging Face 工程师 Eno Reyes 于 2023 年创立。2026 年 4 月,公司完成由 Khosla Ventures 领投的 1.5 亿美元 C 轮融资,估值达 15 亿美元,红杉资本、Blackstone、Insight Partners 和 NEA 等知名机构参投。

为什么值得关注:Factory 将 Router 深度嵌入真实 Agent 会话,路由决策不仅发生在任务起始阶段,还能根据执行反馈动态调整。相比通用路由,垂直场景更易积累可靠的“任务-模型”效能数据,从而更直观地量化成本节约。官方数据显示,相较于全程使用 Claude Opus 4.7,Factory Router 在保持前沿性能的同时,最高可节省 25% 的会话成本。

值得思考:Factory 尚未公开其路由模型及训练数据,官方公布的节省比例基于自有工程基准。这代表了一条务实路线,但其效果可能高度依赖 Factory 自身的 Agent 架构、数据积累和工作流,在其他场景下的迁移性尚待验证。

官网链接:https://factory.ai/product/router

2、Inworld Router

一句话介绍:Inworld Router 将路由信号从文本扩展至音频:作为一个接入 220+ 第三方模型的路由器,它能根据说话人的情绪、犹豫程度和语速动态选择模型——例如,自动将情绪沮丧的用户路由至更强模型。

团队背景:Inworld AI 成立于 2021 年加州山景城,创始团队为对话式 AI 资深专家——联合创始人 Ilya Gelfenbeyn 和 CTO Michael Ermolenko 曾创办 Api.ai(后被 Google 收购并发展为 Dialogflow)。公司最初以游戏 AI 角色引擎起家,客户涵盖 Xbox、Ubisoft,累计融资约 1.2 亿美元。2023 年 5000 万美元融资对应 5 亿美元估值,股东包括 Lightspeed、Founders Fund、Intel Capital、微软 M12 和 Meta。2025 年 8 月发布 Inworld Runtime 后,公司重心转向消费级 AI 基础设施,Router 成为核心组件。

为什么值得关注:具备两大差异化优势。一是路由依据:多数 Router 仅分析文本,Inworld Router 与自家实时语音层打通,利用声学信号(情绪、年龄、犹豫、语言特征)直接参与模型选择,这是纯文本路由无法实现的。二是商业模式:它同时路由至 220+ 第三方模型及自家基础设施上的开源模型(如 Gemma 4、DeepSeek、GLM 等),以亚秒级首 Token 延迟和低推理成本承接简单请求。今年 6 月,其语音产品价格减半,明确旨在帮助消费级 AI 创业公司优化成本结构——在此场景下,路由是获客入口,推理才是盈利核心。

值得思考:存在“既当裁判又当运动员”的结构性张力。Inworld Router 决定请求去向,而候选名单中包含自家模型,这与 OpenRouter 强调的中立性形成对比。此外,声学信号路由的价值目前主要局限于语音优先的消费应用,该市场尚待验证;从游戏 NPC 到 AI 基础设施,这是该公司第二次战略转型。

官网链接:https://inworld.ai

二、组织模型:用协作构造更强的智能

1、vLLM Semantic Router

一句话介绍:vLLM Semantic Router 先评估请求的难度、风险、成本及格式要求,再决定调用单一模型,还是组织多模型进行分工、验证和答案合成。

团队背景:这是 vLLM 生态中的开源研究型项目,GitHub 星标数已达 4.9k。技术上,Semantic Router 首先抽取领域、难度、安全性和上下文等语义信号,随后根据信号匹配不同的“路由配方”:可选择单一模型,也可运行模型升级、并行集成、重复推理、Fusion 或包含 planner、worker、verifier 的受控工作流。

为什么值得关注:vLLM Semantic Router 不仅决定“请求发给谁”,更决定“需要何种推理过程”。简单任务直接分配给低成本模型;不确定时逐级升级;复杂任务则启动多模型协作,同时严格控制预算、并发、超时及回退机制。表面看仍是普通模型调用,深层则标志着 Router 从模型选择层深入至能力构造层。

值得思考:该项目意味着 Router 开始承担原本属于 Agent 框架、推理服务和安全系统的职责,有助于减少应用层重复搭建工作流,但也可能形成一个极其复杂的新中间层。不同路由配方在真实业务中能否稳定提升效果并抵消额外成本,仍需更多独立验证。

网站链接:https://vllm-semantic-router.com/

2、Sakana Fugu

一句话介绍:One Model to Command Them All(统御所有模型的模型)。Fugu 是一个能组织其他模型工作的模型:它既能独立回答,也能根据任务动态召集多个专家模型,安排分工、检查结果并合成最终答案。Fugu 于 2026 年 4 月开放测试,6 月正式发布。

团队背景:Fugu 来自日本 Sakana AI。公司由前 Google 研究员 David Ha、Transformer 论文作者 Llion Jones 等人创立,长期深耕模型合并、群体智能和多智能体协作。公司于 2025 年 11 月宣布 B 轮融资,2026 年继续扩募,最终融资约 2 亿美元,累计融资达 4.12 亿美元。此前未参与 A 轮的 Google 在此阶段通过战略投资加入股东名单。

为什么值得关注:Fugu 延续 Trinity 和 The Conductor 等研究,采用学习式模型编排:不预设死工作流,而是训练一个模型学习何时委派、委派给谁、如何验证及整合结果。多数 Router 仅在候选模型中做选择,而 Fugu 将“如何使用其他模型”本身转化为一种模型能力,意味着 Router 可能从分类器或规则系统,进化为能根据任务动态生成协作结构的智能调度者。

值得思考:多模型协作虽能提升能力上限,但也增加了调用成本、延迟及错误传播路径。学习式编排引入了新的黑箱问题:用户难以预测其调用模型数量、分工逻辑及能力提升是否值得额外成本。目前 Fugu 定价对标旗舰模型,并不便宜。此外,其本质仍似“中转站”,底层能力仍掌握在 OpenAI、Anthropic 手中。当上游厂商调整价格、限制调用或推出类似调度能力时,Fugu 的壁垒深度值得审视。

网站链接:https://sakana.ai/fugu/

三、管住调用:接入、治理与结算

前两类 Router 解决的是“任务该给谁”。还有一类玩家做的是另一件事:先成为所有调用的必经入口,再决定这一层上生长出什么。对它们而言,路由是入口而非终点——终点在于账单、权限和数据控制权。

1、LiteLLM(BerriAI)

一句话介绍:LiteLLM 旨在制定开源 AI 网关标准。作为一个 Python 代理,它将 100+ 供应商 API 统一为 OpenAI 格式,并顺手接管路由、限流和成本记账功能。

团队背景:YC W23 项目,创始人 Krrish Dholakia 和 Ishaan Jaffer 原从事 chat-with-your-data 产品开发,因受困于各家 API 互不兼容的调用逻辑,遂将其抽象为开源包,于 2023 年 8 月发布。融资仅约 160 万美元种子轮,团队规模维持在 10 人左右。

为什么值得关注:资本效率的极端样本。10 人团队、不到 200 万美元融资,实现 GitHub 超 4.5 万 Star、2.4 亿次 Docker 拉取,每日路由数亿次 LLM 调用。客户包括 NASA、Netflix、Adobe、Stripe,招聘页自曝 ARR 已达 700 万美元。其管辖范围随协议扩张,已兼做 MCP 网关和 Agent-to-Agent 网关——路由对象从模型悄然扩展至工具和智能体。

值得思考:LiteLLM 证明该层技术门槛不高,高的是默认地位,而开源是获取默认地位的最快路径:Netflix 工程师表示,新模型发布后一天内即可内部启用。代价同样清晰:今年 3 月其遭遇供应链安全事件——作为所有人 AI 栈的单点,它也是所有人的单点故障。它与 OpenRouter 代表了同一层的两种命运:一个做成收租市场,一个做成免费水电。最终定义该品类的形态,比算法优劣更值得追问。

官网链接:https://litellm.ai

2、nexos.ai

一句话介绍:nexos.ai 在企业与所有 LLM 之间建立中立中间层,自称“LLM 界的瑞士”。其路由服务目标非省钱,而是安全、合规和数据主权。

团队背景:Nord Security 两位创始人 Tomas Okmanas 和 Eimantas Sabaliauskas 的二次创业。2025 年 1 月以 stealth 模式启动时获 Index Ventures 领投的 800 万美元种子轮,10 月完成 3000 万欧元 A 轮,估值约 3 亿欧元——从启动到 3.5 亿美元估值不到一年。天使投资人包括 Datadog、Klarna、Supercell CEO 及 Wix 创始人,近期还宣布与 CrowdStrike 合作。

为什么值得关注:它证明 Router 的买单方不一定是 CTO,也可以是 CISO 和董事会。创始人判断,员工向 ChatGPT 上传敏感数据正导致“史上最大企业数据泄露”,与其禁用不如做中间人:员工使用 AI Workspace,开发者通过 AI Gateway 接入约 200 个模型,网关同时承担安全、成本和合规控制职能。欧洲的数据主权焦虑为其提供了美国同行无法复制的市场优势,公共机构已主动敲门。

值得思考:同一技术形态,在美国被定价为流量生意,在欧洲被定价为合规生意。nexos.ai 售卖的究竟是路由,还是合规生意在 AI 时代的复刻——流量经我、策略在我、日志归我?若是后者,Router 仅是外壳,真正产品是治理。这对判断该层终局极具价值:路由能力本身不值钱,值钱的是路由带来的位置。

官网链接:https://nexos.ai

点个 “ 爱心 ” ,再走 吧

    热门排行

    友情链接