隨著頂尖模型公司之間的激烈競爭，以及 Kimi K3 和 Qwen3.8-Max 等開源模型日益強大，模型路由已成為AI部署的關鍵環節。我們剛看到 Stripe 以超過 70 億美元收購 OpenRouter，但這股趨勢在企業界同樣熱門。

Glean 由前 Google 傑出工程師 Arvind Jain 共同創立並領導，專注於將 AI 導入大型組織。該公司去年六月完成 1.5 億美元的 F 輪融資後，估值達到 72 億美元。今年，Glean 的年度經常性收入 (ARR) 已達 3 億美元，在 15 個月內成長了三倍。

Glean 的部分任務是為每個工作選擇合適的模型，甚至判斷是否需要使用大型語言模型 (LLM)。

Jain 向 Latent Space 表示：「Glean 的一大目標是避免在不需要大型語言模型時使用它們。」他補充說：「有時你會在 Glean 中看到人們查詢兩個數字的加法或乘法，他們其實可以用計算機來完成。」

但 Glean 主要的目標是為企業員工帶來 Jain 所稱的「一個真正強大的個人協作者」。這意味著它將成為領先大型語言模型的整合平台。

Jain 說：「你可以將 Glean 視為 ChatGPT、Claude、Gemini 和 Grok 的超集。所有這些我們日常使用的不同 AI 產品，Glean 將它們的力量整合到一個體驗中。」

對於企業而言，將 AI 技術引入組織只是一半的挑戰。另一半是將組織知識融入 AI 系統。

Jain 表示：「我們的業務最終是要深入理解您的資料、知識和資訊，同時也要了解您的公司內部是如何運作的。」

那麼，模型路由在實務上意味著什麼？基本上，Glean 提供三種層次的模型選擇：

員工可以明確選擇模型。管理員可以限制模型或設定使用上限。Glean 的自動模式會為每個任務動態選擇模型。

事實證明，Glean 的客戶大多基於經濟考量而選擇自動模式。

Jain 告訴我們：「為什麼人們在談論模型路由？為什麼他們對此感到興奮？主要原因就是成本。」

Glean 的另一位共同創辦人兼工程主管 Tony Gentilcore 最近聲稱，Glean 比 Claude Code「成本效益高出四倍」，「平均每個任務花費 0.45 美元，而 Claude Cowork 則為 1.84 美元」。他將此歸因於 Glean 的「整合與路由能力」。

對於個人而言，我們許多人從每月 20、100 或 200 美元的大型語言模型訂閱中獲得了巨大價值。但對於企業來說，每個用戶的成本很容易失控。

Jain 表示：「AI 模型變得越來越昂貴。例如，如果你看看 Opus 或 GPT 的最新模型，這些最先進的模型。它們不僅非常強大，能夠執行比以前模型更複雜的任務。但就每個 token 的成本而言，它們更貴，有時是以前模型的兩倍或四倍。而且用戶實際上會用它們來執行更長時間的任務。因此，每個用戶的支出可能比去年多出 10 倍、20 倍。所以成本大幅上漲。」

Glean 崛起另一個關鍵因素是，它能夠觀察普通商業用戶如何使用 AI。該產品可能作為「協作者」部署給每位員工，也用於在所有部門和職能中建立和部署代理。

在其客戶中，Zillow 報告在 7,000 名員工中達到 80% 的採用率，而在 Booking.com，「Glean 成為第一個全公司採用的 AI 平台」。這種滲透率讓 Glean 對於 AI 在企業中的使用方式有了令人稱羨的洞察。

Jain 說：「因此，我們能夠廣泛地觀察人們實際如何使用 AI。我們可以看到當他們使用 AI 執行不同類型的任務時，他們首先選擇哪些模型，以及當他們不滿意時，何時會升級到其他能提供正確結果的模型。」

這種大規模的人類回饋循環，有助於改進模型路由系統。

Glean 架構的另一部分是一個名為 Waldo 的模型，Jain 將其描述為位於大型語言模型之上。Waldo 於四月推出，被稱為「Glean 的第一個代理式搜尋模型」。

Glean 聲稱，其代理式搜尋模型 Waldo「將延遲降低 50%，token 使用量減少 25%，將進階模型保留給真正需要它們的工作。」

在一篇技術部落格文章中，Waldo 被描述為一種用戶查詢的過濾過程：它「決定如何分解問題、使用哪些工具、接下來閱讀什麼，以及何時有足夠的證據可以交給頂尖模型以獲得高品質的答案。」

這意味著模型路由是在 Glean 確定 Jain 所稱的任務所需「原始資料」之後才進行的。

他補充說：「我們能夠組裝完成工作所需的原始資料，而無需消耗大型語言模型的 token。」

這也意味著，一個具有更好上下文的較便宜模型，可能比載入不相關資料的頂尖模型表現更好。

Jain 證實，企業現在對開源模型有顯著興趣，主要原因是成本考量。但這種情況僅在過去幾個月才發生。

他說：「去年，開源大型語言模型的使用量微乎其微，沒有人真正認真考慮開源。」部分原因是許多開源模型在美國境外開發所帶來的「污名」。

但突然之間，企業客戶的興趣大增。

Jain 表示：「因此在過去三個月，由於 AI 變得如此昂貴，企業開始發現維持這些 AI 投資變得難以承受。」他指出：「鑑於開源模型執行任務的成本便宜一個數量級，這引起了極大的興趣。今天，我可以說在大多數企業中，他們正將開源模型視為其 AI 策略的關鍵部分。」

不僅如此，組織也不再傾向於只依賴一兩個供應商，而開源模型的崛起正在推動這一趨勢。

Jain 說：「現在沒有人願意只依賴一兩個模型供應商，也沒有人認為他們可以在沒有開源的情況下生存。」

在 2026 年，如果沒有討論評估 (evals)，即評估大型語言模型結果的品質，就無法進行嚴肅的 AI 對話。我詢問 Glean 如何進行評估，以及這些評估如何回饋到模型路由系統中。

Jain 表示，他們擁有「內部測試系統」，用於比較不同查詢類別的實際工作負載與替代方案。他們讓模型選擇一個路由，同時也嘗試使用「一些可能稍微便宜一點或貴一點的其他模型」來完成相同的任務。

Glean 隨後使用「AI 評審」來判斷「模型路由器的精準度」。

Jain 解釋說：「因此，這是一個隨著新的實際流量而持續更新的學習過程，基本上就是讓模型路由器為用戶完成工作，但在幕後同時運行相同的任務。」

他補充說，這僅針對實際使用量的「一小部分」進行，但在 Glean 的規模下，這已足以訓練和改進模型路由器。

Latent Space 未來將持續關注的趨勢之一，是 AI 系統如何在企業內部實施，以及其中一些組織如何全面轉向 AI 原生。

Glean 是一家特別值得關注這些趨勢的公司，因為它是最早面向企業的 AI 公司之一。它成立於 2019 年初，最初旨在解決企業搜尋問題。正如 Jain 所說，Glean 是「第一個將 Transformer 和語言模型應用於商業領域的參與者」。

2023 年 4 月，swyx 採訪了 Glean 的 Deedy Das。Das 現在是創投公司 Menlo Ventures 的合夥人，曾是 Glean 的創始工程師。但即使在 2023 年，也就是 Glean 成立約四年後，其重點仍主要放在企業搜尋上。

如今在 2026 年，企業不僅將 AI 用於搜尋。AI 正在成為每位員工工作流程中不可或缺的一部分。

這使得 Glean 成為一家更「性感」的 AI 公司，正如 Das 去年 11 月重返 Latent Space 播客時所說：「廣泛來說，我喜歡 Glean 的一點是，它曾經是一家無聊、不性感的公司，後來才變得性感。」

這讓我們回到了模型路由這個主題。Arvind Jain 在結束討論時稱 Glean 為一個「端到端 AI 平台」，被其企業客戶「大量使用」。他補充說，這使得 Glean 能夠「擁有進行有效模型路由所需的資料」。