今天,我們正式發布 Workflows 的公開預覽版。Workflows 是專為企業 AI 設計的協調層,它為 AI 驅動的流程帶來了從概念驗證階段可靠地轉移到生產環境所需的耐用性、可觀察性與容錯能力。ASML、ABANCA、CMA-CGM、France Travail、La Banque Postale、Moeve 等眾多組織已在使用 Workflows 自動化其關鍵業務流程。

現今的企業團隊已能取得功能強大的模型,但他們缺乏在生產環境中可靠運行這些模型的方法。我們在所合作的每個產業中都觀察到這種情況。常見的失敗模式包括:在筆記本中運行正常,但在生產環境中卻無聲無息地失敗且無跡可循的管線;無法承受網路逾時的長時間運行流程;需要人工中途審核但缺乏暫停與恢復機制的多元步驟操作;以及部署後無法驗證系統是否仍按預期運作。

對於企業而言,要從頭建構所有能力來解決這些挑戰,需要數月複雜的工作:協調層必須從零開始整合,而它所連接的各個組件,如推論、代理、連接器、可觀察性等,都來自不同的工具,各自擁有獨特的介面與格式。Workflows 是 Studio 的一部分,因此協調層及其所協調的組件皆為協同運作而設計。

一旦確定業務流程,開發人員即可使用 Python 編寫工作流程。每個工作流程隨後都能發布到 Le Chat,讓組織內的任何人都能觸發。在 Studio 中,每個步驟都會被追蹤並可供稽核。透過整合這些功能,Workflows 讓您的組織能夠在數天內,從識別使用案例到將其投入生產環境運行。

## Workflows 在實際應用中的部署如前所述,Mistral AI 的客戶已在使用 Workflows 自動化業務流程並將其投入生產。以下範例展示了耐用性、可觀察性以及人工審核(human-in-the-loop)在實務中如何運作。

貨物放行自動化。 全球航運依賴大量文件作業。單一貨物放行可能涉及多個司法管轄區的海關申報、危險品分類、安全檢查和法規查核。任何遺漏的步驟都可能導致港口貨物延遲,並可能違反法規。此類使用案例的營運要求包括:系統必須能夠承受間歇性逾時、在執行中途暫停以供人工審核,並在發生故障時精確記錄原因與位置。

透過 Workflows,客戶能夠實現端到端的自動化。工作流程會根據海關規定驗證每份傳入的運輸文件,檢查異常情況,標記任何需要人工簽核的項目,等待批准後再放行貨物。藉由 Workflows,人工審核步驟僅需一行程式碼:wait_for_input()。

工作流程會暫停,在不消耗任何運算資源的情況下等待所需時間,通知審核人員,然後從中斷處精確恢復。Studio 會記錄完整的執行歷史。文件合規性檢查。 KYC(認識你的客戶)審核是手動、重複且耗時的過程。單一客戶的開戶流程可能需要提取身份證明文件,對照制裁名單和 PEP(政治公眾人物)資料庫進行驗證,交叉比對不同司法管轄區的法規要求,並產生一份附有佐證的結構化風險評估報告。

若以人工方式完成,每個案例將耗費分析師數小時的時間。此處的營運要求是速度與可稽核性。一個自動化此類流程的系統應當快速,並能記錄其步驟及背後的原因,以符合法規要求。藉由 Workflows,整個審核過程僅需數分鐘。Studio 會將每個步驟呈現為結構化的時間軸,您可以深入查看任何層次的細節,甚至包括對 OpenTelemetry 提供原生支援的特定追蹤。

客戶支援分流。 支援團隊需要處理大量請求,包括退款申請、技術問題、帳單爭議、帳戶升級等。快速且一致地將這些請求分派給正確的團隊,是決定解決時間的關鍵。此處的營運要求是可修正性。自動化分流難免會出錯。當發生錯誤時,團隊需要了解工單為何以該方式分流,並在不重新訓練模型的情況下進行修正。

透過 Workflows,傳入的工單會被分析,依意圖和緊急程度進行分類,並自動分派到正確的下游流程。每個分流決策在 Studio 中都清晰可見且可追溯。當分類錯誤時,團隊可以在工作流程層級進行修正。* 耐用執行。 Workflows 會追蹤每個步驟的狀態。

如果流程失敗,它會從中斷處恢復。因此,開發人員可以更專注於編寫業務邏輯,而非復原邏輯。* 可觀察性。 每個分支、重試和狀態變更都會記錄在 Studio 中。如果數月後需要調查某個決策,完整的時間軸會顯示該決策是如何達成的。* **人工審核(Human-in-the-loop)。

一行程式碼即可暫停工作流程以待批准。審核人員可以透過 Le Chat、webhook 或任何連接的介面回應,工作流程將從停止處繼續執行。* 原生整合 Studio。** Workflows 使用與 Studio 其他部分相同的代理和連接器。

無需額外的整合工作即可將其連接。* 企業級就緒。 Studio 內的工作區將團隊與專案分開,而基於角色的存取控制(RBAC)確保這些規則得到一致的執行。* 為開發人員和業務團隊打造。 工程師以程式碼編寫工作流程。業務團隊則可從 Le Chat 運行它們。

* 部署彈性。 控制平面在 Mistral 上運行。工作者(workers)和資料處理則在您的環境中運行,即您的關鍵服務託管位置:雲端、地端或混合環境。## 技術細節Workflows 建構於 Temporal 的耐用執行引擎之上,這與支援 Netflix、Stripe 和 Salesforce 協調作業的基礎設施相同。

我們透過增加串流處理、負載(payload)處理、多租戶支援以及核心引擎未開箱即用的可觀察性,將其擴展以適用於 AI 特定的工作負載。部署模型在 Mistral 和您的環境之間劃分,並將控制平面與資料平面分離。Mistral 託管協調基礎設施:Temporal 叢集、Workflows API 和 Studio。

您可以使用單獨的 Helm chart 在自己的 Kubernetes 環境中部署工作者(workers),它們透過安全憑證連接回中央叢集。您的資料和業務邏輯將保留在您的安全範圍內。Mistral SDK 透過裝飾器(decorators)和單行配置處理重試策略、追蹤、逾時、速率限制以及人工審核(human-in-the-loop),因此您只需編寫業務邏輯本身。

## 開始使用Python SDK 是開發人員編寫和運行工作流程的方式。v3.0 現已公開發布,並可透過單一指令安裝:安裝 Workflows