當企業在排除其 AI 系統故障時,治理已成為一項關鍵挑戰。有些企業採取雙重策略:一個模型處理傳入的查詢,另一個則負責防止第一個模型惹麻煩。

這正是 ZeroDrift 的核心理念,這家新興的 AI 合規服務公司週二宣布,已在種子輪融資中募得 1,000 萬美元,投資方包括 a16z Speedrun、Reign Ventures、PitchDrive Ventures 和 U&I Ventures 等。該公司專注於系統的第二部分,介於 AI 模型和終端使用者之間,負責標記並替換任何可能引發合規問題的訊息。

建立一個 AI 工具來糾正其他 AI 系統的錯誤,這聽起來可能有些奇怪,但 ZeroDrift 表示其系統相較於它所糾正的模型,具有一些架構上的優勢。該系統由傳統程式觸發,這些程式以確定性的方式應用已知的合規標準,例如 SOC 2 或 GDPR;大型語言模型(LLM)僅在訊息被標記後才介入,重寫一個符合規範的版本。

執行長 Kumesh Aroomoogan 表示:「我們能夠確定性地識別所有受監管的領域,以及正在發生的違規行為,然後我們有大型語言模型可以進行重寫。」

關鍵是,該公司表示其整個系統的延遲更低,可靠性也比傳統的大型語言模型更高。這正是 ZeroDrift 相較於 OpenAI 和 Anthropic 等大型實驗室的主要優勢,這些實驗室的模型通常已存在於底層系統中。

最明顯的應用案例是 AI 聊天機器人,它們已經部署在消費者面前,任何不當的回覆都可能導致嚴重後果。但 Aroomoogan 看到一個更大的潛在市場,可能涵蓋僅在自動化系統內部生成、人類永遠不會看到的 AI 生成訊息。目前這是一個相對較小的市場,但隨著 AI 的普及,它將會成長。

如果這次募資是個指標,那麼市場對此類產品存在大量被壓抑的需求。Aroomoogan 表示:「這可能是我人生中完成過最快的募資。」他將種子輪的成功歸功於 Andressen Horowitz 的協助。「我們在三週內完成募資,而且認購金額超額三倍。」