跳到主要內容
maxstudioNews
商業TechCrunch AI約 2 分鐘

ZeroDrift 募資千萬美元,為 AI 模型打造合規防護網

新創公司 ZeroDrift 專注於 AI 合規服務,開發了一套獨特系統,旨在防止 AI 模型產生不當或不合規的內容。該系統能偵測並重寫有問題的訊息,確保企業 AI 應用的安全性與可靠性。ZeroDrift 近期成功募得 1,000 萬美元種子輪資金,顯示市場對此類 AI 治理解決方案有強烈需求。

ZeroDrift 募資千萬美元,為 AI 模型打造合規防護網
圖片來源:TechCrunch AI

當企業在排除其 AI 系統故障時,治理已成為一項關鍵挑戰。有些企業採取雙重策略:一個模型處理傳入的查詢,另一個則負責防止第一個模型惹麻煩。

這正是 ZeroDrift 的核心理念,這家新興的 AI 合規服務公司週二宣布,已在種子輪融資中募得 1,000 萬美元,投資方包括 a16z Speedrun、Reign Ventures、PitchDrive Ventures 和 U&I Ventures 等。該公司專注於系統的第二部分,介於 AI 模型和終端使用者之間,負責標記並替換任何可能引發合規問題的訊息。

建立一個 AI 工具來糾正其他 AI 系統的錯誤,這聽起來可能有些奇怪,但 ZeroDrift 表示其系統相較於它所糾正的模型,具有一些架構上的優勢。該系統由傳統程式觸發,這些程式以確定性的方式應用已知的合規標準,例如 SOC 2 或 GDPR;大型語言模型(LLM)僅在訊息被標記後才介入,重寫一個符合規範的版本。

執行長 Kumesh Aroomoogan 表示:「我們能夠確定性地識別所有受監管的領域,以及正在發生的違規行為,然後我們有大型語言模型可以進行重寫。」

關鍵是,該公司表示其整個系統的延遲更低,可靠性也比傳統的大型語言模型更高。這正是 ZeroDrift 相較於 OpenAI 和 Anthropic 等大型實驗室的主要優勢,這些實驗室的模型通常已存在於底層系統中。

最明顯的應用案例是 AI 聊天機器人,它們已經部署在消費者面前,任何不當的回覆都可能導致嚴重後果。但 Aroomoogan 看到一個更大的潛在市場,可能涵蓋僅在自動化系統內部生成、人類永遠不會看到的 AI 生成訊息。目前這是一個相對較小的市場,但隨著 AI 的普及,它將會成長。

如果這次募資是個指標,那麼市場對此類產品存在大量被壓抑的需求。Aroomoogan 表示:「這可能是我人生中完成過最快的募資。」他將種子輪的成功歸功於 Andressen Horowitz 的協助。「我們在三週內完成募資,而且認購金額超額三倍。」

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 TechCrunch AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。