跳到主要內容
maxstudioNews
產品OpenAI Blog約 5 分鐘

OpenAI 推出 Decisions API:讓應用程式反應更靈敏

OpenAI 正式推出 Decisions API,此服務基於 GPT-6 Luna 模型,能讓應用程式和 AI 代理以比 Responses API 快上十倍的速度,針對文字、圖片和結構化輸入做出近乎即時的決策。它支援多種輸入與輸出類型,並能與 GPT-Live 整合,為語音應用提供更流暢的互動體驗。

OpenAI 推出 Decisions API:讓應用程式反應更靈敏
圖片來源:OpenAI Blog

應用程式和代理在工作流程中會做出許多小決策,例如如何分類輸入、將請求路由到何處,或下一步應採取什麼行動。單獨來看,這些決策很簡單,但隨著規模擴大,它們的延遲和成本會不斷累積。

今天,我們正式推出 Decisions API。此 API 採用 GPT-6 Luna 模型建構,專注於處理有明確答案的問題,幫助應用程式和代理從文字、圖片和結構化輸入中做出近乎即時的決策,比透過 Responses API 使用 GPT-6 Luna 快上十倍。

自公開測試版以來,我們新增了原生的 GPT-Live 整合、用於重複上下文的提示詞快取,以及在美國和歐盟的推論駐留。開發人員現在還可以傳遞原生的 JSON 輸入、在問題說明中包含圖片,並在每個請求中提出多達 400 個問題,是先前限制的兩倍。我們也持續改進延遲,包括在亞洲多個地區增加容量。

團隊如何使用 Decisions API

Decisions API 的早期採用顯示其適用於各種使用案例。在 OpenAI 內部,各團隊正將 Decisions API 應用於產品和業務工作流程。例如,「dots」團隊正使用它來減少回應時間並提高互動性。

我們的個人理財團隊使用它來分類交易描述,而我們的通訊團隊則利用 Decisions API 根據主題對報導進行分類,並評分其是否強化或挑戰關鍵敘事,這有助於識別哪些內容值得更仔細的審查。

這些早期範例展示了快速、結構化的決策如何將傳入資訊轉化為有用的行動,適用於廣泛的使用案例。客戶也同樣廣泛地應用 Decisions API,從準確歸因 AI 成本到讓語言學習體驗更具互動性。

選擇應用程式所需的決策類型

使用 Decisions API 很簡單:開發人員定義一個問題及其允許的答案,然後提供文字、圖片或原生 JSON 作為上下文。API 會返回三種支援的答案類型之一,即機率、選擇或分數,應用程式可以使用這些答案來決定下一步的行動。多樣化的答案類型使得 Decisions API 能夠適用於各種使用案例。

Decisions API 支援三種答案類型:

| 類型 | 用途 | 主要結果 |

| :------- | :----------------------------------------------------------------------------------------------- | :--------------------------------------------------------------------------------------------------- |

| predicate | 評估某個條件為真的機率,例如產品是否有明顯損壞。 | probability:一個介於 0 到 1 之間的估計值,表示條件為真的機率。 |

| choice | 從您預先定義的選項中選擇一個,例如代理應繼續、重試還是請求澄清。 | choice:您提供的值之一。回應還包括機率和信心度。 |

| score | 根據評分標準將輸入評級為有序的等級,例如損壞的嚴重程度。 | score:等級指數的機率加權平均值。

GPT-Live 與 Decisions API 打造即時語音體驗

透過 GPT-Live,您可以為語音應用程式帶來自然、富有表現力的對話,並具備流暢的打斷處理功能,讓對話持續進行。Decisions API 現已原生整合 GPT-Live,幫助應用程式在即時對話中做出快速、集中的決策。

客戶服務代理可以決定是提出澄清問題、路由請求,還是升級問題。虛擬人偶可以根據用戶的說話內容調整面部表情,並根據用戶的詞語,以眨眼或微笑回應,創造更具互動性的體驗。

以下範例使用語音轉錄更新來選擇虛擬人偶的表情。將此配置新增到現有的 GPT-Live 會話中的 session.triggers。

Live 會發出 decision.event;應用程式讀取選定的反應並相應地動畫化角色。了解更多關於將語音連接到 Decisions API 的資訊。

親自試用 Decisions 與 GPT-Live

表情調色盤:點擊臉部預覽表情。

即時決策:觀看 Decisions API 如何根據您和對方所說的內容選擇面部表情。

您的話語:說話時觀察反應。

助理的話語:助理回覆時觀察臉部。

試著說:「我為我的貓排練了我的試鏡。她排練到一半就走了。」

此示範有時間限制。使用即表示您同意 OpenAI 的條款並確認我們的隱私政策。

建構並評估您的第一個決策

Decisions API 現已透過專用的 Decisions 端點與 GPT-6 Luna 全面上市。請參閱定價和可用性指南,了解目前的費率和快取詳細資訊。

從應用程式經常做出的一個重複決策開始。定義問題、可能的答案以及區分它們所需的上下文。在 Decisions Playground 中使用您自己的文字或圖片,或遵循開發人員指南發出您的第一個請求,在反映實際使用情況的範例上進行測試。

Decisions API 的輸入代幣費用為每百萬個 0.10 美元。快取輸入的費用為每百萬個 0.01 美元。對於 30 分鐘和 12 小時的快取寫入,請閱讀我們的定價指南。您只需支付輸入代幣費用,沒有輸出代幣費用。美國和歐盟提供區域處理,符合資格的客戶可使用零資料保留(Zero Data Retention)功能。請參閱定價和快取以及資料控制以了解詳細資訊。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 OpenAI Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。