我下載了一份關於 Jev 的設定指南,這是一個號稱與 Claude 搭配使用時能提供「十倍效能、百倍成本效益」的模型。我沒有先閱讀它,而是直接打開 Claude Code,讓它閱讀 PDF,並要求它在同一個會話中執行一個計畫。
結果,它不僅僅是一個供我稍後審閱的計畫。它是一個可運作的整合、一次真實的付費 API 呼叫、一個被捕捉到的幻覺,以及一個關於我應該讓代理程式在未經審查的情況下,遵循多少供應商指令的問題。
本文分享將快速且經濟的 Jev 決策模型整合至 Claude Code 的實戰經驗。作者在整合過程中發現了 AI 工具可能產生的幻覺問題,並強調了 API 金鑰安全與人工審核供應商指令的重要性。最終成功建構了可重複使用的客戶端與技能,並透過 Jev 自身選出文章標題,展示其高效決策能力。

我下載了一份關於 Jev 的設定指南,這是一個號稱與 Claude 搭配使用時能提供「十倍效能、百倍成本效益」的模型。我沒有先閱讀它,而是直接打開 Claude Code,讓它閱讀 PDF,並要求它在同一個會話中執行一個計畫。
結果,它不僅僅是一個供我稍後審閱的計畫。它是一個可運作的整合、一次真實的付費 API 呼叫、一個被捕捉到的幻覺,以及一個關於我應該讓代理程式在未經審查的情況下,遵循多少供應商指令的問題。
Jev(來自 TypeSafe AI 的 typesafe/jev-1.13)並非傳統意義上的語言模型,它不負責寫作。你向它發送一段文字和一個或多個帶有類型定義的問題,它會以三種形式之一回答:選擇(從選項中挑選一個)、評分(在量表上定位)或機率(判斷是/否陳述為真的機率),每種回答都附帶一個信心分數。
舉例來說,一封虛構的銷售郵件,三個問題,透過 OpenRouter 進行一次真實呼叫(OpenRouter 是一項透過單一金鑰代理多個 AI 模型 API 存取的服務)。結果顯示,這是一封潛在客戶評分為 2.97-3 的銷售郵件,信心分數為 0.97-1.0,需要當天回覆的機率為 0.75-0.78。整個過程不到一秒,每千次呼叫約兩美分。
該指南的基準測試也證實了這一點,針對 100 封虛構代理機構的郵件進行大規模測試,記錄於 2026 年 9 月 21 日。在速度和成本方面,Jev 表現優於 Claude Haiku,且成本僅為其一小部分,儘管 Claude Fable 在準確性上最高。沒有任何模型錯過重要的潛在客戶。這正是 Jev 的賣點:用於大量處理,而 Claude 則用於需要寫作或真正推理的任務。
該指南的核心步驟是一個標記為「複製貼上,主要提示詞」的區塊。將其貼入你的代理程式後,它會要求你的 OpenRouter API 金鑰,進行即時測試呼叫,並將設定儲存為可重複使用的技能。PDF 中的文字旨在成為我遵循指南建議、將其貼入代理程式時的指令。
但我沒有直接貼上。我閱讀了指南,提取出我真正需要的內容,並編寫了自己的版本,而不是逐字執行供應商的複製內容。公平地說,該指南並非不負責任。它指示代理程式在發送任何私人資訊前先詢問,並且其訊息路由功能預設為關閉,因為開啟它意味著每條訊息都會透過 OpenRouter 傳送給 TypeSafe。
重點不在於這份指南是否粗心大意,而是我在實際閱讀之前並不知道這些。任何設計成可直接貼入代理程式的內容,都值得每次都仔細閱讀,無論結果如何。
首先是保護金鑰。真實的金鑰以純文字形式出現在聊天中。在進行任何測試呼叫之前,它被存入一個被 Git 忽略的 .env 檔案中,並備份加密到個人筆記儲存庫中現有的 SECRETS/ 慣例(僅限年齡密文,私鑰從未提交)。只有在那之後,我才進行了即時呼叫。先保護它,然後再使用它,而不是反過來。
捕捉到一個幻覺的 API 端點。Jev 在我的訓練截止日期之後推出,所以我獲取了即時文件,而不是依賴記憶。第一次獲取的文件將 API 端點描述為 https://openrouter.ai/api/v1/api/alpha/decisions,基礎 URL 和路徑錯誤地合併了。
我呼叫它,結果是 404 錯誤。更嚴格的重新獲取,要求逐字引用路徑而不是摘要,得到了真實的端點:POST https://openrouter.ai/api/alpha/decisions。
在信任之前進行建構和管道測試。一個 Node 客戶端、兩個按需技能,以及一個訊息大小路由器,作為一個真正的 UserPromptSubmit 鉤子連接,而不僅僅是在文件中描述。修正幻覺端點的方法不是「不信任文件獲取工具」,而是當摘要工具被要求描述 API 參考頁面時,它可能會錯誤地合併基礎 URL 和路徑,而捕捉它的唯一方法是進行呼叫並讀取實際的狀態碼。
建構了一個 Node 客戶端(askJev({state, questions})),它呼叫經過驗證的端點並返回答案及其信心分數。兩個按需技能:一個用於直接呼叫 Jev,另一個則包含現成的配方,用於分類大量文字(收件箱潛在客戶、支援票務的緊急程度和流失風險、供應商發票詐欺信號)。兩者都遵循指南本身的規則:如果信心分數低於約 60%,該項目將被歸類為需要人工判斷,而不是直接採取行動。
一個訊息大小路由器,這是一個真正的鉤子,會在提交給 Claude Code 的每條訊息上觸發,而不僅僅是我寫在文件中的內容。在信任之前直接進行管道測試:關閉時,它不會產生任何輸出。斜線指令或簡短回覆會在任何呼叫執行前被跳過。一個真正模棱兩可的訊息(0.38 信心分數)會在內部被分類,但備註會被抑制,因為一個不確定的判斷比沒有判斷更糟糕。
一個真正獨立的任務以 0.96 的信心分數被正確地判斷大小,成本被記錄到運行總計中。它預設是關閉的,因為它所在的空間包含我不想預設離開機器的個人和安全事件資料。
Claude Code 沒有真正的每訊息模型切換功能,鉤子也無法創建一個。路由器實際做的是添加一個備註:這看起來像是一個 SONNET 大小的工作,或者一個 OPUS 大小的工作。根據這個備註採取行動仍然是一個判斷,由 Claude 或我做出,而不是自動轉交。稱它為「路由器」有點誇大其詞,我寧願直接說明這一點,也不願讓這個名稱暗示比其機制更多的控制權。
這篇文章有三個標題,我不想自己選擇。所以我讓 Jev 決定,就像它會決定三種電子郵件類別一樣:一個選擇問題,三個選項,一次呼叫。它以 0.99 的信心分數選出,花費 0.000025 美元,不到一秒鐘。這正是整個賣點的縮影:一個便宜、快速、結構化的判斷,由一個只會以多重選擇而非散文形式回答的模型做出。
如果你要將任何全新的第三方模型整合到代理式程式碼工具中,請務必:在讓代理程式逐字執行供應商資料之前,自己閱讀這些資料;在任何憑證出現時立即保護它;透過真實的請求及其實際狀態碼來驗證即時 API,而不是依賴摘要文件;以及將任何會觸及你輸入的每條訊息的功能預設為關閉,直到你確定確實需要它開啟為止。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 DEV Community (Claude Code) 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。