我們很高興宣布 DeepInfra 現已成為 Hugging Face Hub 上支援的推論服務供應商！DeepInfra 加入我們不斷成長的生態系統，直接在 Hub 的模型頁面上擴展了無伺服器推論的廣度與能力。推論服務供應商也無縫整合到我們的客戶端 SDK（支援 JS 和 Python），讓您能輕鬆地使用各種模型與您偏好的供應商。

DeepInfra 是一個無伺服器 AI 推論平台，提供業界最具成本效益的每 token 計價。DeepInfra 擁有超過 100 種模型的目錄，讓開發者能以最少的設定，輕鬆地將各種 AI 功能整合到他們的應用程式中。

DeepInfra 支援廣泛的模型類型，從大型語言模型（LLM）到文字轉圖片、文字轉影片、嵌入（embeddings）等等。作為此次初步整合的一部分，DeepInfra 將在 Hugging Face 上推出對對話和文字生成任務的支援，讓使用者能夠存取流行的開源 LLM，例如 DeepSeek V4、Kimi-K2.6 和 GLM-5.1 等等。對其他任務的支援（文字轉圖片、文字轉影片、嵌入等）也將很快推出！

請閱讀更多關於如何將 DeepInfra 作為推論服務供應商的專屬文件頁面。查看 DeepInfra 支援的完整模型列表請點此。在 Hugging Face 上追蹤 DeepInfra：https://huggingface.co/DeepInfra。

運作方式

在網站使用者介面中

1. 在您的使用者帳戶設定中，您可以：

設定您自己的 API 金鑰，用於您已註冊的供應商。如果未設定自訂金鑰，您的請求將透過 HF 路由。

依偏好排序供應商。這適用於模型頁面中的小工具和程式碼片段。

2. 如前所述，呼叫推論服務供應商有兩種模式：

自訂金鑰（請求直接發送到推論服務供應商，使用您自己的對應推論服務供應商的 API 金鑰）

由 HF 路由（在這種情況下，您不需要供應商的 token，費用將直接應用到您的 HF 帳戶，而不是供應商的帳戶）

3. 模型頁面展示第三方推論服務供應商（與當前模型相容的供應商，依使用者偏好排序）

從客戶端 SDK

DeepInfra 可透過 Hugging Face SDK 取得，Python 的 huggingface_hub (>= 1.11.2) 和 JavaScript 的 @huggingface/inference。以下範例展示如何透過 DeepInfra 使用 DeepSeek V4 Pro。使用 Hugging Face token 進行驗證，請求將自動路由到 DeepInfra。

從您偏好的 Agent Harness

Hugging Face 推論服務供應商已整合到大多數 Agent Harnesses 中，包括 Pi、OpenCode、Hermes Agents、OpenClaw 等等。這表示您可以將 DeepInfra 託管的模型直接插入您偏好的工具中，無需任何額外的連接程式碼。瀏覽完整的整合列表請點此。

從 Python

```

import os

from openai import OpenAI

client = OpenAI(

base_url="https://router.huggingface.co/v1",

api_key=os.environ["HF_TOKEN"],

)

completion = client.chat.completions.create(

model="deepseek-ai/DeepSeek-V4-Pro:deepinfra",

messages=[

{

"role": "user",

"content": "Write a Python function that returns the nth Fibonacci number using memoization."

}

],

)

print(completion.choices[0].message)

```

從 JS

```

import { OpenAI } from "openai";

const client = new OpenAI({

baseURL: "https://router.huggingface.co/v1",

apiKey: process.env.HF_TOKEN,

});

const chatCompletion = await client.chat.completions.create({

model: "deepseek-ai/DeepSeek-V4-Pro:deepinfra",

messages: [

{

role: "user",

content: "Write a Python function that returns the nth Fibonacci number using memoization.",

},

],

});

console.log(chatCompletion.choices[0].message);

```

計費

對於直接請求，即當您使用推論服務供應商的金鑰時，您將由相應的供應商計費。例如，如果您使用 DeepInfra API 金鑰，則會在您的 DeepInfra 帳戶上計費。對於路由請求，即當您透過 Hugging Face Hub 進行驗證時，您只需支付標準的供應商 API 費率。我們不會額外加價；我們只是直接轉嫁供應商成本。（未來，我們可能會與供應商合作夥伴建立收入分享協議。）

重要提示 ‼️ PRO 用戶每月可獲得價值 2 美元的推論點數。您可以在所有供應商之間使用這些點數。🔥

訂閱 Hugging Face PRO 方案即可獲得推論點數、ZeroGPU、Spaces 開發模式、20 倍更高的限制等等。我們也為已登入的免費使用者提供有限額度的免費推論，但如果可以，請升級到 PRO！

回饋與後續步驟

我們很樂意收到您的回饋！請在此分享您的想法和/或評論：https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49