今天,我們很高興宣布 Hugging Face 與 Amazon SageMaker AI 之間實現了深度連結整合。現在,開發者只需一次點擊,即可從模型探索直接進入 SageMaker Studio 進行實作實驗。無論您是從 Amazon SageMaker JumpStart 微調基礎模型 (FM),還是將其部署到 Amazon SageMaker 推論端點,都能直接進入相關的 SageMaker Studio 工作流程。您選定的模型將預先載入,環境也已完全配置並準備就緒。

過去,在 Hugging Face 上發現模型後,若要在 SageMaker Studio 中開始使用,需要經過多個步驟,包括在 AWS Console 中開啟 Amazon SageMaker AI、建立網域、配置 IAM 權限,有時甚至需要申請 GPU 配額。對於希望快速迭代的開發者來說,這些繁瑣的步驟會拖慢從靈感到實驗的進程。這項整合為從模型探索到企業級部署創造了一條更直接的途徑。

Arcee AI 創辦人兼執行長 Mark McQuade 表示:「在 Arcee,我們建立開放模型,讓開發者和企業能夠真正擁有他們所執行的內容:檢查權重、使用自己的資料進行後續訓練,並按照自己的條件進行部署。這項整合將這個承諾推進到最後一哩路。

只需一次點擊,就能將 Hugging Face 上的開放模型直接導入 SageMaker Studio,然後在您自己的 AWS 環境中進行微調或部署,無需任何額外配置,這正是開放模型一直以來所缺乏的體驗。您擁有的開放權重,在您控制的雲端中運行,這正是我們的客戶一直以來所要求的組合。」

隨著一鍵式 Studio 登陸體驗的推出,在支援的 Hugging Face 模型頁面上選擇「Customize on SageMaker AI」或「Deploy on SageMaker AI」,即可直接進入 AWS Console。SageMaker AI 會在幾秒鐘內自動配置一個具有預設權限的新網域,並將模型上下文資訊一併帶入。

本次發布引入了三項新功能,縮短了從 Hugging Face 模型到可運作的 SageMaker Studio 工作流程的路徑。

當您在 Hugging Face 上瀏覽模型時,現在會看到支援模型旁邊出現操作按鈕,這些按鈕直接對應到 SageMaker Studio 的工作流程。選擇「Customize on SageMaker AI」會開啟 Studio 中的模型客製化頁面,並預載選定的模型,準備進行微調。

選擇「Deploy on SageMaker AI」則會開啟 Studio 中的部署頁面,模型已預先配置好用於端點部署。每個入口點都會保留上下文資訊,這表示一旦進入 Studio,您無需再次搜尋模型。

透過此流程建立的新 Studio 環境,其權限已預先配置好,可支援 SageMaker AI 的所有功能,包括模型客製化、訓練任務、筆記本實驗和端點部署。系統會為您建立並附加一個新的託管政策「AmazonSageMakerModelCustomizationCoreAccess」。

此政策提供使用監督式微調 (SFT)、直接偏好最佳化 (DPO)、帶有可驗證獎勵的強化學習 (RLVR) 和來自 AI 回饋的強化學習 (RLAIF) 進行無伺服器模型客製化任務的權限,並支援部署到 SageMaker AI 或 Amazon Bedrock 端點。

這消除了您在開始實驗之前手動建立和配置 AWS Identity and Access Management (IAM) 角色和政策的需求。對於現有的 Studio 環境,系統會提供可操作的訊息,並附上文件連結,引導您新增這些權限。

在選擇用於部署或訓練的實例類型時,Studio UI 現在會在實例選擇列表中直接顯示配額可用性。您可以立即查看在您帳戶當前限制下,哪些 GPU 實例類型(G5、G6)是可用的。您無需單獨導航到 Service Quotas 頁面。如果您仍需要申請提高限制,系統會直接將您重新導向到該實例類型的 Service Quotas 頁面。

接下來,讓我們逐步了解如何從 Hugging Face 開始客製化或部署模型的體驗。

在 Hugging Face 模型頁面上,點擊「Deploy」並選擇「Amazon SageMaker AI」。如果模型受支援,您將看到兩個按鈕:「Deploy on SageMaker AI」和「Customize on SageMaker AI」。然後,針對支援的模型選擇「Customize on SageMaker AI」。

系統會提示您使用現有憑證登入 AWS。如果您已經有活躍的 Console 工作階段,此步驟將自動跳過。欲了解更多資訊,請參閱「登入 AWS Management Console」。

您將直接進入 SageMaker Studio 內部的「Model Customization」頁面,您的模型已預先選定。接下來,配置您的微調參數,例如訓練資料、超參數和實例類型,然後提交客製化任務。或者,選擇「Deploy on SageMaker AI」會開啟 Studio 中的端點部署頁面,模型已預先配置。選擇您的實例類型(包含配額可視性),審查設定,然後進行部署。

部署端點後,您可以直接從 Studio 的端點測試介面測試推論。

您今天就可以體驗這項功能:瀏覽 Hugging Face 上的模型。在支援的模型上尋找「Customize on SageMaker AI」或「Deploy on SageMaker AI」按鈕。選擇並遵循簡化的登入流程。在完全配置好的 SageMaker Studio 環境中開始建構。

一鍵式 Studio 登陸體驗的推出,最大限度地減少了從發現模型到實驗之間的摩擦。透過將 Hugging Face 直接連接到 SageMaker Studio 工作流程,開發者可以保持流暢的工作狀態。無需切換上下文、無需手動環境設定,也無需解決權限問題。

若要開始使用,請造訪 Amazon SageMaker Studio 頁面,或在 Hugging Face 上探索模型並選擇「Deploy on SageMaker AI」或「Customize on SageMaker AI」。