Google DeepMind 推出 EmbeddingGemma 2：輕量級多模態嵌入模型，支援裝置端應用

我們去年推出了 EmbeddingGemma，為高品質文字嵌入提供輕量級選項，協助您的應用程式直接在消費性硬體上組織、搜尋和連接資訊。開發者社群的反應遠超我們的預期，累積超過 2000 萬次下載，開發者們利用它來驅動更智慧的裝置端搜尋工具和隱私優先的檢索增強生成（RAG）管線。

今天，我們發布了 EmbeddingGemma 2，將功能從文字擴展到統一程式碼、圖片、影片和音訊，並將它們整合到共享的嵌入空間中。EmbeddingGemma 2 基於 Gemma 4 架構，並以商業友善的 Apache 2.0 授權發布，擁有 7.4 億個參數，非常適合裝置端推論。

它能協助您從語音備忘錄中找到特定的影片片段，或根據文字查詢搜尋數小時的錄音，所有這些都由單一、原生多模態的模型處理。

EmbeddingGemma 2 採用與 Gemini 嵌入模型相同的技術，具備多項優勢。以其尺寸而言，它在 MTEB Code 和 MAEB 等基準測試中，於十億參數以下的多模態嵌入模型中取得領先分數，同時在文字、視覺和音訊任務上與許多更大的模型表現相當或更優異。其模組化設計讓它僅需 2.7 億參數即可處理純文字工作負載，並可選配視覺（1.7 億）和音訊（3 億）編碼器以實現完整的多模態支援。

透過 Matryoshka Representation Learning（MRL），開發者可以將輸出向量從 768 維動態截斷至 512、256 或 128 維，這為本地向量資料庫和記憶體使用節省了高達 6 倍的儲存空間。它針對裝置端效能進行了優化，可在嚴格的資源限制下高效運行。

經過量化後，在 Google Pixel 11 Pro 上，EmbeddingGemma 2 的純文字權重僅需約 191MB 的活躍記憶體，而完整多模態模型則需約 567MB。

此外，它支援擴展上下文，具備 8K 詞元（token）的上下文視窗（比 EmbeddingGemma 1 大 4 倍），可以直接在本地硬體上處理長達 5.5 分鐘的音訊、29 張圖片、58 幀影片或這些內容的交錯組合。

EmbeddingGemma 2 在程式碼、視覺和音訊方面實現了頂級品質，它不僅保持了 EmbeddingGemma 強大的多語言文字效能，還在程式碼效能方面顯著提升了 9.92 分（MTEB Code 中從 68.76 提升至 78.68）。

這使得它非常適合本地程式碼庫索引、語義程式碼搜尋和程式碼代理檢索。在圖片、影片、文件和音訊方面，它為十億參數以下的模型樹立了新的品質與參數比標準，甚至超越了一些尺寸兩倍以上的專業模型。

EmbeddingGemma 2 將強大的功能直接帶到邊緣硬體。在本地生成嵌入有助於確保資料隱私、減少管線延遲，並使開發者能夠構建完全離線運行的跨模態搜尋和檢索系統。當與 Gemma 4 等生成模型搭配使用時，EmbeddingGemma 2 能夠實現理解複雜多模態資料的裝置端 RAG 管線。

由於 EmbeddingGemma 2 基於 Gemma 4 並共享其文字詞元分析器和音訊編碼器，開發者可以在統一的管線中同時運行這兩個模型，並擁有更低的總記憶體佔用。

EmbeddingGemma 2 已與多個合作夥伴緊密合作，確保其能立即在您使用的開發環境中運作。您可以在 Hugging Face 和 Kaggle 上找到模型權重，Gemini Enterprise Agent Platform Model Garden 也將很快提供。

如需針對裝置端優化的模型，請造訪 Hugging Face 上的 LiteRT 社群。在裝置端部署方面，您可以使用 Google AI Edge MediaPipe 開發跨平台應用程式，用於一站式嵌入、檢索和決策任務，或使用 LiteRT 進行客製化模型整合。若要在瀏覽器中構建，可使用 transformers.js 或 WebGPU。

您可以使用常用的開發工具高效地部署模型，包括 transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama 和 LMStudio。您也可以使用 Qdrant 儲存嵌入向量。

若要針對您的特定用例對 EmbeddingGemma 2 進行微調，請參考 Unsloth 提供的指南。此外，我們也提供了開發者指南、文件以及推論和微調的相關指南。