Apertus 1.5 版本已發布，將其 8B 和 70B 模型升級，新增圖像與音訊理解、思考模式、四倍長的上下文視窗，並改進指令遵循與工具使用能力。這些模型權重已在 Hugging Face 上以 Apache 2.0 授權釋出，並透過持續預訓練，分別為 8B 模型增加了 4 兆個 token，為 70B 模型增加了 2 兆個 token。Apertus 1.5 秉持完全開放原則，提供開放權重、開放資料、開放價值觀及完整的訓練細節。
我們最新發布的 Apertus 1.5 版本，在 8B 和 70B 的 Apertus 1.0 模型基礎上進行擴展，新增了圖像與音訊理解能力、可選的思考模式、四倍長的上下文視窗，並改進了指令遵循與工具使用。更新後的 8B 和 70B 模型權重已於 2026 年 7 月 24 日在 Hugging Face 上以 Apache 2.0 授權釋出。更多詳細資訊可參閱專案的技術報告，本文也將進行摘要說明。
Apertus 1.5 是對第一代模型的持續預訓練：為 8B 模型增加了 4 兆個 token 的文字和多模態訓練資料，為 70B 模型增加了 2 兆個 token，總計分別達到 19 兆和 17 兆個 token。如同所有 Apertus 版本，這些模型完全開放，包括開放權重、開放資料、開放價值觀和完整的訓練細節。
原生多模態理解： Apertus 1.5 除了文字之外，現在也能接受圖像和音訊輸入，將文件、圖表和照片納入對話中。儘管仍處於實驗階段，這些模型也能處理口語。
思考模式： 模型可以切換到思考模式，在回答之前先對輸入進行推理，這能提高其在推理問題上的表現。
長上下文： 上下文視窗擴展至 262,144 個 token，比 Apertus 1.0 增加了四倍。
改進的指令遵循： 比 Apertus 1.0 更好的指令遵循能力，能提供更可預測且準確的回應。
改進的工具使用： 模型經過訓練，能更好地整合工具，從而更有效地使用外部工具和 API。
開放價值觀： 更強烈地遵循《Apertus 章程》，這為模型的價值觀和原則帶來了透明度。
完整的 Apertus 1.5 訓練流程。
我們在 v1.5 模型中以早期融合（early-fusion）的方式引入多模態，圖像和音訊作為離散的 token 與文字 token 在同一序列中進入 Apertus，而非使用單獨的視覺編碼器。圖像使用 Emu3.5 分詞器進行分詞（一個 512×512 的圖像會變成 1,024 個 token），音訊則使用 WavTokenizer（每秒 40 個 token）。
我們只擴展了詞彙表，因此模型架構保持不變，訓練速度與純文字訓練相同。這些模型能理解圖像和音訊，但只生成文字。
從 Apertus 1.0 開始，我們分四個階段繼續進行預訓練：
總體而言，超過一半的訓練 token 是純文字，這保留了 Apertus 1.0 的語言能力。文字資料透過 FineWeb2-HQ+、FinePDFs 和 Nemotron-CC 等來源進行更新。所有新資料，包括多模態資料，都符合先前的標準：公開可用、許可式授權，並追溯遵守 robots.txt 的選擇退出設定。每個來源都列在 apertus-data-transparency 中。
後訓練分為五個階段：SFT → 長上下文 SFT → RL → DPO → 章程對齊（SDPO）。
除了擴展模型功能外，我們也顯著擴大了評估範圍。除了 Apertus 1.0 使用的現有文字評估外，我們還增加了多模態（圖像和音訊）評估以及思考模式評估。
多模態評估透過 MLLM-eval-suite 管道進行，該管道整合了兩個主要的多模態評估框架 lmms-eval 和 VLMEvalKit。我們還新增了一系列文字基準測試，並擴展了翻譯、多語言能力、安全性和工具使用的基準測試。這些評估結果可在我們基於 lm-evaluation-harness 分支的後訓練評估儲存庫中找到。
儘管仍落後於領先的開放權重模型，但新版本在程式碼編寫和指令遵循能力方面也顯著提升。Apertus 1.5 8B 在指令遵循和多語言任務上超越了同等規模的開放權重模型。思考模式進一步提高了在 AIME 等具挑戰性推理基準測試上的表現。該模型的多模態性能更接近 Gemma 4 12B 和其他當前的開放權重模型。
Apertus 1.5 的多模態性能在開放權重模型的空間理解方面具有競爭力，在開源模型的文件/圖表理解方面也表現出色。
我們也感謝合作夥伴和外部評估人員協助高效地評測 Apertus 的能力。特別是，Apertus 1.5 在瑞士法律任務上表現強勁，與領先的開放權重模型不相上下。此外，在 Last Translation Benchmark 上，Apertus 1.5 8B 的機器翻譯能力與 GPT-OSS-20B 相當，並超越了 Claude Haiku 4.5 或 Google Translate 等模型。
Apertus 與 EvalEval 聯盟合作，以確保基準測試的完全透明和可重現性。我們以 Every Eval Ever (EEE) 模式發布 Apertus 1.5 的結果，這是一種共享格式，不僅記錄分數，還記錄了誰執行了評估、如何存取模型、生成設定以及每個指標應如何解釋。這些細節通常在排行榜上缺失，卻能解釋為何看似相似的分數會有所不同。
結果顯示在下方的評估卡中，它將運行資料與基準測試和模型元資料結合為一個可解釋的記錄，也可透過 Hugging Face Community Evals 取得。這與英國 AI 安全研究所公開發布其評估結果所使用的基礎設施相同。由於我們的文字評估是在 lm-evaluation-harness 的公開分支上運行，而 EEE 透過專用轉換器支援該分支，因此任何人都可以重新運行這些評估，並在相同設定下將其結果與我們的進行比較。
結構化的評估報告不僅在研究領域很重要。EvalEval 已將評估卡與 AI 治理要求進行對應，包括歐盟 AI 法案第 55 條和 GPAI 行為準則，並發現 EEE 模式可以呈現這些框架所要求的 60 個評估報告元素中的 56 個。這與我們發布 Apertus 的方式相符：除了模型之外，我們還發布了《訓練內容公開摘要》，並自願發布了《行為準則》文件。
機器可讀的評估記錄是自然而然的下一步，它使監管機構、部署者和研究人員更容易找到、解釋和比較模型背後的證據。
我們致力於透過評估卡和 EEE 模式推動可重現和透明的評估，並鼓勵其他模型開發者以相同方式報告其結果，以便在不同模型和組織之間比較分數。
所有訓練方法、消融實驗和資料混合都記錄在技術報告中。我們旨在透過公開和可存取 v1.5 的訓練過程來推廣開放模型開發。中間檢查點託管在我們的 Apertus 1.5 Hugging Face 集合中，包括基礎權重、SFT、RLVR 和 DPO，以及我們在 Apertus 1.5 資料集集合中策劃的訓練資料混合/自訂資料集。分享這些資料使研究人員能夠調查每個階段如何改變模型行為。
報告涵蓋了後訓練資料在不同階段影響的眾多消融實驗，我們觀察到在 SFT 期間將多模態資料與文字資料混合有助於改善所有模態的表現。我們還發現，多模態推理軌跡的好處在隨後的純文字強化學習中仍然存在：從經過多模態軌跡訓練的 SFT 檢查點開始，RL 在數學方面的改進比從純文字檢查點開始更大，並且在推理任務上的優勢在整個訓練過程中持續存在。
Apertus 1.5 提供了 8B 和 70B 兩種模型規模，並在不同訓練階段提供多個檢查點。這些檢查點包括預訓練的基礎模型（Apertus-v1.5-8B-base, Apertus-v1.5-70B-base）、監督式微調（SFT）模型（Apertus-v1.5-8B-SFT, Apertus-v1.5-70B-SFT）、強化學習（RLVR）模型（Apertus-v1.5-8B-RLVR, Apertus-v1.5-70B-RLVR），以及偏好對齊（DPO）模型（Apertus-v1.5-8B-DPO, Apertus-v1.5-70B (final)）。
此外，8B 模型還有一個章程對齊（SDPO）的最終版本（Apertus-v1.5-8B (final)）。
每個訓練階段的詳細資料和程式碼/方法都已公開。預訓練階段 1-2（非配對、配對）的資料來源和處理方法可在 apertus-data-transparency 和 multimodal-data 中找到，程式碼則使用 Megatron-LM 及相關分詞器。階段 3（冷卻期）則使用了來自 NASA、Our World in Data 等精選圖像資料集。
長上下文擴展階段使用了 apertus-data-transparency 和 LongContextQA 中的合成任務。SFT 階段使用了 Apertus-v1.5-SFT-mix 多模態混合資料。長上下文 SFT 則使用 SFT 混合資料的子集和 LongContextQA 任務。
強化學習（RLVR）階段使用了報告中列出的混合資料，並透過 verl 和 verl-recipe 進行。DPO 階段使用了 Apertus-v1.5-Preference-Pool 和 Apertus-v1.5-Preference-Data。最後，8B 模型的 SDPO（章程對齊）階段使用了 gretelai/gretel-safety-alignment-en-v1 資料集和自我蒸餾方法。
Proton Lumo 和 Infomaniak Euria 是兩個已整合 Apertus 1.5 的廣泛應用程式。這些部署案例已連結至社群展示頁面，您可透過相關討論串預覽。
Apertus 1.5 的開發者 API 存取已由多家供應商宣布提供，包括 Swisscom、Infomaniak、Phoeniqs 以及我們《通用可用性指南》中列出的其他公司。報告中也提供了我們如何與外部評估人員合作測試和準備模型的詳細資訊。
運行模型的技術說明可在 Hugging Face 上的 Apertus 版本模型卡以及我們的《快速入門指南》中找到。
感謝您閱讀這篇部落格文章並成為我們社群的一份子！我們在 Hugging Face 分析中剛慶祝了五百萬次下載，而且我們並未放慢腳步。在最近於蘇黎世舉行的 AI+X 峰會上，我們的團隊宣布了 Apertus 2.0 的發展藍圖：稀疏/MoE 架構、約 6000 億個總參數、擴展的訓練排程，並將代理、數學和程式碼編寫列為優先事項。
總之，我們邀請您閱讀我們的報告、下載模型、探索中間檢查點、微調權重並重現我們的評估。對於我們出版物或網站常見問題中尚未涵蓋的問題，我們隨時歡迎提問，我們也樂於聽取社群認為未來深入探討哪些主題會最有幫助。
如果您使用 Apertus 進行開發或應用，請填寫展示表單，並透過我們聯絡頁面上的選項與我們聯繫。我們期待能展示更多成果，了解您正在建構什麼，並聽取您的意見。
覺得值得一看？分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 Hugging Face Blog 所有， 建議透過「閱讀原文」前往原始網站，以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新，太多看不完。電子報每週挑最值得看的幾則，附上 Max 的看法。
