今天我們發布 DaisyRose-27B,這是 RadixArk 的第一個模型,它基於 Qwen3.8-27B 並使用 Miles 透過強化學習進行訓練。我們在 144 個 H200 GPU 上,僅用 1,200 個精選任務,在 18 天內對其進行了長程代理任務訓練,訓練會話最長達 100 萬個 token。
DaisyRose-27B 將 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升至 12.0%,並在多種其他推理、指令遵循和程式碼基準測試中也取得了進步。
RadixArk 發表了其首個模型 DaisyRose-27B,該模型基於 Qwen3.8-27B 並透過強化學習 Miles 進行訓練。它專為長程代理任務設計,並在 Terminal-Bench 4.1 基準測試中將 pass@1 表現從 5.6% 提升至 12.0%。此模型不僅在多項基準測試中展現優異性能,更大幅降低了訓練成本,實現了後訓練效率的突破。

今天我們發布 DaisyRose-27B,這是 RadixArk 的第一個模型,它基於 Qwen3.8-27B 並使用 Miles 透過強化學習進行訓練。我們在 144 個 H200 GPU 上,僅用 1,200 個精選任務,在 18 天內對其進行了長程代理任務訓練,訓練會話最長達 100 萬個 token。
DaisyRose-27B 將 Terminal-Bench 4.1 的 pass@1 從 5.6% 提升至 12.0%,並在多種其他推理、指令遵循和程式碼基準測試中也取得了進步。
模型檢查點(checkpoints)根據 Apache 2.0 授權提供,支援 BF16、FP8 和 NVFP4 格式。
該模型保留了 Qwen3.8-27B 的架構、分詞器、聊天範本、圖像理解能力以及 256K token 的上下文視窗。較長的訓練會話利用「harness summarization」技術來跨越多個軌跡。有關模型屬性和推論設定,請參閱模型卡片。
執行 DaisyRose-27B
我們建議使用 SGLang 和 DSpark 推測解碼(speculative decoding)來部署 DaisyRose-27B。SGLang 的操作手冊提供了針對不同 GPU 和檢查點格式的啟動配置。
在埠號 30000 啟動伺服器並以 DaisyRose-27B 作為服務模型名稱後,您可以使用 OpenAI Python 用戶端發送請求:
```python
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:30000/v1",
api_key="none",
)
response = client.chat.completions.create(
model="DaisyRose-27B",
messages=[
{
"role": "user",
"content": "How many positive divisors does 360 have?",
}
],
temperature=1.0,
top_p=0.95,
extra_body={"top_k": 20, "min_p": 0.0},
)
print(response.choices[0].message.reasoning_content)
print(response.choices[0].message.content)
```
該模型預設會在回答前進行思考。其推理過程會回傳至 reasoning_content 欄位,最終答案則在 content 欄位。這些設定遵循模型卡片的快速入門指南。
基準測試結果
| 基準測試 | Qwen3.8-27B | DaisyRose-27B |
|-------------------|-------------|---------------|
| Terminal Bench 4.1 | 5.6 | 12.0 |
| Terminal Bench 2.1 | 73.0 | 75.5 |
| DeepSWE v1.1 | 42.2 | 46.2 |
| SWE Bench Pro v2 | 91.3 | 94.7 |
| HLE (僅限文字) | 33.9 | 34.3 |
| IFBench | 79.5 | 82.4 |
| GPQA Diamond | 89.2 | 90.7 |
DaisyRose-27B 在上述所有基準測試中的得分都高於原始的 Qwen3.8-27B 模型。最大的提升來自 Terminal Bench 4.1,其 pass@1 從 5.6% 上升到 12.0%。
每個基準測試的得分均採用 BF16 和 FP8 運行中較高者;兩者在同時評估時差異不到一個點。模型卡片中包含了比較來源和評估設定。
此次發布的實現歸功於訓練設置的三個關鍵部分:精心設計的任務、高效的訓練後端以及可靠的沙盒服務。
高品質訓練資料
我們與 Eigent AI 合作建立這些任務,從其龐大的機器學習、軟體工程、科學及其他領域的任務庫中篩選。我們共同建立了數千個候選任務,最終約有 1,200 個任務被納入最終的訓練集。
我們根據三個標準選擇任務:
每個任務都針對原始模型會犯的錯誤。我們讓 Qwen3.8-27B 執行每個任務,並圍繞我們希望模型停止犯的錯誤重新設計。然後調整難度,直到解決率落在有用的學習範圍內。
每個任務都需要幾個相互依存的步驟。代理必須在一個長期的工作中進行推理、規劃和執行。每次嘗試在沙盒中最多可獲得 1.5 小時,包含超過 100 次工具呼叫和超過 256K 的輸出 token。
任務必須獎勵實際解決問題。我們審查了每個任務以及模型的嘗試。那些可以在未解決預期問題的情況下通過,或包含設計缺陷的任務,都被修正或移除。
高效訓練後端
RadixArk 使用 Miles 訓練 DaisyRose-27B,Miles 是我們用於大規模模型後訓練的開源強化學習框架,採用完全非同步模式:代理持續工作,而模型則持續學習,兩者互不等待。當 128 個 H200 GPU 執行代理任務的推論時,另外 16 個 GPU 則運行訓練器並從軌跡中學習。
每一步之後,更新後的模型會傳送給執行代理的 128 個 GPU。學習過程在我們內部為代理訓練而建構的後端上運行:每一步都從少數非常長的會話中學習,有些會話長達 100 萬個 token,透過「harness summarization」折疊成多個軌跡。
訓練成本降低 57%。在此次發布中,我們後端每個 GPU 的峰值計算能力有 37% 用於有效的訓練工作(模型浮點運算利用率,MFU)。基於 Megatron 的開源訓練器在類似運行中僅達到 16%。因此,相同的訓練所需 GPU 時間減少了 57%。
對於專家混合模型(mixture-of-experts models),效益甚至更大:在 Qwen3.6-35B-A3B 上達到 6.2 倍,在約 3000 億參數的 GLM-5.3-Flash 上則超過 10 倍。
端到端速度提升 2 倍。計算代理在其任務上花費的時間,此次發布的運行在 144 個 GPU 上每秒訓練約 16,800 個 token。開源訓練器在相同 GPU 上約為 8,300 個。
數週穩定運行。此次發布的運行在 144 個 H200 GPU 上訓練了數週,總計 63,000 個 GPU 小時。從第一步到最後一步,其速度和效率都保持穩定。
DaisyRose-27B 在 144 個 H200 GPU 上每次訓練步驟的總訓練時間圖。虛線:開源訓練器在可比較運行中的表現。
穩健的沙盒服務
每次訓練嘗試都在沙盒中運行:這是任務環境的一個全新副本,代理在此執行命令、編輯檔案,然後被評分。我們的服務基於開源的 AgentENV 專案,我們也為其貢獻了修正。從九月中旬到十一月中旬,它為這個專案運行了約 944,000 個沙盒,最多同時運行 1,566 個。
該服務從一台機器擴展到最多 12 台。我們對其進行了十次升級,幾乎都是在訓練運行期間完成的。在所有九週中,99% 的沙盒創建成功;自十月下旬以來,這一數字已超過 99.95%。
該專案沙盒的雲端基礎設施成本比使用主流雲端沙盒供應商運行相同沙盒低約 80%。我們降低成本的一個方法是讓每個沙盒的記憶體分配隨實際使用量增長和縮小,從而讓更多沙盒共享每台機器。
試用模型或訓練您自己的模型
下載 DaisyRose-27B,遵循 SGLang 部署指南,或使用 Miles 訓練您自己的代理。
我們很樂意聽取 DaisyRose-27B 在您的任務上的表現,包括其不足之處。請在模型的社群(Community)分頁中分享您的設定和結果。
我們感謝 Eigent AI 在訓練資料方面與我們密切合作,以及 Qwen 團隊創建了 Qwen3.8-27B。我們也感謝 Miles 和 SGLang 社群,以及其他開源專案,包括 slime、AgentENV 和 Harbor。本文改編自 RadixArk 的原始文章。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 Hugging Face Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。