Mira Murati 的 Thinking Machines Lab 剛發布了他們首個開源權重模型 Inkling。Inkling 是一個「專家混合(Mixture-of-Experts)變壓器模型,總參數達 975B,其中 41B 為活躍參數」,並採用 Apache-2.0 授權。這是一個多模態模型,已在 45 兆個文字、圖像、音訊和視訊 token 上進行訓練。
他們也預告將推出 Inkling-Small,一個擁有 276B 總參數(12B 活躍參數)的模型。不過,該模型仍在測試中,權重將在「工作完成後」發布。
該模型的模型卡比我預期中美國 AI 實驗室發布的要簡短許多。它連結到的訓練資料文件甚至更短,幾乎沒有任何值得關注的內容,大致可歸納為以下兩段話:
Thinking Machines Lab 用於開發其 AI 服務的資料集,包含公共領域內容以及可能受智慧財產權保護的內容。Thinking Machines Lab 的服務是使用從開放網路和公開資料庫獲取的公開內容開發的。某些資料集也來自第三方。
Thinking Machines 自己也承認,Inkling 並非前沿模型。相反地,它旨在作為一個強大的基礎模型,可透過他們自家的 Tinker 訓練平台進行微調。
Inkling 並非當今最強大的模型,無論是開源還是閉源。然而,其多模態能力、高效運算以及在 Tinker 平台上可供微調的特性,使其成為一個優秀的開源權重客製化基礎模型。
這次發布有許多值得稱讚之處。它採用 Apache-2.0 授權,並且看起來與中國推出的開源權重模型具有競爭力。很高興看到美國開源權重生態系又多了一個有實力的競爭者,加入 NVIDIA Nemotron 和 Gemma 4 的行列。
以下是 Inkling 嘗試生成一隻騎自行車的鵜鶘 SVG 圖像的成果,我是透過 Thinking Machines API 使用 curl 指令生成的。完整回應在此連結。
由於 Inkling 是一個多模態模型,我將其生成的圖像(渲染成 JPEG 後)傳給它,並要求它詳細描述。這是完整的描述回應。它認為自己畫的是一隻「鸛或海鷗」:
這是一幅歡快、扁平向量風格的卡通插圖,描繪了一隻白鳥騎著自行車穿越綠色風景。
鳥: 主要角色是一隻風格化的白鳥,類似鸛或海鷗,身體圓胖。它有一個長而突出的橘色鳥喙,微張,露出黑色的嘴巴線條。眼睛小而黑,帶有微小的白色高光。鳥有黑色的翅膀和尾羽,邊緣為白色,細長的橘色腿末端是黑色的腳,踩在自行車的橘色踏板上。
自行車: 自行車有一個簡單的黑色車架,配有兩個大輪子,輪胎為黑色,內緣為灰色,黑色輻條呈交叉圖案排列。把手是黑色的,橘色踏板連接到黑色曲柄。鳥的身體後方可見一個白色座椅。
場景: 場景設定在晴朗的淺藍色天空下。有兩朵蓬鬆的白雲,一朵在左側,另一朵較小的在鳥頭右側附近。右上角閃耀著一個明亮、實心的黃色太陽。底部是起伏的綠色山丘,頂部邊緣平滑彎曲,自行車就停在上面。整體風格活潑、簡潔、色彩豐富,線條清晰,充滿明亮陽光的氛圍。



