Anthropic 昨天啟動了首次公開募股(IPO)的路演,其路演影片揭露了一些關於公司營運方式的未公開資訊。
共同創辦人 Tom Brown 介紹「運算方法」的環節特別引人注目,他說明了 Anthropic 如何在 AWS Trainium、Google TPUs、NVIDIA GPUs 和 AMD GPUs 等多種晶片平台上訓練和提供 Claude 服務。
Anthropic 在 IPO 路演影片中揭露了其獨特的多晶片策略,涵蓋 AWS Trainium、Google TPUs、NVIDIA GPUs 和 AMD GPUs 等平台。他們還強調了「運算倍增器」的概念,透過提高效率來擴展總有效運算能力,並預期未來 Claude 能自主發現這些倍增器,加速遞歸式自我改進。

Anthropic 昨天啟動了首次公開募股(IPO)的路演,其路演影片揭露了一些關於公司營運方式的未公開資訊。
共同創辦人 Tom Brown 介紹「運算方法」的環節特別引人注目,他說明了 Anthropic 如何在 AWS Trainium、Google TPUs、NVIDIA GPUs 和 AMD GPUs 等多種晶片平台上訓練和提供 Claude 服務。
雖然沒有官方影片逐字稿,但我使用 MacWhisper 提取了一份,重點如下:
我們現在在所有四個主要的晶片系列上訓練並提供 Claude 服務,這之所以能實現,是因為我們早期就大膽押注了多晶片策略。當時許多人認為,在不同晶片上運行 AI 模型不值得投入精力。
因為每個晶片都需要量身定制的軟體堆疊和推論堆疊,這既昂貴又難以建構。但我們已經這樣做了多年,並且在這方面變得非常擅長。
舉例來說,今年我們首次開始與 AMD GPUs 合作。過去,導入一個新的晶片平台需要數十名工程師花費數月的時間。
這次我們讓 Mythos 嘗試,它在短短三天內就讓 Claude 在 AMD 上運行,幾乎沒有人工干預。Claude 移植或編寫了將近 100% 的核心程式碼。
我們運算優勢的第二個驅動力,是我們發現「運算倍增器」(compute multipliers)的速度。我們專注於總有效運算能力,這是實體容量乘以我們發現的運算倍增器的乘積。
每發現一個倍增器,都會讓我們的總有效運算能力池變得更大。例如,假設你需要 100 個運算單位來訓練一個特定智慧的模型,一個 4 倍的運算倍增器意味著你可以用 25 個運算單位訓練出完全相同的模型。
或者,你可以利用這 100 個實體單位來訓練一個更智慧的模型,而這個模型以前可能需要 400 個單位。
運算倍增器為我們創造了難以複製的競爭優勢,它們彼此疊加。我們發現的每一個新倍增器,都會對之前的倍增器產生正向影響。
我們相信,隨著我們接近遞歸式自我改進(recursive self-improvement),這種加速會更加顯著。Claude 將能夠完全自主地發現運算倍增器,讓運算倍增器的數量以更快的速度增長。
去年九月,Anthropic 在其針對近期三個問題的事後分析報告中,曾暗示了他們的多晶片策略,當時他們描述了僅影響其 TPU 部署的錯誤。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 Simon Willison 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。