從半導體到超導體：Periodic Labs 運用 AI 打造「合成超智慧」加速科學發現

Periodic Labs 去年九月才成立，卻已迅速成為頂尖的 AI 科學家實驗室之一，擁有驚人的頂尖人才密度，並在自主實驗室的建置上取得顯著進展。共同創辦人 Liam Fedus 和 Ekin Dogus Cubuk 及其團隊，曾參與開發 ChatGPT、DeepMind 的 GNoME、OpenAI 的 Operator（現為 Agent）和神經注意力機制等重要 AI 系統。

許多人對 Liam 和 Dogus 的資歷已相當熟悉，但我們在深入了解 Periodic 時，發現了令人難以置信的「人才坡度」，每位新進員工似乎都比前一位更令人印象深刻。一位員工開玩笑說，在 Periodic 的前幾個月，每週的訓練中期會議上，與會者包括「訓練出第一個兆級參數大型語言模型的人」和「發明注意力機制的人」，讓他很快就在這種人才密度中學到很多。

Periodic Labs 認為，AI 的下一個前沿不會僅來自於訓練更多網路數據，而是讓模型在真實世界中進行實驗。他們正在打造能對嘈雜物理實驗進行推理的 AI 系統，並建立每個儀器都能變得智慧的實驗室。在本集節目中，Periodic Labs 的 Liam Fedus 和 Ekin Dogus Cubuk 加入 swyx 和 Brandon，解釋為何科學發現與數學及編程本質上不同，以及打造能實際發現新材料的 AI 科學家需要什麼。

他們深入探討 Periodic 的「合成超智慧」願景，包括基於物理實驗的強化學習、AI 驅動的材料特性分析、模擬與密度泛函理論，以及高通量實驗室。他們的系統從整個科學研究的過程中學習，而不僅僅是已發表的結果。Liam 和 Dogus 也解釋了為何前沿模型仍需要實驗，為何失敗的實驗可能是最有價值的訓練數據，以及如何讓每件實驗室設備擁有「140 的智商」，以及自主實驗如何將數十年的科學試錯過程壓縮到數月。

Swyx 引用 Periodic 網站上的一句話：「智慧是必要條件，但非充分條件。當想法被發現與現實一致時，新知識便會產生。」他問為何這句話看似直接卻不那麼顯而易見。Liam Fedus 解釋，這是 Periodic 的核心理念，認為你無法僅憑思考找到解決方案，因為宇宙過於複雜。

要真正推動知識前沿並取得進展，你需要提出猜想，然後實際驗證其是否成立。無論是重讀教科書、論文、思考，或獨自沉思，都無法讓你預想所有可能的實驗結果，包括預期與非預期的。他們堅信這種迭代過程是必要的，因此從一開始就決定需要結合 AI 系統、物理世界的模擬，以及建立實體的高通量實驗室。他們認為，從這種結合中會產生一種不同類型的智慧。

Ekin Dogus Cubuk 補充說，像他們這樣結合固態化學家、固態物理學家、實驗科學家、理論科學家、硬體工程師、大型語言模型專家和電腦科學家的團隊，可說是前所未有。他們認為擁有一個專注的實驗室非常重要，能將這些不同領域的人才聚集在一起共同努力。他提到歷史上最接近的例子是貝爾實驗室，那裡傑出的理論家、實驗家和化學家共同合作，取得了不可思議的成就。Periodic Labs 正試圖複製這種模式。

Liam Fedus 解釋，他們強化學習的環境直接來自於實體實驗室，數據也源於這些實驗室，這就是他們的最終真理。這與僅針對論文或教科書中已知答案進行最佳化不同，因為他們正在超越這些已知範疇。此外，他們必須處理不確定性下的決策問題。例如，在材料發現的循環中，東西不會從爐子裡出來就自動貼上標籤，甚至標籤過程本身也可能具有隨機性和雜訊。

不同機器之間可能存在差異，或遙測數據不足，例如他們以為在某個溫度下運行，但實際溫度卻有偏差。能夠處理這些嘈雜數據並像科學家一樣做出智慧決策的智慧系統，需要一套不同的推理策略。儘管與標準的訓練中期、強化學習、工具使用代理的建構等有許多共通點，但他們必須超越這些，思考如何在高度不確定性下進行精確工作，以及如何高效利用有限的數據集。

即使他們正在大幅擴大規模，這仍與數位環境截然不同，數位環境可以任意增加更多環境或運行次數，而他們沒有這種能力。因此，樣本效率是另一個關鍵要素。Brandon 認為這聽起來有些抽象，並請 Ekin Dogus Cubuk 解釋實驗不確定性。Ekin Dogus Cubuk 說，這有很多層面，其中之一是每個科學實驗都必須進行降維，這與編程或數學非常不同。

在數學或編程中，所有上下文都可供人類或大型語言模型使用，例如一堆公理、推論、函數和 API 呼叫。你需要推理的一切都已存在，你只需足夠聰明地找出答案。然而，在物理學中，你從比電腦能儲存的原子數量多得多的原子開始。因此，你必須從代表系統的原始維度和位元數，縮減到電腦能處理的位元數。

這也是熱力學最初的前提。科學家最初對蒸汽機的運作方式感到困惑，但後來發現可以找到五六個熱力學變量，很好地解釋了正在發生的事情，這就是物理學的奧妙之處。Brandon 說：「你有一房間的原子，數量高達 10²³ 或 10²⁷。」Ekin Dogus Cubuk 回答：「沒錯。」

Brandon 接著說：「或者說，這個房間裡有這麼多原子，但你只需要溫度、壓力和簡單的變數，而這…」