AlphaFold為何未能完全解開蛋白質摺疊之謎？DeepMind與Biohub專家探討AI生物學的未來

從AI擴展的「苦澀教訓」到蛋白質摺疊的未解之謎，Google DeepMind的Pushmeet Kohli與Biohub的Sal Candido正在重新思考，如何打造真正理解生物學的AI。在這個由Brandon Anderson主持的特別座談中，他們探討了為何AlphaFold的突破僅是開端，為何單純擴展運算和數據無法解決生物學問題，以及下一代AI模型如何能徹底改變我們對蛋白質、細胞和人類疾病的理解。

我們深入探討了AI驅動生物學的未來：如何在生物數據中找到擴展法則，科學直覺與通用架構之間的權衡，為何蛋白質結構預測遠未解決，以及建立生命系統預測模型所需的條件。Pushmeet反思了AlphaFold背後的經驗教訓、人類可解釋性的局限，以及未來的尖端模型是否能比人類更理解其他AI系統。

Sal則解釋了為何蛋白質語言模型可能已蘊含我們尚未解鎖的科學知識，生物建模必須超越單一蛋白質，以及Biohub實現治癒所有疾病的使命，需要思考「十倍突破」而非漸進式改進。

Brandon Anderson：很高興來到這裡，這是一個令人振奮的早晨，有許多精彩的發表。我認為生物科學的未來正在這裡揭曉。這是模型建構的環節，我們都是模型設計者，所以很自然地會談到數據。

關於數據，我喜歡思考如何正確地擴展它。這讓我想到了「苦澀教訓」，但這次是從數據的角度重新審視。對於非AI領域的人來說，「苦澀教訓」是指那些能夠擴展的方法最終會獲勝，只要你能充分擴展，它就會成功。所以，我的問題從Sal開始：數據是否存在「苦澀教訓」？

Sal Candido：當然。顯然，你需要正確的數據才能讓它發揮作用。對於擴展法則的一個誤解是，它們無處不在且永遠存在。實際上，很多工作都在於找到那個擴展法則。我們很多時候都在努力弄清楚：在什麼情況下，如果你投入更多運算資源、更多數據，就能得到更好的結果？

那是一個很好的情況，因為一旦發生，你就可以開始「轉動曲柄」，它就變成了一個工程問題，這是我喜歡的。這與架構有關，但也與數據息息相關。如果你沒有包含正確資訊和統計數據的資料來解決你想要的問題，你就不會得到一個具備你所需能力和理解的模型。你只能從現有數據中提取資訊，並利用這些資訊進行泛化。

Brandon Anderson：談到數據收集，你認為哪種模態最好？一個相關的問題是：模型設計者是否傾向於處理那些數據可用的問題，而不是最能實現其目標或對轉譯醫學影響最大的問題？

Sal Candido：確實如此。我不能代表所有模型設計者發言，但我比較懶惰，所以我會使用現有的數據。這有好的一面也有壞的一面。

好的一面是，當你進行傳統機器學習時，你通常會尋找最原始、高品質的數據範例。但如果你像我一樣，你可能會在儲藏室裡翻找，看看人們丟棄的「垃圾」中有什麼。一個具體例子是使用後設基因組序列訓練蛋白質語言模型，這些數據並非最高品質。事實上，我可以保證，其中許多數據甚至不是一個真實、完整的蛋白質。然而，它卻能提升模型在設計有效真實蛋白質和理解已知蛋白質方面的性能。

這是積極的一面。但它也可能導致一個負面結果，讓你說：「我們就擴展那些容易生成的數據吧。」我不認為這一定是正確的做法。這也是今天我們與BBI討論的內容中，讓我感到興奮的一點。它在於走出去問：「我們需要什麼數據來解決這個問題？」

這不僅關乎正確的資源，也關乎正確的社群。Biohub努力做到的一件事是開放工作，與社群合作，並推動整個社群向前發展。這至關重要，因為如果你只有模型建構者，我們就會傾向於使用現有數據。如果你只有數據生成者，他們就會傾向於生成容易產生的東西。但如果社群能夠以開放的方式，在每一步都共同合作，你就能找出真正需要的數據，然後找到那個擴展法則。

Brandon Anderson：Pushmeet，你對數據的「苦澀教訓」有何看法？

Pushmeet Kohli：Rich在DeepMind時，我也在那裡，並思考著「苦澀教訓」這個概念。我從Rich在DeepMind的原始演講中領會到的，並非數據是否有用或我們該如何看待機器學習的具體概念。我的理解是，他談論的是更為概念性的東西。

有時候，當我們面對問題時，會以一種非常「教條式」的方式思考解決方案：「我是一個模型設計者」，或者「我是一個數據生成者」。我認為這就是「苦澀教訓」。如果你帶著這種心態處理問題，你可能不會成功。問題應該優先，你應該在解決方案空間中保持彈性。你應該兩者都嘗試，並理解你試圖解決的問題。如果它需要模型建構的努力，那就投入模型建構；如果它需要收集更多數據，那就去收集數據。

當時機器學習領域的情況是，人們會說：「我們是機器學習研究人員。數據集已經在那裡了。這裡有一些訓練數據，這裡有一些測試數據，我們就只優化模型。」這種做法是有缺陷的，因為如果你的最終目標是解決問題，你就必須同時考慮過程中涉及的兩個方面。

而這個過程不僅僅是數據或模型建構。它還包括專業知識。以AlphaFold為例，我們審視了現有數據集能實現什麼，因為我們當時沒有核心專業知識，甚至沒有資源說：「讓我們將PDB數據庫擴增好幾個數量級。」全球組織和科學家投入建構這些數據的努力是無價的。因此，在這種情況下，你必須透過投入模型建構來獲得最大的效益。

但在其他領域，例如細胞基因組學，我們採取了相同的方法，並問：「利用細胞基因數據能做些什麼？」經過大量工作後，很明顯地，數據尚未到位，無法實現建立「虛擬細胞」的宏偉目標。這促使人們齊心協力，專注於推進科學的實際挑戰，而不是盲目追隨數據生成或模型建構的進展。

Brandon Anderson：我非常喜歡這個答案。那麼，可執行的重點是什麼？永遠先定義問題，然後再找出要探索的解決方案空間。但更廣泛地說，當我們邁向下一代轉譯醫學時，社群應該如何思考這個問題？

Pushmeet Kohli：我給予任何剛進入這個領域的人的建議是，將自己視為一個多學科的人。首先要理解問題，你為什麼要研究它？你想要達成什麼？然後再思考需要什麼，無論是模型建構、運算擴展還是數據生成。理解問題極為重要，當然你也需要建立自己的專業知識。

同時也存在限制。也許你只能生成一定量的數據，或者只能負擔訓練特定大小的模型。理解這些限制，嘗試快速失敗，並找出哪些方法在長期內是可行的，以達到你所期望的影響水平。

Brandon Anderson：這直接引導到我的下一個問題。當我觀察模型建構的演變時，AlphaFold 2本質上是一件藝術品，擁有許多精心設計的功能。解決方案的每個部分都經過非常刻意的思考。Google或Alphabet的一些工作仍然停留在這個領域，但普遍共識似乎正轉向更具擴展性、更通用的策略。

對於某些問題，我們是否仍需要精巧的手工解決方案？或者，資源是否更應該優先投入擴展性？在資源和資金有限的情況下，你可以投資於運算、人才或數據。我們應該如何思考這種權衡？

Pushmeet Kohli：讓我們從第一性原理來探討。建構一個更好模型的藝術和技巧並非偶然。我們進行了大量的實驗，但背後有一個願景。來自生物物理學和生物化學的科學直覺告訴我們，胺基酸殘基並非獨立運作，它們會受到其他殘基的影響。所以，我們將這些知識融入模型中。如果你從科學社群中學到了什麼，就利用這些資訊，賦予模型這種「不公平的優勢」。這使得模型在數據效率上更高。