上週，我前往舊金山以南 30 英里處的加州山景城一家飯店，與一些全球最傑出、最有潛力的 AI 研究人員會面。我主持了圓桌訪談，並在 Schmidt Sciences AI2050 計畫的媒體培訓中發言。這項計畫由 Eric 和 Wendy Schmidt 資助，旨在支持從事 AI 相關工作的學者。
該計畫的學者名單可謂 AI 領域的重量級人物，儘管並非所有人都來到灣區，但我每次轉彎都能看到我曾採訪過或其研究令我欽佩的科學家。（全文披露：本人於 2024 年獲得由 Schmidt Sciences 資助的科學傳播獎項。）
對於大學 AI 研究人員來說，這是一個奇特的時代，他們構成了 AI2050 大部分成員。在過去四年中，AI 研究已重新圍繞大型語言模型展開，其尖端已從學術機構轉移到私人公司。大學根本無法負擔訓練和運行頂尖模型所需的 GPU，即使能負擔，Anthropic 和 OpenAI 也不會讓其他人看到 Claude 或 ChatGPT 的內部細節。
在午餐時的對話中，加州大學柏克萊分校電腦科學教授 Nika Haghtalab 表示，如今擔任 AI 學者，就像身處一個私人公司獨家控制基因編輯工具 CRISPR 的世界。頂尖實驗室之外的專家可以研究 ChatGPT 和 Claude 的行為方式，但他們無法對這些工具的設計和訓練進行任何詳細研究，也無法自行引導這些設計或訓練。
AI2050 計畫確實為學者提供了一些資金，可用於購買 GPU，我採訪的一些研究人員表示這是參與該計畫的一大好處。但資金仍然是一個迫切的擔憂，特別是考量到美國聯邦科學研究經費的縮減。即使對於不自行運行本地模型的研究人員來說，為了嚴謹研究而反覆呼叫 OpenAI、Anthropic 和 Google 模型的成本也可能令人卻步。
許多學者不再專注於推進能力，而是將注意力轉向 Anthropic 或 OpenAI 不太可能解決的問題。「我盡量不研究那些我認為會被科技公司解決的問題」約翰霍普金斯大學電腦科學教授 Anjalie Field 說。公司需要賺錢，獲利前景不佳的研究問題可能不值得投資，特別是如果其答案可能讓公司形象受損。
例如，Field 最近進行了一項研究，發現語言模型對女性比男性更常用語句表達的提示詞，會給出較不精細的回應。很難想像這類研究會出自 Anthropic 或 OpenAI。
還有一大批 AI 學者根本不使用 LLM。他們許多是建立專業 AI 模型來分析數據、做出有用預測，甚至模擬整個物理系統的科學家。這些研究人員不一定與頂尖實驗室競爭，Google DeepMind 的 AlphaFold 團隊（該團隊建立了預測蛋白質結構的諾貝爾獎級模型）已於上個月解散。
但他們面臨著許多自身的挑戰。在會議上，幾位研究人員對非 LLM AI 的普遍無知如何影響他們的工作表示擔憂。例如，建立專業 AI 工具以應對氣候變化的研究人員，有時很難為他們的工作辯護，因為許多人認為「AI」就意味著「耗能的 LLM」。
所有這些挑戰正在改變學術界的格局：幾位知名學者最近已暫離大學職位，加入頂尖實驗室，許多 AI2050 學者同時在學術界和業界任職。在過去六個月中，又出現了另一個威脅。OpenAI 的模型已經解決了數學領域的一些實際研究問題，一些專家擔心人類在純數學領域可能沒有未來。我採訪的一位學者表示，她擔心她的數學家同儕的心理健康。
但並非全是厄運。一方面，實證科學可能比數學更難自動化，因為收集數據本質上是一個緩慢的過程。一些研究人員將 AI 數學家和科學家視為福音而非威脅，包括卡內基美隆大學的電腦科學家 Tim Dettmers，他致力於讓 AI 模型運行更快、成本更低。
Dettmers 說，AI 科學家不會取代人類。相反，他們可以讓人類科學家效率更高，這樣他和他的同儕就有機會追求所有他們可能永遠無法實現的大膽且富有啟發性的想法。
科學家們是富有韌性的一群。正是那些阻止他們訓練頂尖模型的資源限制，也促使他們發現讓模型更小、更有效率的新方法，或探索全新的架構。如果下一個重大的 AI 突破不是來自一家大公司，而是來自一個資源有限的學術實驗室，我不會感到驚訝。
