在過去混亂的幾個月裡,OpenAI 展現出兩項驚人的一致性:在數學領域取得令人印象深刻的突破,然後在宣布這些突破時卻搞得一團糟。OpenAI 現在正努力做得更好,但不知為何,這次又搞砸了。

OpenAI 最新嘗試修復與數學界關係的舉動,是諮詢一個由頂尖數學家組成的新獨立顧問團。然而,與 The Verge 談話的數學家們,包括該團體的一名成員,都將這件事描述為一場混亂且令人困惑的事件,帶有 OpenAI 過去倉促進入數學領域的許多特徵,這表明該公司從錯誤中學到的教訓很少。

此外,該團體接到的第一個艱鉅任務是:協助協調發布 OpenAI 聲稱其未公開模型已產生的數十項成果,這項前景已在研究人員中引起恐懼,擔心這股即將來臨的突破浪潮可能對他們的領域造成什麼影響。

9 月 21 日,一群傑出的數學家在加州大學洛杉磯分校數學教授 Terence Tao(一位菲爾茲獎得主,也是 AI 公司在數學領域行為的直言不諱的批評者)的部落格上發表客座文章,宣布成立數學與人工智慧諮詢小組(AGMAI)。該小組將是一個由九名在各自領域頂尖的數學家組成的獨立機構。

文章指出,該小組將獨立於 OpenAI 運作,並向其及其他前沿 AI 實驗室提供「新興成果的審查和溝通」建議。OpenAI 在自己的聲明中也一再強調該小組的獨立性,表示成員可以公開挑戰公司、發布他們的建議,並提供公司未曾要求的指導。它也強調了該小組影響力的限制,指出它「將不負責就我們如何推進內部數學進展提供建議」。

然而,許多數學家,以及該社群之外的大多數人,都是透過 OpenAI 更高調的發布才得知這個小組。結果是,對於 AGMAI 是否真正獨立,或者它是否像 The Verge 在宣布後幾天採訪的幾位數學家所假設的那樣,是某種由 OpenAI 任命的機構,產生了廣泛的困惑。

這種印象並非完全不合理,因為 AGMAI 的網站稱,它是在 OpenAI 接觸其部分未來成員,討論成立一個諮詢委員會後才形成的,之後他們決定獨立運作並邀請其他人加入。目前尚不清楚 OpenAI 最初接觸了哪九名成員。

Martin Hairer 是一位 AGMAI 成員,也是倫敦帝國學院和瑞士洛桑聯邦理工學院(EPFL)的數學教授。他在一次視訊通話中向 The Verge 強調了該小組獨立於 OpenAI。他承認 OpenAI 接觸一些數學家是其成立的最初動力,但他表示該小組沒有從公司獲得任何財務、技術或其他支持,並且其成員都沒有簽署限制他們言行的協議,除了為了讓他們提前接觸研究而需要的標準保密要求。

對 Hairer 來說,這顯然是一段忙碌的時期,他將前幾天描述為「非常令人沮喪」和「緊張」的經歷。他說:「我們不為 OpenAI 工作,不受他們支付,而且是完全獨立的。」Hairer 表示,該小組也同樣樂意與其他前沿 AI 實驗室合作,並且已經開始與一些實驗室進行對話,儘管他拒絕透露是哪些實驗室。

儘管如此,Hairer 對 OpenAI 宣布這項關係的方式感到惱火。在隨後的騷動中發表的一篇部落格文章中,Hairer 承認,認為 AI 公司不會試圖利用該小組的參與來為自己謀利是天真的。鑑於該小組的出現部分是為了應對 OpenAI 過去處理數學突破的糟糕方式,這種風險是首要的。

OpenAI 解決著名的千禧年大獎問題的方案迅速演變成關於功勞、搶先發布以及其對待數學家方式的爭論,因此數學界自然會產生懷疑。

Hairer 承認,OpenAI 的聲明對這個新成立的小組建立獨立性幾乎沒有幫助。AGMAI 需要贏得數學家的信任,才能幫助他們應對與 AI 公司日益緊張的關係。Hairer 說:「他們宣布的方式並沒有真正起到幫助作用。」他指出,如果「你仔細閱讀,他們所說的沒有任何問題」,並表示該公司在措辭上「很小心」。他笑著說:「他們顯然是非常好的公關人員。」

整個努力,聲明、小組的成立、它與數學界的溝通,感覺像是匆忙拼湊起來的。上週三被問及 AGMAI 的計畫時,Hairer 笑著說:「所以我們,你知道,兩天前才開始。所以我們沒有一個宏大的總體計畫。」

這種緊迫性可能歸因於 OpenAI 掌握著一批顯然渴望盡快發布的成果。自解決納維-斯托克斯千禧年大獎問題以來,OpenAI 聲稱其未公開的內部「模型已解決了數學大多數領域中 100 多個長期存在的開放問題」。

為了避免另一次公關災難,OpenAI 不惜麻煩地試圖組建一支由世界上一些頂尖數學家組成的團隊來諮詢。但它在承諾負責任地處理這些成果的同時,卻大肆宣揚其準備發布的成果數量,這只會凸顯 OpenAI 在數學領域是多麼的局外人。

康乃狄克大學數學教授 Álvaro Lozano-Robledo 說:「這不是任何學者會有的行為。我不會到處說,『哦,我已經證明了所有這些東西,但我不知道該怎麼辦。』」

他認為 OpenAI 的其他聲明也有類似的脫節,例如 OpenAI 的 Laurance Fauconnet 告訴 The Verge 公司在另一個千禧年大獎問題上「取得了實質性進展」。Lozano-Robledo 說:「沒有數學家會出去說這種話。你要嘛已經解決了,要嘛還在努力。」

Lozano-Robledo 表示,他希望與 AGMAI 的接觸是 OpenAI 認真解決數學家擔憂的嘗試,但他強調,這樣做意味著它應該成為研究社群中負責任的一員。這需要的不是簡單地將成果拋向世界然後繼續前進,許多數學家認為它在最近的發現中就是這樣做的。

The Verge 採訪的研究人員抱怨手稿寫得差勁,對圍繞發現的文獻參與度不足,所有這些都使得理解成果的重要性變得困難,並使關鍵工作未能獲得適當的認可。有時,該公司在發布後悄悄修改文件以彌補不足,但沒有宣布更改或留下清晰的修改記錄。The Verge 在該公司 8 月初宣布「數學和理論電腦科學的十項進展」時注意到了這一點,Hairer 也曾單獨描述過公司「偷偷摸摸地」修改手稿以回應批評的情況。

Hairer 說:「這也會讓人產生偏執,對吧?」他將其描述為「粗製濫造」和「非常糟糕和馬虎的學術」。

正如其他地方的 AI 劣質品一樣,製造它的人很少是為處理它付出代價的人。Lozano-Robledo 將 AI 生成的數學解法描述為社群的「負擔」,他認為 AI 公司根本不理解這一點。他說:「負擔是他們正在產生一個解決方案。」但解決方案往往不如隨之而來的理解重要。在人類數學中,兩者傳統上是並行的,而 AI 似乎正在改變這一點。

AI 公司可能正在產生令人印象深刻的成果,但他們仍然需要人類數學家來弄清楚一個成果的實際重要性。Lozano-Robledo 說:「他們需要我們的專業知識。他們需要我們來慶祝這個解決方案。」

對於 The Verge 採訪的其他數學家來說,這種負擔更為個人化。數週以來,OpenAI 一直在暗示另一個千禧年大獎問題,並表示它有 100 多項針對顯著問題的成果準備發布,但對這些成果的實際內容卻鮮有透露。在過去的公告(尤其是納維-斯托克斯問題)引發動盪之後,這種不確定性造成了一種緊張的氛圍。

許多研究人員擔心,他們投入數年甚至數十年專業生涯的問題或工作領域可能成為下一個被砍掉的目標,被一家他們懷疑是為了 IPO 而進行公關噱頭的公司突然解決。

Lozano-Robledo 說:「他們只是在助長人們對他們可能已經證明了什麼的偏執。」他指責該公司「助長狂熱」,並增加了許多數學家的恐懼,擔心他們的工作領域可能很快就會被顛覆。「比如,當他們說『我們幾乎解決了另一個千禧年問題』時,他們在談論什麼其他千禧年問題?這句話在數學上毫無意義。」這位研究人員強調,這種誇大其詞根本不是數學通常的行事方式。

對於蘇格蘭聖安德魯斯大學的數學教授 Colva Roney-Dougal 來說,圍繞 OpenAI 的不確定性已經對她思考工作的方式產生了深遠的影響。她說:「知道『大量』成果可能很快就會宣布,這讓人有些痛苦。成果越多,我的持續工作或我學生的工作突然變得無關緊要的可能性就越大。」

快速的發展步伐讓 Roney-Dougal 處於一種特殊的學術十字路口:「因此,我不清楚我應該盡可能多地趕著發表論文,還是被動地等待這些成果是什麼,或者像往常一樣繼續下去。」

Hairer 非常清楚這種焦慮。他說,對研究人員潛在的干擾是他將自己的名字加入菲爾茲獎得主名單的原因之一,他們試圖解決他們所描述的 AI 公司與數學界「嚴重不一致」的目標。他也意識到 OpenAI 可能會利用他和其他著名 AGMAI 成員的參與來為自己謀利,尤其是在大眾面前。

他說,讓他們去吧。Hairer 說:「他們不會在數學界損害我。從某種意義上說,我真的不在乎他們說什麼。但我真正擔心的是整個數學界。」