這幾個月來，AI 炒作熱潮不斷。四月底，Anthropic 聲稱其模型 Claude Mythos 在發現軟體漏洞方面的能力超越大多數資安專家。隨後發生了 OpenAI 與 Hugging Face 的駭客事件，之後 Anthropic（驕傲地）和 Meta（不情願地）也披露了涉及其模型的類似事件。
接著，Anthropic 宣稱其某個模型取得了數學突破；不久後，OpenAI 也聲稱自己取得了數學突破。最近，Anthropic 工程師 Jacob Coxon 宣布離職的消息在網路上瘋傳，他聲稱 Anthropic 和 OpenAI 正在「競相開發自我改進的超級智慧，並拿我們的生命冒險」。
媒體對這些事件大多進行了誇張的報導，經常重複這些公司擬人化的說法，這些說法旨在將他們的軟體描繪成不僅強大，而且是「通用人工智慧」的萌芽。那麼，究竟發生了什麼？我們正在見證一場大規模、改變文明的技術突破，還是這只是行銷手段？
在所有這些事件中，公司的大肆宣傳（在非法駭客事件中則以「認錯」姿態呈現）都伴隨著媒體的密集報導。然而，一旦相關領域的專家有時間審視實際情況，一個截然不同的故事便會浮現，但這個故事卻很少獲得媒體關注。
至於「駭客」事件，網路安全專家表示，這更多是關於 OpenAI 的疏忽以及未能採納基本、既定的安全實踐，而非「模型失控」或「AI 代理人創造文明」。
至於數學成果，數學家們最初對 OpenAI 的新聞稿感到「震驚」，該新聞稿聲稱其最新聊天機器人 Astra 解決了「至少十年來主要成果未有進展」的問題。然而，他們後來意識到這些成果並不如「最初看起來那麼新穎」。此後，數學家們指控該公司存在研究不當行為和抄襲，並重申 Astra 並未實現「深刻的智力飛躍」。
僅僅幾週後，OpenAI 又聲稱自己取得了數學突破。在此兩天前，紐約大學庫朗研究所的數學教授 Tristan Buckmaster 發表了一份爆炸性聲明，暗示 OpenAI 竊取了他人的工作並錯誤地歸屬。
關於萌芽中、危險的超級智慧的說法，並非基於良好的科學或工程實踐。相反地，這些敘事是建立在超人類主義、優生學以及對未來數位人類的幻想之上。
值得思考的是，為何電腦程式設計和數學會成為大型語言模型及相關技術應用的熱門領域。這些領域不僅常被視為人類智力成就的巔峰，而且其問題的答案一旦提出，便可被驗證。前一個特性有助於 AI 炒作者推銷他們正在建造「萬能機器」的理念。
後一個特性則讓數學和編碼問題更容易進行系統微調，因為系統輸出（可能是單詞序列或程式碼片段）可以在無需支付資料工作者審查和註釋的情況下進行評估。
數學家們特別警告企業不要以這種方式利用他們的領域。一份由數百名數學家簽署的聲明指出，「科技產業目前有強烈的商業動機來誇大其產品的能力」，並要求政策制定者「在制定政策決策時，應諮詢包括數學家在內的專家，而非僅依賴新聞稿或大眾對數學成果的報導」。
我們也呼應這項呼籲，並指出科技公司所散佈的速度感和緊迫感，也是誤導政策制定者和公眾的策略。不幸的是，這種策略有時會奏效，例如參議員 Bernie Sanders 善意但最終被誤導的立法提案，旨在阻止「人工超級智慧」的發展。將這些產品描述為「超級智慧」或「失控模型」，是將主體性歸因於產品而非建造它們的公司。這種框架將這些公司的產品包裝成「超人類」，同時也幫助公司逃避對其行為的責任。
與其讓 OpenAI 因製造惡意軟體駭入其他公司而受到起訴，新聞稿、新聞媒體、媒體名人及立法者卻將其歸咎於「失控模型」，彷彿它們是自主行動的。與其質疑研究人員的公司習慣性抄襲學術成果或未經同意使用客戶資料來訓練模型，公眾的想像力卻被轉移到對虛構超級智慧機器到來後未來可能發生的恐懼。
AI 產業甚至暗示，廣受歡迎、跨黨派的反資料中心行動主義，是「分散注意力」的行為，阻礙了對這些公司正在建造的、即將到來的、可怕的「超人類」機器進行監管。根據 AI 產業的說法，我們應該更擔心虛構的機器神，而不是這些資料中心加劇的氣候災難、居住在資料中心附近的人們所罹患的氣喘、公眾補貼導致電費上漲，或是用於冷卻資料中心而被轉移的水資源。
我們深知不應基於行銷手段做出決策，也不應屈服於企業壓力而倉促行事。政策制定者和社群的明智決策，需要時間聽取獨立專家的意見，並將企業的主張置於適當的背景下審視。這波炒作熱潮最理想的結果是，政策制定者和廣大公眾學會冷靜下來，保持懷疑態度，並在下次遇到類似炒作時，能認清其本質。
