週一，馬克祖克柏發表了一篇長達 6,500 字關於個人 AI 的宣言，主要闡述 Meta AI 正在建構的「個人超級智慧」系統的各種可能性。這些想法並非全新。這篇文章的早期版本幾個月前曾在《華爾街日報》刊登，他之前也在 Meta 的財報會議上提過。然而，這可能是他分享過最詳細的版本。

這篇文章被描述為一篇「反末日論」的宣言，但這並不完全準確。它更像是馬克祖克柏個人對 AI 將如何改變社會感到興奮的描述。然而，即使祖克柏試圖描繪一個超級智慧普及後的美好未來，他卻不斷提醒我們 AI 可能出錯的各種方式。

我個人也覺得 AI 令人興奮，這就是我持續撰寫相關文章的原因，但許多大眾卻認為 AI 令人毛骨悚然且不愉快。因此，有必要釐清這裡究竟發生了什麼，以及祖克柏的這類文章為何對這個產業毫無助益。

社群媒體在科技業仍是一個敏感話題，我們在此沒有空間一一討論人們對 Facebook 的所有抱怨。簡而言之，Facebook 作為產品和祖克柏作為個人，在美國大眾中都不受歡迎。最近一項調查發現，64% 的美國人認為社群媒體對民主有害，類似比例的人認為它應該受到更嚴格的監管，這些數字在黨派之間分佈均勻。就在這個週末，一家法院因其對兒童有害而對該公司處以 5.67 億美元的罰款。整體氛圍很差。

我提出這些並非暗示祖克柏應該羞愧地隱退，但社群媒體的後果，正是我們現在對 AI 社會影響如此焦慮的核心原因之一。無論是否公平，大眾並不信任科技高管能確保這類新技術對社會產生正面影響。這篇文章非但沒有承認這一點並試圖贏回他們的信任，反而一再展示了信任最初是如何失去的。

這篇文章很大一部分致力於關於智慧的模糊概括，這與祖克柏和多爾西過去對言論自由的模糊概括非常相似。例如，其中一段寫道：

隨著每個人獲得更強大的工具，每個人塑造未來的能力將會增強，而非減弱……具有競爭利益的個人和機構自然會相互制衡，從而導向積極的結果。建立積極 AI 未來的最佳且最現實途徑，就是將超級智慧普及給每個人。

我猜是吧？我能想到一些利益衝突導致不良結果的例子，但我們先不提這個。更奇怪的是，這被呈現為一個真誠的哲學結論，而不是 Meta 即將推向市場的具體產品「個人智慧」。如果你已經傾向於不信任這個人，你可能會擔心他們寫這些是為了說服自己不會發生任何壞事。

當祖克柏談到具體例子時，我的這種感覺更加強烈，其中許多例子與 AI 工具的實際使用情況嚴重脫節。例如，這是祖克柏對 AI 在教育領域的看法：

每個人都將擁有一個在所有學科都具備博士學位、且有無比耐心的個人家教和教練，幫助你學習任何你想學的東西。學生將在他們需要額外幫助的領域獲得支援，而這目前只有那些父母付得起錢的人才能享有。成年人將擁有一個超級智慧的學習助理，它確切知道如何教你新的工作技能、新的語言、新的嗜好，或任何你感興趣的事物。

當然，祖克柏描述的產品已經存在：這就是像 ChatGPT、Claude 和 Gemini 這樣的消費級聊天機器人。如果你想了解某個主題，這些工具確實很有幫助，但它們在教育中的主要用途是避免學習，因為你的個人家教可以幫你寫作業和指定論文，而且由於沒有健全的浮水印系統，老師無法確定哪些論文是由 AI 生成的。

這是一個相對輕微的 AI 危害案例，但它確實正在發生。有時你設計一項技術是為了做好事，但它卻產生了意想不到的後果，讓事情變得更糟。而世界上最有權勢的人之一拒絕承認這一點，這讓大眾感到不安是可以理解的！

祖克柏還舉了一個 AI 將如何改善法律系統的例子：

想像一下，如果只有一個人擁有一位超級智慧律師。他們在法庭上將擁有不公平的優勢，即使他們在實質上是錯的。這將導致一個更糟糕的社會。但現在想像每個人都擁有一位超級智慧律師。在這種情況下，司法將比今天更公平、更有效率地執行，因為目前訴訟中經常存在技能和資源的不平衡。

同樣，這又是另一個充滿爭議的例子。當然，獲得 AI 法律工具可能會導致一個更公正的社會，但也可能為已經存在的官僚地獄增加更多複雜性。或者它可能會引發一波新的惡意訴訟，用法律上的垃圾郵件堵塞整個系統。對於這些事情很難感到平靜，而祖克柏不擔心這一點，反而讓我更加擔心。

在其他地方，即使是描述 Meta 現有商業慣例的內容，也開始呈現出奇特的抽象性質。例如，祖克柏是這樣描述 Meta 對免費增值模式的承諾的：

每個人都將能免費或以負擔得起的價格使用這些工具……我們將提供免費版本，讓數十億人都能使用。對於那些想付費使用更多運算資源的人，將會有一個動態拍賣機制，保證每個人都能以最低的價格獲得他們所使用的智慧和運算資源，同時也確保這些容量用於人們普遍認為最有價值的用途。這將確保超級智慧的益處廣泛分佈。

總體而言，我同意他這裡說的一切。祖克柏說得沒錯，存取權限是一個問題，他也說得沒錯，免費增值模式比要求每個人預先支付運算費用能提供更廣泛的存取。現貨運算（spot compute）的動態市場已經存在，所以他描述的並非完全脫離常規。但每個消費級 AI 產品都將終端用戶與他們所使用的運算資源的現貨價格隔離開來，這是有原因的。

浮動價格（surge pricing）會帶來糟糕的用戶體驗，尤其當它應用於你實際依賴的工作工具時。

再說一次，我必須假設祖克柏知道這一點，而且他實際上不打算透過動態拍賣來設定 token 價格。但現在，我讀完這篇文章後，反而比之前更不確定了。

其實有更好的方式來談論這些事情。儘管 Sam Altman 和 Dario Amodei 有他們的缺點，但他們在與大眾直接溝通時做得相當好。他們做的正是祖克柏在這裡所抗拒的：承認 AI 的危險性，強調他們自己的預防措施，並試圖說服聽眾他們是值得信任的。

這種溝通能起到的作用有限。有時（尤其是最近），安全措施會失效，整個事業固有的危險性就會顯現出來。但如果沒有某種形式的信任建立，這個產業可能無法總是度過這些失敗。