最近，一位與我一起攀岩的朋友告訴我，他如何利用AI為自己製作了一張勵志海報，並掛在臥室牆上：一隻熊在峽谷上走鋼索，手裡拿著一個牌子寫著「做些酷事」。我發出了一聲我希望是禮貌的聲音。這個人想得到什麼反應？他可能希望有人，也許是我，會說這很酷或很有啟發性。看來我不是第一個聽他說這張海報的人。「你知道，這很有趣」他對我說。「從來沒有人對它發表任何評論。」

我已經思考這個問題好幾天了。這則軼事中包含了許多讓我感到不悅的層層堆疊：嬉皮文化、勵志海報、AI「藝術」。然而，人們對這張海報的總體反應似乎只有禮貌的聲音。

但是，當有人向你展示他們的敷衍之作時，正確的答案是什麼？沒有人真正創作它。即使是糟糕的藝術，例如，由一個人繪製的勵志海報版本，也需要藝術家的努力，並在內容和繪製線條所需的精細動作技能上表達藝術家的思想。它需要一個人的時間和注意力。AI「藝術」只需要在框中輸入提示詞，然後可能微調幾次結果。根本沒有什麼值得回應的。

我之所以提起這件事，是因為馬克祖克柏發表了一份宣言，這份宣言是他，或者他的公關團隊，或者可能是AI，寫的。這篇長達6,500字的論文旨在為AI定義一個正向的未來。對我來說，一項新的、據稱能改變世界並創造價值的技術竟然需要這樣的辯護，這對AI來說是一個不祥之兆，但AI最近確實負面報導不斷。

人們討厭資料中心，以及隨之而來更高的電費。Anthropic執行長Dario Amodei曾表示，這項技術可能導致多個行業出現「異常痛苦」的失業潮。OpenAI執行長Sam Altman的家先是遭到汽油彈襲擊，然後是槍擊。

「令人驚訝的是，許多開發AI的人所發表的言論充滿了厄運」這篇論文寫道。「我不明白為什麼任何相信AI將消除大多數工作和人類大部分相關性的人，會急於建立那樣的未來。」

我難以相信祖克柏沒有Amodei的電話號碼。或者Altman的。我知道他有Elon Musk的，我在法庭上看過他們的簡訊。也許他應該發簡訊問問他們！

無論如何，祖克柏正試圖扮演安撫人心的科技大師，告訴我們一切都會好起來的。他正在處理，儘管為時已晚，許多人對AI感到的憤怒。文章中有關於資料中心的章節（Meta未來正在為一些資料中心建立電源，但不要要求再生能源）和「防止政府暴政」。這篇文章的存在是為了試圖平息對AI的反彈，即使它從未直接這麼說。

我們將暫時擱置「超級智慧」這個問題，這是祖克柏對業界其他公司所稱「通用人工智慧」（AGI）的偏好術語；為了這篇文章的目的，我們假設它確實有可能被創造出來。我也將忽略這篇文章中對那些「變態眼鏡」的可笑辯護；它們是站不住腳的。至於風險，我認為最好在其他地方討論。我感興趣的是祖克柏，或者為他寫作的人，相信什麼會改善我們所有人的生活。

這是他的第一個論點：「每個人都將擁有一個能力超群的個人代理人，它能理解你、你的目標以及你所關心的一切。你的代理人將24小時全年無休地為你工作，以改善你的人際關係、健康、事業、財務、家庭管理、嗜好等等。」在這裡，我對「人際關係」和「嗜好」的納入感到震驚。

什麼能鞏固一段關係？幾乎總是個人投入。也許AI代理人可能比我更擅長預測我父親生日想要什麼，但它本質上無法給予他我的時間和關懷。愛不僅僅是一種感覺；它是一種付出關注的方式。

祖克柏舉了一個例子，以一種嚴峻的方式揭示了真相：他要求AI挑選一個「個人化」食譜，以便和女兒一起烘焙。他本可以考慮女兒喜歡什麼樣的烘焙、她的技能水平以及他可以教她什麼，然後選擇一個食譜。也許他會選到一個糟糕的食譜，他們會搞砸，但那可能是一次有趣的經歷和一個好故事。

或者他會選擇一個家庭食譜，這會讓他有機會告訴她他小時候的故事，或者他的祖母是什麼樣子。當然他是一個忙碌的人，但這難道不會讓他的關注成為她嗜好中更珍貴的禮物嗎？也許他會透過花更多時間思考她喜歡什麼來更好地了解她。如果沒有這種關注，他們一起烘焙似乎更側重於完成任務而非優質的相處時光。

相關地，嗜好的重點在於你親自去做。當然，我的許多嗜好都是體育活動，健行、跑步、瑜伽、攀岩（顯然是和那些製作糟糕AI藝術的人一起）。但AI不能替我讀書，因為閱讀的活動是將文字吸收到我的腦海中；摘要無法像Renata Adler的《快艇》開頭幾行那樣：「那一年沒有人死去。

沒有人興旺。沒有出生也沒有結婚。十七篇虔誠的諷刺作品被寫出來，打破了一個陳詞濫調，並據推測創造了一個流派。」摘要無法召喚出那種氛圍，也無法帶來閱讀文字本身的真正樂趣。AI無法複製我編織圍巾的舒緩品質；是編織本身帶來了舒緩。

祖克柏建議使用AI來協助我完成這些任務將讓我完成更多事情，這可能確實如此。但我一直認為嗜好的重點是放鬆和享受。它肯定不是為了最大化生產力。而祖克柏最大化生產力的願景是以我的體驗為代價的。

祖克柏提出的第二件事是「每個人都將擁有令人驚嘆的創作工具來表達你的想法。」我會說，每個人都已經擁有令人驚嘆的創作工具來表達他們的想法，而人們只需要練習這些工具就能變得更好。例如，學習製作影片的樂趣，首先是製作影片本身，誰沒有在拍攝時和朋友一起玩鬧過？

但它也是在使用工具製作影片方面變得更好，並在自己的導演眼光提高時回顧自己的努力。當然，這很耗時且需要努力，無法在一個晚上完成，但這不正是它帶來回報的原因嗎？

同樣地，祖克柏提出了「每個人都獲得強大工具來創立新事業」這個平淡無奇的觀點。這個人擁有任何人夢寐以求的所有資源，但他的元宇宙仍然失敗了。也許更多的想法可以轉化為事業，但並非每個想法都會是成功的事業，而巨大的競爭量可能會使成功變得更加困難。這還是假設那些強大工具如承諾般運作。

畢竟，就在最近，Meta宣布其AI駭入了另一家公司，此前OpenAI和Anthropic也發生了類似事件。你的個人公司不僅要應對這些駭客，你還可能無意中從事企業間諜活動。這真的是每個創業家都想簽約的嗎？

讓我們繼續討論宣言中提出的下一個荒謬想法：「每個人都將擁有一位擁有所有學科博士學位的個人化導師和教練。」同樣，為了這篇文章的目的，假設這是可能的。我們在2020年已經嘗試過電腦化學習，如果我沒記錯的話，那是一場慘敗。人們不喜歡它。孩子們不喜歡它。

老師們仍在應對其後果。我不想再為亞里斯多德慶祝一次勝利，但似乎擁有一個導師（phronimos）在學習，無論是倫理或其他方面，都非常重要。學習的社會部分，無論是班級中的同儕壓力，還是需要給予你敬佩的人留下深刻印象，似乎是體驗中不可或缺的一部分。

在我看來，祖克柏提出的最強大的觀點是，每個人都可以從科學進步中受益並做出貢獻。現在，我從小兒麻痺疫苗，以及其他科學進步，中受益，至少部分原因是因為Jonas Salk選擇將其免費提供給所有人，沒有從中賺取任何金錢。但姑且不論。我好奇的是，這種意義上的「為科學進步做出貢獻」意味著什麼。

祖克柏含糊其辭地談到個人化療法，這一直是醫學界的目標。再次，假設AI甚至可以做到這一點。然而，我注意到，只有當醫生有足夠的時間真正傾聽患者時，個人化才有可能。這也意味著患者需要有能力支付個人化醫療費用，無論是透過保險還是其他方式。但這篇文章中的這部分足夠模糊，他可能實際上是指AI將允許研究人員從我們所有人身上採集樣本並更快地測試事物，這本身就帶有令人不安的隱私問題，尤其來自馬克祖克柏。

對於他的最後一點，祖克柏概述了目前的現狀：在AI領域人人平等，但有些人（有錢人）比其他人更平等。最好的模型將仍然被付費牆限制，只有富人才能使用。但他想知道，如果每個人都能免費使用會怎樣。你是說就像他們現在這樣嗎，馬克？將現狀永久化到底如何改善我們的生活？

將所有這些與Terence Tao在數學領域對AI用途的更精確願景進行比較。他要求我們想像以下陳述是真實的：「AI工具將在合理的時間內，能夠執行合理比例的研究級數學任務，並達到合理的成功、品質、監督和成本水平。」Tao隨後停下來問了一個關鍵問題：我們的目標是什麼？

我開始相信我們需要更高品質的AI擁護者。這是祖克柏的未來願景沒有提出的問題。對於祖克柏概述的每一種可能性，預期的結果都是某種成就。樂趣、體驗、自我認識或自我表達的可能性，在他的願景中都缺失了。

相比之下，Tao為數學領域概述的可能性之一，如果AI可以隨意解決數學問題，是其目標是幫助人們理解和學習數學。這種成就可能比「解決問題」更模糊，但這只是因為它更深刻。它說明了我們對知識的理解：不僅僅是問題答案的集合，而是理解為什麼這些是答案，一種與世界和我們自己建立更深層連結的方式。這聽起來是不是很像人文學科？

看，我開始相信我們需要更高品質的AI擁護者，因為雖然我理解祖克柏的聲明主要旨在為Meta自身的AI投資搖旗吶喊，但我聽過來自沒有類似經濟利益的人說過類似的話。生活的意義僅僅是堆積成就嗎？如果矽谷是這樣認為的，難怪所有億萬富翁總是看起來那麼不快樂！他們用體驗換取了成就。