十年前，萊恩·卡里爾（Ryan Carrier）曾是一名失敗的對沖基金經理，當時他目睹了人工智慧系統開始失控。Facebook的演算法動搖了美國大選，微軟的聊天機器人聲稱大屠殺是「捏造的」，而Tesla的自動輔助駕駛系統奪走了第一位駕駛的生命。

卡里爾表示：「當時沒有任何治理、監督或問責機制。」對他而言，等待著他孩子們的AI未來一片黯淡。

那一年，卡里爾創立了ForHumanity，這是一個開發AI系統審計工具的非營利組織。然而，自2016年以來，該組織僅籌集到數十萬美元，在業界仍是個小角色。

但這種情況可能很快就會改變，因為ForHumanity現在是全球眾多非營利組織之一，它們正努力控制AI、讓動物脫離牢籠、消除貧困與疾病、傳播民主，並渴望從這波數十年來預期最大的慈善浪潮中分一杯羹。

兩家市值可能接近兆美元的AI公司，ChatGPT開發商OpenAI和Claude的創造者Anthropic，預計將很快上市，這將使數百名現任和前任員工成為超級富豪。

其中一些人認同「有效利他主義」的理念，該理念鼓勵盡早進行有影響力的捐贈。

Anthropic的七位創辦人已承諾捐出80%的財富，該公司也同意，根據員工加入時間和特定上限，每位員工承諾捐贈的股份，公司將額外捐贈一到三股。

一位科技業內部人士的粗略估計顯示，Anthropic可能在九月進行的首次公開募股（IPO），單單每年就可能帶來150億美元的額外慈善捐款。

這足以每年將美國的總捐款額提高約2.5%，相當於增加了四位比爾·蓋茲（全球最大的捐助者之一）。Anthropic拒絕評論其員工已預留的捐款總額以及可能受益的組織。

然而，所有這些資金都遠非板上釘釘。首次公開募股可能會延遲或表現不佳，導致員工緊抓著自己的財富不放。

業界觀察家也擔心，過多的慈善選項和人性的善變，可能會促使員工比預期保留更多的財富。

但爭奪潛在捐助者注意力的競爭已經非常激烈。顧問傑克·李華斯（Jack Lewars）去年曾為13位超級富有的科技和金融工作者提供慈善捐贈建議，他說他聽聞AI實驗室的員工每週會收到多達20封來自尋求捐款團體的未經請求的電子郵件。

WIRED採訪了18個非營利組織，並接觸了數十個更多組織，詢問他們如何為潛在的慈善資金湧入做準備。沒有一個組織承認發送過「陌生開發」的郵件，李華斯在他的新部落格《The Funding Anthropalypse》中寫道，這種策略「幾乎沒有成功的機會」。

相反地，這些組織表示他們正在加強招聘、培訓、行銷和自動化應用，以期吸引巨額資金並迅速投入使用。一個教育非營利組織的職位發布甚至明確指出，與Anthropic建立關係是優先事項。

資助團體Foresight Institute的共同創辦人克莉絲汀·彼得森（Christine Peterson）表示：「每個人都會去爭奪這些資金。」該組織聲稱已獲得Anthropic員工的資助。「這將是一場瘋狂的旅程。」

與許多接受WIRED採訪的非營利組織領導者一樣，ForHumanity的卡里爾表示，他更專注於工作本身而非募款。但他意識到這可能是一個轉變的時刻，他已開始思考如何進入舊金山的IPO派對。卡里爾說：「我必須進入那個房間。」

非營利組織AI4ALL的執行長李寶英（Bo Young Lee）表示，她正在參加更多活動，發表更多研究，並請董事會成員，如AI科學家兼企業家李飛飛，將她介紹給AI實驗室的員工。

她的組織在全美培訓年輕人如何開發自己的AI模型，目標是使科技勞動力多元化。李寶英說她正在設定「雄心勃勃」的募款目標，因為她相信資金會到來，儘管介紹會議尚未實現。

巴克·施萊格里斯（Buck Shlegeris）是Redwood Research的執行長，這是一個位於加州柏克萊的非營利組織，屬於日益壯大的小型組織群體，致力於廣義上的AI安全。從他的角度來看，針對個人捐助者並非最佳策略。

Redwood已從Coefficient Giving和Survival and Flourishing Fund等資助團體獲得數百萬美元，這些團體匯集了個人捐款並認同有效利他主義運動。施萊格里斯相信，新資金將流向這些中介機構，然後繼續涓滴流向Redwood及其他組織。

他說，他希望加速培訓員工成為經理，預期巨額資金將使團隊能夠擴大並承擔「極其昂貴的專案」，例如自動化安全研究和訓練Redwood自己的模型。

該非營利組織的總體目標是將AI可能導致人類滅絕的風險降到最低，施萊格里斯表示他擔心這種情況有「非常大的機會」發生。

AI安全研究的一個子集集中於防止該技術被用於製造生物武器。風險投資家傑夫·羅爾斯頓（Geoff Ralston）最近協助撰寫了一份行動計畫，呼籲在未來五年內籌集25億美元以解決AI生物安全問題。

他計劃向那些將從IPO windfall中受益的人士募捐。羅爾斯頓說：「前沿實驗室的人比任何人都更了解AI所帶來的威脅向量。」

幾家在有效利他主義圈子中具有影響力的資助機構正在為這波捐贈潮做準備，協助較新的非營利組織提升其行政和會計能力。

目標是確保更多組織準備好運用預期的捐款湧入。Animal Charity Evaluators的執行董事史汀·范德普洛格（Stien van der Ploeg）表示：「我們正在船隻抵達之前建造港口。」該組織在過去一年中協助引導了約1500萬美元給致力於減少他們認為最惡劣的農場虐待行為的非營利組織。

同樣地，Coefficient也正在推動支持新興組織。本月，其最大的捐助者，Facebook共同創辦人達斯汀·莫斯科維茨（Dustin Moskovitz）和他的妻子卡莉·圖納（Cari Tuna），承諾向全球健康專案捐贈10億美元。

根據Coefficient的說法，這是一次「一次性激增」，幾乎是最初計劃的六倍，但其目的是創造「可擴展的機會」，能夠「有效吸收未來更高額的捐贈」。

GiveDirectly是另一個在有效利他主義者中受歡迎的組織，它表示已秘密從捐助者那裡籌集了一輪資金，以支持其為捐贈潮做準備。

這個非營利組織向貧困或危機中的人們提供無條件現金，正利用這筆資金聘請更多工程師來自動化其財務和人力資源系統。它還在建立合作夥伴關係，以便在自然災害期間更快地部署資金，並已開始制定一項「全球AI財富紅利」計畫，以資助極度貧困的人們。

GiveDirectly執行長尼克·阿拉迪斯（Nick Allardice）表示，「儘管IPO存在不確定性」，但這是一個「值得非常認真對待」的時刻。

一些組織擔心他們會被拋在後面，因為他們與舊金山的AI社群脫節，或者他們的工作涉及兒童安全或政治假訊息等議題，這些可能與潛在捐助者的預設優先事項不符。

一個普遍的擔憂是，巨額資金可能導致某些事業資金充裕，而其他緊迫問題卻鮮少獲得資助。

例如，解決AI對人類構成的生存風險的團體，這是有效利他主義者的優先事項，被廣泛預測將獲得遠超那些試圖透過打擊大規模監控或網路危害來改善人權的團體的支持。

這種可能性讓瑪琳娜·維斯尼亞克（Marlena Wisniak）夜不能寐。她負責歐洲非營利法律中心（ECNL）的數位策略，該中心致力於AI政策和研究，她一直試圖提高那些可能被忽視的組織的知名度，尤其是在全球南方地區。

本月，她取得了一項勝利，一位在Anthropic工作的朋友向一個符合該描述的團體捐贈了10萬美元。維斯尼亞克現在正試圖說服OpenAI和Anthropic的聯繫人，與他們的同事分享她的人權和社會正義組織名單。

她還鼓勵這些非營利組織使用「變革理論」（theory of change）和「有證據支持」（evidence-backed）等術語來描述他們的工作，這些術語可能更能引起有效利他主義者的共鳴。

一些組織刻意選擇不參與這波熱潮。今年稍早，Model Evaluation and Threat Research（評估OpenAI和Anthropic模型的組織）決定不向這些公司的員工募款，因為這可能會危及該非營利組織的獨立性。

據一位熟悉這些非營利組織想法但不願透露姓名的人士表示，其他團體擔心接受與有效利他主義相關的資金，這可能會嚇跑合作夥伴或其他捐助者，因為該運動曾被批評為排外且誤導。

（一位為幾個與有效利他主義相關但未獲授權發言的組織提供溝通諮詢的顧問表示，該運動「持續在資金、人才和影響力方面成長，主要資助者越來越願意與有效利他主義相關團體合作，這反映出這些所謂的聲譽擔憂被誇大了。」）

一些非營利產業的資深人士正在敦促普遍謹慎。他們不希望各團體為了迎合新資金的模式而扭曲其專案，從而忽視其核心工作。

募款人也清楚，這些財富是建立AI工具的副產品，而這些工具在某些情況下正在加劇非營利組織正在解決的問題。AI4ALL的李寶英說：「今天的風險是，這些IPO帶來的工業化財富，事後看來可能不會服務於人類福祉。」「我們必須避免為了迎合富人的優先順序而追求唾手可得的誘惑。」

預期資金激增的一個影響已經浮現：隨著慈善資金集中在少數人才庫有限的領域，薪資正在上漲。

本月，AI安全非營利組織Resolution宣布獲得Coefficient的1.6億美元贈款，這是該捐助者有史以來最大的一筆同類獎勵。該組織在一篇部落格文章中表示，這筆資金加上AI IPO後「巨額慈善資本的湧入」，將使Resolution能夠支付「遠高於非營利組織和學術規範」的薪資。