Anthropic 再次因溝通問題與川普政府產生摩擦,導致其模型下線。這凸顯了在治理全球最具影響力的技術時,與政府有效溝通的重要性。
政府官員聲稱 Anthropic 未能遵守近期的一項網路行政命令,且對此問題處理不夠嚴肅,最終導致其最強大的產品從網路上移除。一位官員表示:「大家都說 Anthropic 是個麻煩製造者。我們有些人曾想給他們機會,現在這些人都在質疑。他們搞砸了我們。」
Anthropic 的 AI 模型 Mythos 和 Fable 因與川普政府的溝通不暢及對模型安全性的擔憂而被迫下線。政府官員指控 Anthropic 未能遵守網路行政命令,且對模型可能被「越獄」的風險處理不當,導致其產品遭到嚴格出口管制。儘管短期危機已解除,但長期問題仍存,Anthropic 將與政府部門進行後續會議以解決合規性問題。
Anthropic 再次因溝通問題與川普政府產生摩擦,導致其模型下線。這凸顯了在治理全球最具影響力的技術時,與政府有效溝通的重要性。
政府官員聲稱 Anthropic 未能遵守近期的一項網路行政命令,且對此問題處理不夠嚴肅,最終導致其最強大的產品從網路上移除。一位官員表示:「大家都說 Anthropic 是個麻煩製造者。我們有些人曾想給他們機會,現在這些人都在質疑。他們搞砸了我們。」
事情的起因是 Amazon 執行長 Andy Jassy 向財政部長 Scott Bessent 表達擔憂,認為 Anthropic 最強大的模型 Mythos 和 Fable 可能會被「越獄」。政府官員指出,Anthropic 明知模型存在越獄風險卻仍選擇發布,稱其「在每個岔路都選擇了錯誤的方向」。
Anthropic 則聲稱其部署 Fable 已獲得政府明確批准。然而,週五晚間政府實施了嚴格的出口管制,最終導致 Anthropic 決定將這些模型完全下線。
內部消息人士透露,Anthropic 在與政府溝通方面表現不佳,未能理解雙方的意識形態差異。一位知情人士表示:「他們就像在說不同的語言」,並補充說該公司尚未找到與本屆政府有效溝通的方式。
白宮表示,政府數週前就曾威脅對 Anthropic 實施出口管制,當時發現其尖端模型 Mythos 被提供給一個與中國共產黨有直接關係的外國實體。然而,一位接近 Anthropic 的消息人士指出,該公司一直與政府密切合作擴大 Mythos 的存取權限,並且在此次涉及一家全球電信公司的事件中,Anthropic 在沒有出口管制威脅的情況下就撤銷了 Mythos 的存取權。
熟悉政府想法的消息人士稱,Amazon 的報告引發了新的擔憂,但 Anthropic 最初的立場是「不,我們不會做任何事,這不是一個真正的問題」。不過,接近 Anthropic 的消息人士則表示,該公司並未拒絕解決問題。
甚至在此次事件之前,Anthropic 與五角大廈之間的一場爭執也部分歸因於談判雙方的不合。一位白宮官員向 Axios 表示,五角大廈的爭執與此完全無關,但 Anthropic 溝通不暢的問題以類似且無益的方式再次出現。
這位白宮官員說:「我們從不希望這種情況發生。我們的首要任務是創新,但我們被束縛了手腳。」此外,Anthropic 隨後發布了一篇部落格文章駁斥 Amazon 的報告,並聘請了一位被政府視為「激進民主黨人」的網路安全專家,而這位專家又受到剛被川普解僱的 Chris Krebs 的讚揚,這些都讓局勢火上加油。
總體來看,Anthropic 一直是領先 AI 實驗室中對安全問題最為關注的,呼籲實施嚴格監管,並以其模型的網路能力嚇壞了川普政府和公眾。在與五角大廈的爭執後,白宮曾主導與這家陷入困境的公司修復關係。
消息人士稱,技術發展迅速,政府難以跟上。再加上個性差異,導致政府倉促地採取了「鈍器」而非「手術刀」般的精準措施。
接下來,一位政府官員表示:「眼前的危機已經避免,但長期來看我們仍有問題。」官員們告訴 Axios,商務部將於週一與 Anthropic 的資深技術人員 Logan Graham、Dave Orr 和 Nicholas Carlini 會面。
此外,還安排了與中央情報局(CIA)和白宮科學顧問 Michael Kratsios 的會議,以確保 Anthropic 遵守該網路行政命令。
歸根結底,一個選項是確保 Anthropic 的模型無法被越獄,儘管完美的越獄抵抗可能是不可能的。一位熟悉政府想法的消息人士表示,如果無法做到這一點,可能就只能從態度上做出調整,讓「每個人都感到安全、有保障和快樂」,而不是感覺被輕視。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 Axios 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。