Anthropic 近期因川普政府的出口管制令,被迫將其兩款最新的 AI 模型下架,此舉引發了關於 AI 政策和數位主權的廣泛討論。
在最新一集的 TechCrunch Equity 播客中,Sean O’Kane、Rebecca Bellan 和我討論了究竟是什麼原因促使政府對 Anthropic 採取行動,以及這對更廣泛的 AI 生態系統可能意味著什麼。
Anthropic 近期因川普政府的出口管制令,被迫下架兩款最新 AI 模型,此舉引發了關於 AI 政策和數位主權的廣泛討論。TechCrunch 播客節目探討了政府此舉的動機、對其他 AI 公司的潛在影響,以及這是否可能反而為 Anthropic 帶來意想不到的宣傳效果。專家們對此事件的合法性、動機和長期影響提出了不同的看法。

Anthropic 近期因川普政府的出口管制令,被迫將其兩款最新的 AI 模型下架,此舉引發了關於 AI 政策和數位主權的廣泛討論。
在最新一集的 TechCrunch Equity 播客中,Sean O’Kane、Rebecca Bellan 和我討論了究竟是什麼原因促使政府對 Anthropic 採取行動,以及這對更廣泛的 AI 生態系統可能意味著什麼。
正如 Sean 所說:「Anthropic 與川普政府的關係一直不太好,這與其他領先的 AI 實驗室有所不同。」因此,Anthropic 的其他競爭對手或許不必擔心會面臨類似的打壓。
但 Rebecca 也指出,領先的網路安全專家已「簽署一封公開信,要求川普撤銷該命令,他們認為將這些先進的網路安全能力從美國的網路防禦者手中撤走,實際上是危險的。」
我們也想知道,這一切是否最終會成為 Anthropic 的良好宣傳,特別是正如 Rebecca 所說:「人人都愛壞男孩。」
以下是我們對話的預覽,為求長度和清晰度已進行編輯。
Rebecca Bellan 說:「我相信許多聽眾都知道,美國政府基本上剛強制 Anthropic 下架其兩款最新模型,Fable 5,以及 Mythos 5。其中 Mythos 5 供現有 Mythos 用戶使用,而 Fable 5 則更面向大眾。」
她接著說:「他們在上週五發出了一封信,援引了『國家安全考量』。沒有人知道這些考量具體是什麼,該報告也未公開。他們沒有提供任何細節,只告訴 Anthropic 必須確保這些模型不能被任何外國國民使用。所以 Anthropic 的反應是:『好吧,我想我們只能完全下架這些模型了,因為我們不知道誰是外國國民,我們自己的許多員工也都是外國人。』」
「但實際上,有報導指出白宮之所以得知此事,是因為一些 Amazon 研究人員據稱找到了一種繞過 Fable 5 護欄的方法。Amazon 執行長 Andy Jassy 向白宮提出了這些擔憂,然後事情就這樣一發不可收拾了。」
Sean O’Kane 表示:「這一切進展得非常快,尤其是在一個週五下午到週末期間。而且這恰逢政府表面上正試圖為其在伊朗發動的戰爭談判某種條約。」
Rebecca 補充道:「對我們紐約人來說是週五晚上。他們喜歡轉移注意力。」
Sean 說:「讓我們暫時退一步來看。Anthropic 與川普政府的關係一直不太好,這與其他領先的 AI 實驗室有所不同,我認為至少有一部分原因在此。」
「那麼,你認為這會對其他公司產生影響嗎?你認為川普政府會比較不傾向於對其中一家競爭對手斷供嗎?」
Anthony Ha 指出:「部分背景是,無論是報導還是獨立安全專家的分析都表明,Anthropic 帶來的實際安全風險並非獨一無二。因此,這很大程度上似乎源於川普政府內部某些部門與 Anthropic 之間關係不睦。無論存在什麼風險,這些事情都會被不成比例地放大,因為他們似乎連一次友好的通話都無法進行。」
「如果你是另一家公司,一方面,這可能對你有利,因為你可以說:『嗯,我們只要不惹這些人生氣,就能為所欲為。』但這也不是一個好的監管環境,讓你只能說:『天啊,我希望他們不要生我們的氣。』」
Rebecca 說:「一方面,這絕對感覺像是報復,在政府將 Anthropic 列為供應鏈風險後,他們之間還有一場大型訴訟正在進行,這真的讓人覺得白宮只是在尋找任何藉口來打擊 Anthropic。我之所以這麼認為,不僅因為這是我的初步反應,也因為許多網路安全研究人員的說法。
他們表示這根本不應該觸發出口管制令。他們都簽署了一封公開信,要求川普撤銷該命令,並指出將這些先進的網路安全能力從美國的網路防禦者手中撤走,實際上是危險的。Anthropic 自己也說,同樣的『越獄』方法可能在其他幾個 AI 模型中也能找到。」
「從諷刺的角度來看,這就像是:好吧,你只是暫停 Anthropic,好讓其他公司能趕上 Anthropic 的進度嗎?」
「但同時,我也看到一些反應說:Anthropic 其實是自作自受。他們就像是:『這對任何人來說都太危險了,但我們不是,我們是好人。』他們說話前後矛盾。在 Fable 發布前一週,他們還在說:『嘿,夥計們,我們需要放慢 AI 的發展速度,它正變得非常危險。』但隨後,砰!『這是我們有史以來最瘋狂、超級強大的模型,去吧。』」
Anthony 說:「在某些方面,這感覺像是許多關於 AI 討論的縮影,像 Sam Altman 和 Jensen Huang 這樣的人會說:『嘿,讓我們試著降溫吧。為什麼大家對我們生氣?』嗯,你們過去幾年基本上都在說你們建造了一台『上帝機器』,它將奪走每個人的工作。人們對此感覺不好,這並不令人震驚。」
「Anthropic 特別是談論 Mythos 的方式,他們會說:『這是史上最不可思議的強大模型,它太危險了,不能向公眾發布。』所以在某種程度上,你會說:『好吧,那我們就認真對待這件事。這意味著它將受到令人難以置信的審查。』」
「我確實想知道,Anthropic 似乎對此並不高興。我不想誇大這對他們可能有多大的好處。但我們也報導了一些關於 Ramp 分析的故事,強調 Anthropic 和川普政府之間上次的大衝突,至少在某些方面對公司是有利的。Claude 的下載量飆升。我認為許多以前可能將 ChatGPT 視為聊天機器人、AI 助理的人,突然開始將 Claude 視為可能更負責任、更『反抗』的一個。」
「同樣地,儘管 Anthropic 對此感到非常壓力,這卻可能再次讓他們的模型看起來更加強大。」
Rebecca 說:「確實如此。『我們是如此危險。』人人都愛壞男孩,對吧?每個人都會想:『這是最強大的模型,連川普都這麼說。我當然要弄到手。』」
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 TechCrunch AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。