跳到主要內容
maxstudioNews
產品Anthropic News約 5 分鐘

Anthropic 擴大 Project Glasswing 規模,以 AI 強化全球軟體安全

Anthropic 宣布擴大其 Project Glasswing 計畫,將合作夥伴從最初的 50 家增加至約 150 家新組織,涵蓋全球超過 15 個國家的關鍵基礎設施供應商及軟體廠商。此計畫利用 Claude Mythos Preview 模型掃描程式碼庫以找出資安漏洞,至今已發現逾萬個高風險或嚴重漏洞。Anthropic 旨在透過 AI 提升所有軟體的安全性,並協助業界適應 AI 對網路安全帶來的變革。

Anthropic 擴大 Project Glasswing 規模,以 AI 強化全球軟體安全
圖片來源:Anthropic News

Project Glasswing 是我們旨在保護全球最重要軟體的合作計畫。今年四月初,我們宣布約 50 個初始合作夥伴已獲得 Claude Mythos Preview 的存取權限,此後他們便利用該模型掃描其程式碼庫以尋找漏洞。我們近期說明了這些合作夥伴迄今已發現超過 10,000 個高風險或嚴重程度的資安漏洞。

我們現正擴大 Project Glasswing 的規模。在與 Project Glasswing 合作夥伴、資安產業、開源軟體維護者以及美國政府密切合作數週後,我們將合作關係擴展至約 150 個新組織。每個組織在獲得存取權限前,都必須符合我們的資安要求。

這批新加入的組織分佈於超過 15 個國家,其中大多數為更多地區提供關鍵基礎設施服務。(未來,我們計畫將地理覆蓋範圍進一步擴大。)此批組織涵蓋了我們初始合作夥伴中未充分代表的多個產業,例如電力、水務、醫療保健、通訊和硬體。許多新合作夥伴是供應商,這些公司或非營利組織維護著全球許多其他組織(包括政府)所依賴的程式碼庫。

每個合作夥伴的共同點是,一旦他們的程式碼庫遭受成功攻擊,後果將不堪設想。對於大多數合作夥伴,我們估計一次重大攻擊可能影響超過 1 億人,對全球和國家安全都將產生重要影響。此次擴展是我們邁向長期目標的下一步:讓 AI 使「所有」軟體更加安全,並協助業界適應 AI 如何改變網路安全的許多核心假設。

## Project Glasswing 的角色Project Glasswing 和 Claude Mythos Preview 的能力,已在軟體產業和政府內部引發了關於 AI 如何改變網路安全的廣泛討論。這些討論為我們如何擴展此計畫提供了參考,也塑造了我們對 Project Glasswing 核心宗旨的思考。

具備強大網路安全能力的平價、快速 AI 模型即將問世。我們希望 Project Glasswing 能促使各機構建立反映此現實的營運規範。Mythos Preview 延續了我們長期以來一直警告的趨勢:我們預計在 6 到 12 個月內,許多其他 AI 公司也將擁有 Mythos 等級的模型,並且可能在沒有防止濫用的防護措施下發布。

在這種情況下,網路攻擊可能更頻繁地發生,形式也更加難以預測。網路防禦者必須適應以跟上腳步。我們認為我們的角色有兩方面。首先,透過安全地提供更好的模型、工具和通用基礎設施的廣泛存取,協助軟體產業適應。其次,逐步將我們提供的支援從發現漏洞轉向揭露、修復和部署已修補的軟體。

我們現在將依序討論這些內容。### 支援網路防禦者迄今為止,公司、非營利組織、維護者和研究人員都迅速採取了行動。在 Project Glasswing 啟動的最初幾週內,每個成員都開始大規模使用 Mythos Preview,與其他合作夥伴分享資訊和最佳實踐,並與第三方合作對模型的發現進行分類。

這些組織適應新工具的方法可以而且應該在數百萬容易遭受網路攻擊的組織和開發者中廣泛複製。為此,我們近期發布了 Claude Security,這是一款利用我們最新的公開前沿模型(例如 Claude Opus 4.8)來掃描程式碼庫並建議修補程式的產品。

我們也應要求向值得信賴的資安團隊發布了我們開發的工具,以協助 Project Glasswing 的合作夥伴更快地發現漏洞。我們計畫走得更遠:我們的長期目標是支援業界為強大網路模型時代建立新的倡議、標準和基礎設施。### 加速修補與其他資安工作如我們先前所討論,網路安全目前的瓶頸在於驗證、揭露和修補 Mythos 等級模型所能發現的大量漏洞。

Mythos Preview 本身就能提供幫助。許多 Project Glasswing 的合作夥伴現在使用該模型來編寫修補程式,並進行發布前檢查以從源頭防止漏洞出現。像 Mythos Preview 這樣的模型還可以用於滲透測試(模擬網路攻擊以識別漏洞可能如何被利用)、自動化威脅偵測與回應,以及使用記憶體安全語言重構舊有程式碼庫等許多其他防禦任務。

我們正在與第三方討論如何大幅擴大開源軟體漏洞的審查和修補工作。我們也致力於分享向開源維護者揭露漏洞的理念和最佳實踐,旨在讓這些報告更容易分類和採取行動。## 前景展望為應對即將到來的巨大挑戰,數十萬個組織、研究人員和維護者可能需要存取最先進的網路安全能力和工具。

我們正盡快努力,以安全的方式向大眾發布 Mythos 等級的能力。為此,我們需要高度穩健的防護措施,以防止模型的網路安全能力被濫用,這些防護措施是我們(據我們所知,所有其他 AI 開發者)尚未開發出來的。由於網路安全既有助益性也有破壞性用途,因此建立既強大又精確的防護措施是一項重大挑戰。

同時,我們計畫進一步擴大 Project Glasswing,優先考慮更多的關鍵基礎設施供應商、重要開源軟體維護者和安全測試人員。我們打算未來的擴展將涵蓋美國國內外組織,就像這次一樣。我們也打算擴大我們的網路驗證計畫(Cyber Verification Program),該計畫將授予更多組織 Mythos 等級的能力,用於特定的網路防禦任務。

未來,前沿模型的發布將變得風險越來越高。各領域的能力將持續提升,包括許多像網路安全一樣,既能賦予攻擊者也能賦予防禦者力量的領域。這不會是我們最後一次面對這樣的挑戰。但 Project Glasswing 教會了我們許多關於模型跨越重要能力門檻時如何應對的知識。如果我們成功,我們希望為防禦者帶來永久的優勢。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 Anthropic News 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。