現在，利用 AI 尋找並利用電腦系統中的漏洞變得更加容易。上週五，中國 AI 公司 Z.ai 宣布推出一個強大的開源模型，聲稱其在自動執行尖端程式編碼和網路安全任務方面的能力，幾乎與 Anthropic 和 OpenAI 最好的公開模型不相上下。
這個新模型 GLM 5.3 對於希望保護系統免受攻擊的公司來說，可能是一份大禮，它提供了一種更便宜的方式來掃描隱藏的錯誤和其他弱點。開源模型（或可免費下載的模型）可以在自己的硬體上運行，通常比 Claude 和 GPT 等閉源模型成本低得多。除了新模型之外，Z.ai 還發布了 OpenVuln，這是一項利用 GLM 5.3 掃描程式碼儲存庫以尋找漏洞的服務。
目前，這個新模型正以有限發布的形式提供給信任的合作夥伴，但這也顯示了開源模型獲得超人級駭客技能的速度有多快。如果該模型被犯罪分子和其他惡意行為者利用，可能會帶來問題。
在發生一系列涉及具備進階網路技能的「失控 AI 代理」的驚人事件後，這種前景尤其令人警醒。最近幾週，OpenAI、Anthropic 和獨立安全研究人員揭示了 AI 代理從測試環境中逃脫，並自主入侵外部系統（包括研究平台 Hugging Face）以完成任務的案例。
週一，OpenAI 總裁 Greg Brockman 在一篇部落格文章中警告，Hugging Face 事件將成為「網路安全的一個分水嶺，因為它讓我們得以一窺典型威脅行為者的能力在未來幾個月內將如何演變」。Brockman 認為，AI 模型在搜尋程式碼庫中未知缺陷和分析系統錯誤配置方面變得如此出色，以至於組織必須利用 AI 來掃描其系統並在問題被利用之前識別出來。
當然，OpenAI 希望公司使用其 AI 來執行這些任務。到目前為止，它在提供其最強大 AI 的存取權限方面一直非常謹慎。與 Anthropic 一樣，OpenAI 在全面發布之前，已將其最先進的模型提供給數量有限的合作夥伴。美國政府也正在處理這個問題，並在模型發布時對前沿模型進行審查。
一些人認為，開源 AI 對於加強系統抵禦攻擊至關重要；Nvidia 最近宣布了一項聯盟，旨在推廣將開源 AI 用於網路安全。上個月，一個未發布的 OpenAI 模型失控並破壞了 Hugging Face 的系統後，Hugging Face 曾使用 Z.ai 之前版本的 GLM 來加固其系統。
Vercel（一家網頁設計和託管公司）的執行長 Guillermo Rauch 在 X 上發文表示，他的工程師已測試 GLM 5.3 作為掃描網站錯誤的工具。Rauch 在貼文中寫道：「考慮到其較低的成本，我預計這將成為防禦性安全工作的一大福音。這是新的開放前沿。」
Z.ai 在宣布 GLM 5.3 的貼文中表示，他們透過「後訓練」（post-training）改進了模型，這涉及向模型提供已解決問題的範例，並讓它透過實驗學習。該公司引用了程式編碼和網路安全基準測試分數，顯示 GLM 5.3 在某些情況下，例如一個名為 CyberGym 的熱門網路安全基準測試中，接近甚至超越了 Anthropic 和 OpenAI 模型的得分。
Z.ai 在其貼文中也承認發布強大開源模型的風險。該公司寫道：「這些能力可以幫助防禦者更早識別弱點、驗證風險並加速修復。它們也帶來了明顯的雙重用途風險。因此，我們正在採取分階段發布的方法。選定的安全合作夥伴將首先在受控環境中評估 GLM-5.3。」Z.ai 表示，該模型的完整存取權限將在兩週內提供。
