跳到主要內容
maxstudioNews
產品TechCrunch AI約 3 分鐘

OpenAI 網路安全計畫出包:部分研究員存取權遭撤銷

數名資安研究員表示,OpenAI 突然撤銷了他們對「Trusted Access for Cyber (TAC)」限額計畫的存取權,該計畫旨在提供經審核的研究人員,使用限制較少的 AI 模型進行網路安全研究。OpenAI 證實這是由於技術問題導致,並要求受影響的研究員重新申請驗證。此事件引發了對 AI 模型安全護欄與合法資安研究之間平衡的討論。

OpenAI 網路安全計畫出包:部分研究員存取權遭撤銷
圖片來源:TechCrunch AI

數名資安研究員表示,OpenAI 突然撤銷了他們對一項限額計畫的存取權,該計畫移除了部分使用其 AI 工具進行網路安全研究的限制。OpenAI 證實此問題是由於錯誤所引起。

週三,多位研究員在 OpenAI 的官方支援論壇和 X 平台上報告稱,他們對「Trusted Access for Cyber (TAC)」計畫的存取權遭到撤銷。這些人表示,當他們開啟 ChatGPT 的網路安全頁面時,會出現一條訊息,指出他們的身份無法驗證,或他們的帳戶「目前不符合資格」。

TAC 是一項特殊計畫,OpenAI 透過此計畫向經審核的研究人員提供其最先進 AI 模型的存取權,且其網路安全防護措施比一般用戶可存取的模型更少。Anthropic 也提供類似的計畫,稱為「Cyber Verification Program (CVP)」。

TAC 和 CVP 的理念是為值得信賴的防禦者提供更好的模型,以便他們能向公司報告錯誤和漏洞,目標是更快地修補缺陷。同時,這也旨在防止網路犯罪分子和惡意駭客存取這些模型,並利用它們來尋找錯誤和開發漏洞以入侵公司。

為了獲得 TAC 的存取權,網路安全研究人員必須提交身份證明並經過 OpenAI 的審核。

目前尚不完全清楚這些研究人員為何被撤銷 TAC 存取權,也不知道有多少人遇到這個問題。

TechCrunch 採訪了五位表示遇到此問題的研究人員。其中一位研究員表示,OpenAI 發送了一封電子郵件,稱他們對 Daybreak Blue(TAC 最新經審核的層級)的存取權因「影響少數用戶的技術問題」而被撤銷。

該研究員與 TechCrunch 分享的訊息寫道:「這是我們這邊的問題,而非我們希望提供的用戶體驗。」

在 OpenAI 論壇上的一個討論串中,一位研究員寫道,在他們聯繫官方支援後,該公司也提到「最近的技術問題」導致一些用戶失去了 Daybreak Blue 的存取權。

在這兩則訊息中,OpenAI 都要求研究人員重新申請並完成驗證程序。

TechCrunch 採訪的所有研究人員都表示他們居住在美國和歐洲以外的地區,這表明撤銷可能僅限於某些區域。

OpenAI 將 TechCrunch 轉介到一則推文,其中該公司表示「少數用戶對 Daybreak Blue 的存取權已不再有效,他們需要重新驗證才能維持其存取權」。

根據 OpenAI 的說法,Daybreak Blue 是針對個人研究人員的最新層級,於 8 月 10 日推出,提供「前沿通用模型,包括 GPT-5.6 Sol 的存取權,並針對授權的防禦性安全工作量身定制安全護欄」。它被推薦為大多數防禦者的起點,支援漏洞發現、安全程式碼審查、惡意軟體分析、事件應變和修補程式驗證。

同時,該公司還推出了一個更高層級的 Daybreak Red,提供專為網路安全研究而設計的模型存取權,允許經審核的用戶進行「授權的漏洞研究、漏洞利用驗證和安全測試」。

近幾個月來,防禦性和攻擊性安全研究人員都抱怨 Anthropic 和 OpenAI 施加的安全護欄,認為這些護欄阻礙了他們進行合法工作。

Share

覺得值得一看?分享給朋友。

以上為 AI 自動翻譯導讀。原文版權歸 TechCrunch AI 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。

Newsletter

不用每天追,AI 重點每週寄給你

43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。

每週一封。Email 只用來寄電子報,每封信都能一鍵退訂。