OpenAI 與波蘭國家研究機構 NASK 國家研究院已簽署協議,將探討在 AI 安全、資安及技術研究方面的合作。這項夥伴關係將匯集雙方專業知識,以更好地理解新興風險、強化防護措施,並探索先進 AI 如何為更安全、更具韌性的數位生態系統做出貢獻。
隨著 AI 系統能力日益增強,開發者與公共研究機構之間的國際合作,對於理解其風險並建立更強大的防護措施至關重要。OpenAI 目前已與美國超級智慧標準與創新推進中心 (CAISSI)、英國 AI 安全研究所 (AISI) 以及全球其他公共研究機構合作,這些努力已協助強化防護措施、識別並修復 AI 代理中的安全漏洞,並推進前沿 AI 安全。
根據這項協議,NASK 的 AI 安全研究中心(同時也是波蘭人工智慧安全研究所,AISI)將與 OpenAI 合作進行 AI 安全研究。雙方將探索評估日益強大 AI 系統的方法,識別潛在漏洞並強化防護措施。
OpenAI 曾呼籲美國與世界各國合作,共同制定前沿 AI 的國際技術標準,並借鑒 AI 安全研究所和標準制定機構的專業知識。評估能力、評估風險、測試防護措施和報告事件的共同方法,可以幫助各國比較證據並應對跨國風險。與 NASK 的合作,正體現了將國家專業知識納入這項更廣泛努力的價值。
就 NASK 而言,其專業知識源於在 AI 安全領域的廣泛研究,並直接應用於保護公共服務和波蘭的數位資訊生態系統。如果沒有像 NASK 這樣的國家合作夥伴,全球 AI 安全標準可能會脫離 AI 實際應用的現實。
這項協議也建立在 OpenAI 與波蘭網路防禦者現有合作的基礎上。今年七月,隸屬於 NASK 的 CERT Polska 透過 Daybreak 獲得了 OpenAI 具備網路安全能力的模型的存取權限。該團隊利用 OpenAI 模型協助發現 MikroTik RouterOS 中的六個漏洞,其中包括可組合起來在無需驗證的情況下控制受影響設備的缺陷。
供應商已發布修復程式,CERT Polska 也證實這些修復程式成功阻止了他們觀察到的攻擊。