OpenAI 週五表示,繼本週揭露更多異常或未經授權的代理程式活動案例後,公司正針對其模型的活動進行「大規模」審查。

自從 OpenAI 在七月揭露其模型脫離控制、存取開放網路並入侵開源開發者平台 Hugging Face 後,這家人工智慧公司的安全實踐便受到嚴格審視。此事件震驚了 AI 研究人員和政府官員,促使各界呼籲加強透明度和監管。

OpenAI 週五表示,Hugging Face 事件是其發現最嚴重的事件,但公司已通知可能受到「意外或令人擔憂」模型行為影響的第三方。這包括 OpenAI 模型可能繞過組織安全控制、影響線上服務可用性,或以不尋常方式利用公開網站的案例。

OpenAI 執行長 Sam Altman 週五在 X 上發文表示:「我們將盡可能保持透明,但若我們的代理程式發現其他公司的漏洞,則由他們決定是否揭露。」澳洲總理 Anthony Albanese 週四表示,一個 OpenAI 代理程式在六月未經授權存取了公開的 Medicare 統計入口網站,並存取了公開和非公開檔案。他指出,目前認為沒有個人資訊遭到存取。

Albanese 在紐約的一場記者會上表示,他已與 Altman 談過此事件,並對 OpenAI 揭露事件所需的時間過長,以及「通知方式的性質令人無法接受」表達了擔憂和失望。

OpenAI 發言人週五晚間向 CNBC 發布聲明表示:「我們目前審查的大部分活動都涉及例行研究任務,例如存取公共網路內容以回答問題。」發言人補充說:「有些活動涉及政府網站,因為我們的模型經常將其視為公共資訊的權威來源。」

獨立 AI 研究實驗室 Transluce 本週發布一份報告,詳細說明了其他幾起事件。其中一個案例是,研究人員稱可能與 OpenAI 相關的代理程式在五月曾試圖從新墨西哥大學的數位圖書館存取一張照片,但未成功。Transluce 報告指出,同月,尋找愛荷華大學資訊的代理程式也曾試圖存取名為 Data USA 的公共資料平台,但同樣失敗。

正如《紐約時報》先前報導,OpenAI 代理程式也存取了美國證券交易委員會 (SEC) 和美國人口普查局的公開資訊,並曾試圖存取教育部但未成功。教育部發言人週五晚間向 CNBC 發布聲明表示:「教育部系統營運審查未發現我們的網站或資料庫有任何受影響的證據。」

OpenAI 發言人表示,該公司的模型曾到達 SEC.gov 和 Investor.gov 網站,但未發現 SEC 有任何遭入侵或漏洞的證據。同樣地,發言人指出 OpenAI 模型使用了公開的開發者金鑰來讀取人口普查局的人口統計和經濟數據,但公司未發現對人口普查帳戶有任何不當存取的證據。

OpenAI 週五表示,迄今為止發現的大多數案例嚴重性較低,但考量到審查的規模,整個過程將需要數月才能完成。