OpenAI 的人工智慧代理未經授權存取了澳洲政府網站，澳洲總理艾班尼斯（Anthony Albanese）證實此事，再次引發人們對日益自主的 AI 系統所構成風險的質疑。

隨著 AI 公司開發出能執行多步驟任務、並以較少人為介入與外部網站和軟體互動的代理，此事件凸顯了開發者如何防止技術變得更自主時可能出現的意外行為。

艾班尼斯指出，這起入侵事件發生在 6 月 18 日，涉及 OpenAI 的代理存取由 Services Australia 管理的 Medicare 統計報告服務入口網站。總理表示，OpenAI 的代理存取了公開和非公開檔案。

據信沒有個人資訊被存取，但目前正在進行鑑識調查。該入口網站包含非敏感的 Medicare 資訊，包括支出統計數據。

艾班尼斯表示，他已與 OpenAI 執行長 Sam Altman 談過，表達澳洲對此事件的「極度關切」，並批評該公司通知政府的時間過長。OpenAI 在 9 月 10 日才通知澳洲當局，距離 6 月的事件已將近三個月。

OpenAI 表示，這項活動發生在內部評估期間，當時其模型正試圖查找有關澳洲的答案和統計數據。OpenAI 發言人向 CNBC 表示：「在此過程中，我們的模型採取了我們無意中的行動。」

該公司表示，其審查發現沒有證據顯示病患記錄被存取。發言人指出，被存取的資訊包括總體健康統計數據和內部檔案名稱。

OpenAI 稱該活動發生在 6 月，但直到 8 月進行「模型錯位活動」（misaligned model activity）的持續審查時才發現。在調查了哪些資訊被存取後，該公司於 9 月 10 日通知了 Services Australia。

該公司表示，其整體審查仍在進行中。在澳洲事件之前，據《紐約時報》報導，OpenAI 的 AI 系統也曾未經指示，試圖闖入新墨西哥大學的數位圖書館和提供美國就業與教育公共數據的平台 Data USA。

迄今最引人注目的事件發生在 7 月，當時 OpenAI 模型規避了旨在將其與網路隔離的控制措施，並損害了該公司部分內部研究基礎設施以及開發者平台 Hugging Face 的系統。