我們宣布任命 Paul Christiano 加入 OpenAI 基金會董事會。他將擔任 OpenAI Group PBC 董事會的無投票權觀察員。
Paul 也將加入基金會董事會的安全與資安委員會(SSC),與主席 Zico Kolter 共同合作。SSC 負責監督 OpenAI 所有業務(包括 OpenAI Group PBC)的安全與資安實務。
Paul 曾任職於美國商務部國家標準暨技術研究院(NIST)旗下的 AI 標準與創新中心(CAISI),擔任資深技術顧問,為兩屆政府帶來豐富的經驗。
在 CAISI 及其前身美國 AI 安全研究所任職期間,Paul 致力於評估前沿 AI 模型,包括具有國家安全影響的能力,並研究如何緩解相關的安全與資安風險。
Paul 也是「對齊研究中心」(Alignment Research Center, ARC)的創辦人,這是一個致力於使先進 AI 系統與人類利益保持一致的非營利研究組織。
從 2017 年到 2021 年,Paul 在 OpenAI 領導對齊研究,並為「人類回饋強化學習」(RLHF)貢獻了基礎性工作。擔任新職務後,Paul 將為 OpenAI 的治理決策帶來獨特且具技術基礎的視角。我們的使命是確保通用人工智慧造福全人類。
AI 正在進入一個新的能力時代,這使得這些系統的進步必須伴隨著強大的安全、資安、對齊和治理變得日益重要。
在 Paul 研究 AI 對齊的整個職業生涯中,他始終認真看待先進 AI 可能帶來災難性風險的可能性,並強調開發者必須在系統達到更危險的能力水平之前做好準備。他對於業界的安全措施是否足夠,一直持有獨立的見解。我們相信,基金會的治理會因為有準備好挑戰普遍假設、並協助強化關鍵決策背後證據、保障措施和問責制的人而變得更加強大。
關於 OpenAI 基金會
OpenAI 基金會是一個慈善組織,致力於確保 AI 造福全人類。作為一個獨立的非營利組織,基金會執行自身的慈善業務,同時掌控 OpenAI Group PBC 並持有其大量股權。
基金會支持促進科學發現、強化公民社會以及透過負責任的 AI 建立韌性的倡議。透過補助、合作夥伴關係及其他慈善計畫,基金會協助加速創造持久公共利益並擴大 AI 變革潛力可及性的工作。

