我們宣布任命 Paul Christiano 加入 OpenAI 基金會董事會。他將擔任 OpenAI Group PBC 董事會的無投票權觀察員。
Paul 也將加入基金會董事會的安全與資安委員會(SSC),與主席 Zico Kolter 共同合作。SSC 負責監督 OpenAI 所有業務(包括 OpenAI Group PBC)的安全與資安實務。
OpenAI 宣布任命 Paul Christiano 加入其基金會董事會,並擔任 OpenAI Group PBC 董事會的無投票權觀察員。他將同時加入基金會董事會的安全與資安委員會,憑藉其在 AI 標準、前沿模型評估及 AI 對齊研究方面的深厚背景,為 OpenAI 的治理決策帶來獨特且具技術基礎的視角。此舉旨在強化 AI 系統的安全、資安與對齊,確保通用人工智慧能造福全人類。

我們宣布任命 Paul Christiano 加入 OpenAI 基金會董事會。他將擔任 OpenAI Group PBC 董事會的無投票權觀察員。
Paul 也將加入基金會董事會的安全與資安委員會(SSC),與主席 Zico Kolter 共同合作。SSC 負責監督 OpenAI 所有業務(包括 OpenAI Group PBC)的安全與資安實務。
Paul 曾任職於美國商務部國家標準暨技術研究院(NIST)旗下的 AI 標準與創新中心(CAISI),擔任資深技術顧問,為兩屆政府帶來豐富的經驗。
在 CAISI 及其前身美國 AI 安全研究所任職期間,Paul 致力於評估前沿 AI 模型,包括具有國家安全影響的能力,並研究如何緩解相關的安全與資安風險。
Paul 也是「對齊研究中心」(Alignment Research Center, ARC)的創辦人,這是一個致力於使先進 AI 系統與人類利益保持一致的非營利研究組織。
從 2017 年到 2021 年,Paul 在 OpenAI 領導對齊研究,並為「人類回饋強化學習」(RLHF)貢獻了基礎性工作。擔任新職務後,Paul 將為 OpenAI 的治理決策帶來獨特且具技術基礎的視角。我們的使命是確保通用人工智慧造福全人類。
AI 正在進入一個新的能力時代,這使得這些系統的進步必須伴隨著強大的安全、資安、對齊和治理變得日益重要。
在 Paul 研究 AI 對齊的整個職業生涯中,他始終認真看待先進 AI 可能帶來災難性風險的可能性,並強調開發者必須在系統達到更危險的能力水平之前做好準備。他對於業界的安全措施是否足夠,一直持有獨立的見解。我們相信,基金會的治理會因為有準備好挑戰普遍假設、並協助強化關鍵決策背後證據、保障措施和問責制的人而變得更加強大。
關於 OpenAI 基金會
OpenAI 基金會是一個慈善組織,致力於確保 AI 造福全人類。作為一個獨立的非營利組織,基金會執行自身的慈善業務,同時掌控 OpenAI Group PBC 並持有其大量股權。
基金會支持促進科學發現、強化公民社會以及透過負責任的 AI 建立韌性的倡議。透過補助、合作夥伴關係及其他慈善計畫,基金會協助加速創造持久公共利益並擴大 AI 變革潛力可及性的工作。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 OpenAI Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。