OpenAI 宣布支持加州參議院第 1119 號法案(SB 1119),這項立法旨在為青少年使用 AI 建立有意義的保障措施,同時確保他們能持續利用這些工具學習、創造並為未來做準備。此舉延續了 OpenAI 共同創辦人暨執行長 Sam Altman 去年提出的青少年原則承諾。
在聯邦政府尚未採取行動的情況下,加州有機會為青少年 AI 安全樹立一個強而有力的標準。
OpenAI 宣布支持加州參議院第 1119 號法案(SB 1119),該法案旨在為青少年使用 AI 工具建立有意義的保障措施,同時確保他們能持續利用 AI 學習與創造。此舉延續了 OpenAI 去年提出的青少年原則,並強調在缺乏聯邦行動下,加州有機會為青少年 AI 安全樹立強大標準。OpenAI 也提及其專為青少年設計的 ChatGPT for Teens 產品,該產品內建多項安全防護與家長控制功能。

OpenAI 宣布支持加州參議院第 1119 號法案(SB 1119),這項立法旨在為青少年使用 AI 建立有意義的保障措施,同時確保他們能持續利用這些工具學習、創造並為未來做準備。此舉延續了 OpenAI 共同創辦人暨執行長 Sam Altman 去年提出的青少年原則承諾。
在聯邦政府尚未採取行動的情況下,加州有機會為青少年 AI 安全樹立一個強而有力的標準。
在致紐森州長的信中,我們讚揚他、參議員 Steve Padilla、眾議員 Buffy Wicks 和 Rebecca Bauer-Kahan,以及加州議會在這一重要議題上的領導作用。SB 1119 建立在 OpenAI 透過產品、全球政策原則、在加州的倡議以及對《家長與兒童安全 AI 法案》的工作所支持的青少年安全措施之上。我們鼓勵紐森州長將該法案簽署成為法律。
青少年是第一代與 AI 一同成長的世代。每週有近九成的青少年使用者會利用 ChatGPT 進行學習、獲取資訊、培養技能或提升生產力。這種機會伴隨著明確的責任:青少年的使用體驗應根據其獨特的發展需求來設計,提供強大的預設保護,並給予適當的學習、創造和探索機會。
我們新推出的 ChatGPT for Teens 正體現了這種方法。它旨在幫助 18 歲以下的使用者學習、批判性思考和創造,同時促進健康使用、提供內建安全防護,並賦予家長額外的控制權。如果我們的系統評估某人未滿 18 歲,或者他們聲明年齡介於 13 到 17 歲之間,他們將自動進入 ChatGPT for Teens 模式。這些保護措施是基本體驗的一部分,而非使用者可以關閉的選用設定。
更廣泛地說,我們相信青少年可以在不犧牲安全的前提下從 AI 中受益,這正是 SB 1119 的核心目標。
建立適合年齡的 AI 強大框架。SB 1119 將強大的保護措施與持續使用有用的 AI 工具結合。我們強烈支持以下關鍵要求:
確定使用者年齡;在向青少年提供產品之前,識別並解決安全風險;接受獨立稽核;保護青少年免受有害內容侵害,包括自殘、性剝削內容及其他高風險互動;為家長提供引導和限制孩子使用的工具;當出現嚴重安全風險時,將青少年與危機支援資源連結;以及限制定向廣告並保護青少年的個人資訊。
對於被認定為 13 至 17 歲的使用者,這些保護措施應自動適用。這項立法將有意義的問責制與保障措施結合,有助於保護青少年在使用 AI 時的安全。
SB 1119 也適當地認識到 AI 並非社群媒體。該法案建立了量身定制的保護措施,以幫助青少年利用 AI 學習、創造和探索。在制定此框架時,政策制定者力求保留對教育和安全關鍵功能的存取權,包括負責任地使用 ChatGPT 的記憶功能,同時促進更安全、適合青少年年齡的體驗。
為青少年打造更安全、更有用的體驗。ChatGPT for Teens 包含一系列專為幫助青少年學習而設計的功能,例如測驗、學習視覺化和學習模式,這些功能是與教育工作者和學習專家共同開發的,旨在逐步引導學生解決問題。這些工具旨在加深理解並培養更強的學習習慣。利用先前對話上下文的功能,包括記憶功能,有助於持續應用安全防護、識別令人擔憂的模式,並隨著時間提供更有用的學習支援。
上下文也有助於這些安全和學習工具隨著時間推移更一致地運作。透過記憶等功能,ChatGPT 可以從先前的對話中延續相關資訊和偏好,讓青少年無需重新開始即可繼續長期學習專案。這種連續性還有助於避免強化有害模式,並在青少年可能需要額外幫助或資源時,支援更有效的應對措施。
平衡安全與學習對我們來說並非新鮮事。過去一年,我們已將家長控制、年齡預測、青少年安全藍圖和未成年原則納入我們的模型規範(Model Spec)中,這些規範指導我們的模型應如何與青少年互動,以設定新的標準。它們禁止浪漫互動、鼓勵情感依賴,以及聲稱 ChatGPT 是人類或有感知能力。我們還提供家長控制功能,讓家庭可以管理青少年使用的關鍵設定,並在高風險情況下接收通知。
SB 1119 為加州的青少年 AI 安全建立了強大的框架。在實施過程中持續研究與合作,有助於改進關鍵條款,並隨著技術發展保持框架的有效性。OpenAI 期待支持這項工作,並持續打造 AI 體驗,以更強大、自動化的保護措施和有意義的學習與成長機會,將青少年視為青少年。
覺得值得一看?分享給朋友。
以上為 AI 自動翻譯導讀。原文版權歸 OpenAI Blog 所有, 建議透過「閱讀原文」前往原始網站,以取得最完整資訊並支持原作者。
43 個來源、每 2 小時更新,太多看不完。電子報每週挑最值得看的幾則,附上 Max 的看法。