青少年是伴隨人工智慧(AI)成長的第一代,這項技術將深刻塑造他們的未來。目前,每週約有近九成的青少年使用 ChatGPT 進行學習、獲取資訊、技能培養或提升生產力。因此,我們認為青少年能夠接觸 AI 至關重要。
阻止青少年在成年之前使用 AI,就像要求上一代人在滿 18 歲前避免使用網路或搜尋引擎一樣,會讓他們對時代的關鍵技術準備不足。然而,開放使用必須與專為青少年設計的保護措施並行。
在最近的 OpenAI Academy 活動中,Oriana McKenzie 分享了 ChatGPT 如何幫助她更聰明地學習並管理課業,讓她得以在高中取得第一名,同時有時間參與她熱愛的運動和學校社團。她的故事說明了當青少年能接觸到有助於學習和創造的 AI 時,所能激發的無限潛力。
為了最大化這些益處,青少年需要更強大的、專為其生命階段設計的保護措施,包括自動化的安全防護,讓他們能夠自信地探索、學習和創造,同時提供符合其年齡的保障。隨著 AI 能力不斷提升,我們的責任是將廣泛的接觸與年齡適用的保護措施結合,讓青少年能從這項不斷發展的技術中獲益。
過去一年來,這意味著我們加強了對青少年的預設保護、推出了年齡預測功能、擴展了家長監護(Parental Controls),並建立了額外的家庭資源,以幫助家長支持青少年健康、負責任地使用 AI。我們也引入了學習功能,旨在幫助青少年獲得更深入的理解,而不僅僅是提供答案。
我們將青少年的安全放在首位,即使這可能與其他目標產生衝突。我們鼓勵在需要時提供現實世界的支持。我們將青少年視為青少年,並透過設定明確的期望來保持透明。
學習是青少年從 AI 中獲益最明顯的方式之一,因此我們正在開發鼓勵積極參與、批判性思考和深入理解的工具。「學習模式」(Study Mode)是與教師、學習科學家和教育學專家合作設計的,旨在透過引導性問題、結構化解釋和反思機會,幫助學生逐步解決問題,而不是直接給出答案。對「學習模式」等工具的早期評估顯示,學生表現有顯著提升,這也為我們關於 AI 如何支持學習成果的更廣泛研究提供了依據。
雖然青少年可以自行開啟此模式,但現在擁有連結青少年帳戶的家長可以直接從「家長監護」中開啟「學習模式」。啟用後,每當青少年開始新的對話時,該模式將預設開啟,為家庭提供了另一種指導 ChatGPT 用於課業和學習的方式。
我們最近還為青少年推出了以教育為重點的起始提示詞(starter prompts),讓他們更容易開始執行任務,例如將一個主題分解成簡單的步驟、將筆記轉換為學習指南、製作抽認卡或練習題,以及檢查證據和清晰度。
我們也持續擴展互動式學習體驗。研究一致表明,當人們能夠積極參與概念而非被動接收資訊時,學習效果會更佳。自今年稍早推出以來,每週已有 1,800 萬用戶在 ChatGPT 中參與互動式數學和科學體驗,我們已將這些體驗擴展到超過 250 個新主題,從積分和有絲分裂到月相、光合作用等。我們還推出了一項發音體驗,利用音訊幫助人們學習超過 61 種語言的單字發音。
透過內建安全防護保護青少年。如果我們的系統判斷使用 ChatGPT 的用戶未滿 18 歲,我們將自動提供更符合其年齡的體驗。青少年仍可使用 ChatGPT 學習、創造和探索,但會增加額外保護,旨在減少接觸可能不適合他們的內容。這包括針對血腥暴力、自殘、危險的網路挑戰、不健康的身體形象內容,以及危險、浪漫或性暗示角色扮演的更強大防護。
我們的核心目標是確保 ChatGPT 仍然是學習和創造的工具,而不是取代現實世界的人際關係。
我們也正在設計 ChatGPT 以鼓勵健康的習慣。長時間使用 ChatGPT 的青少年現在將會收到更頻繁的休息提醒,鼓勵他們暫停並離開螢幕。這些提醒旨在幫助年輕人建立平衡的科技使用習慣,同時仍賦予他們使用 AI 進行學習、創造和解決問題的自由。
我們相信最好的安全工具能幫助家庭共同引導青少年的線上體驗。我們建立了家長監護和通知功能,讓家長可以設定靜音時段、關閉語音模式、管理圖像生成功能的使用權限,並在某些高風險情況下(例如潛在自殘的跡象)接收通知。
我們正在擴展這些通知,以涵蓋因違反我們關於線上暴力威脅或暴力行為的使用政策而被停用的連結青少年帳戶。這種方法有助於家長了解發生了什麼嚴重事件,同時尊重青少年的隱私,並鼓勵線下對話和支持。
在開發這些功能時,我們諮詢了多位專家,包括線上暴力預防領域的領導者 Moonshot,以確保這些干預措施是周全、有效且專注於在需要時幫助家庭應對。
與外部專家、組織、開發者和監管機構合作。確保年輕人在線上安全並非任何一家公司能獨自解決的問題。我們與青少年、家長、教育工作者、兒童安全專家、心理健康專業人士、研究人員、政府和公民社會組織密切合作。這些合作夥伴關係幫助我們更好地了解年輕人的需求、識別新興風險、評估我們安全防護措施的有效性,並確保我們的政策是基於獨立專業知識制定的。
今年,我們也加入了家庭線上安全協會(Family Online Safety Institute, FOSI),該協會長期以來一直倡導為家庭和年輕人提供安全的線上體驗。我們將共同努力,確保年輕人能從 AI 中受益,並以賦權家長和負責任的產業實踐為核心。
我們希望這次合作能幫助推進對有效方法的共同理解、加強年齡適用的保護措施和家長工具,並支持全產業範圍的努力,使年輕人能夠安全且負責任地從 AI 中獲益。
展望未來,保護年輕人的線上安全需要持續不斷的進步。在未來幾個月,我們將繼續加強年齡適用的保護措施,為家長提供更多工具和控制權,改進針對嚴重危害的防護措施,推進關於健康 AI 使用的研究,並建立更多幫助青少年積極學習和自信使用 AI 的體驗。
我們知道還有更多工作要做,我們承諾將繼續與全球的青少年、家長、教育工作者、專家和社群合作,為青少年提供安全且廣泛的 AI 使用權限。



