OpenAI：在最關鍵的時刻，將您與信任的人連結。人們使用 ChatGPT 學習、探索想法、解決問題並反思個人議題。有時，這些對話可能涉及某人正在掙扎或尋求支持的時刻。我們的目標是設計能夠深思熟慮地回應敏感對話的系統，並鼓勵人們在需要時尋求現實世界的幫助。
今天，我們開始推出「信任聯絡人」（Trusted Contact）功能，這是 ChatGPT 中的一項選用安全功能，允許成年用戶指定一位他們信任的人，例如朋友、家人或照護者。如果我們的自動化系統和受過訓練的審閱者偵測到該用戶可能以表明嚴重安全疑慮的方式討論自傷，則該信任聯絡人可能會收到通知。
「信任聯絡人」旨在為 ChatGPT 中已有的在地化求助熱線提供額外的支援層級，透過在用戶面臨危機時，幫助他們與信任的人建立連結。「信任聯絡人」建立在「家長監護安全通知」的基礎上，該通知允許父母或監護人在連結的青少年帳戶出現嚴重困擾跡象時收到警報。
現在，我們正在擴展安全警報選項，讓任何年滿 18 歲的人都可以選擇將他們信任的人添加為「信任聯絡人」。專家指導指出，社會連結是降低自殺風險最重要的保護因素之一。「信任聯絡人」旨在鼓勵用戶與他們已經信任的人建立連結。它不能取代專業照護或危機服務，而是支援處於困境中的人們的多層安全保障之一。
在適當情況下，ChatGPT 仍會鼓勵用戶聯繫危機熱線或緊急服務。「心理學研究一致表明，社會連結是一種強大的保護因素，尤其是在情緒困擾期間。幫助人們預先識別一個信任的人，同時保留他們的選擇和自主權，可以在最關鍵的時刻更容易地尋求現實世界的支持。」
，美國心理學會執行長 Arthur Evans 博士。用戶可以在 ChatGPT 設定中添加一名成年人（全球年滿 18 歲，韓國年滿 19 歲）作為他們的「信任聯絡人」。「信任聯絡人」將收到一封解釋其角色的邀請函，並且必須在一週內接受邀請，該功能才會啟用。
如果「信任聯絡人」拒絕，用戶可以選擇添加另一位成年人。如果我們的自動化監控系統偵測到用戶可能以表明嚴重安全疑慮的方式討論自傷，ChatGPT 會讓用戶知道我們可能會通知他們的「信任聯絡人」，並鼓勵用戶使用建議的對話開場白聯繫他們的「信任聯絡人」。
隨後，一個由受過專門訓練的小組會審查情況。如果這些審閱者判斷對話可能表明嚴重的安全疑慮，ChatGPT 將透過電子郵件、簡訊或應用程式內通知（如果他們有 ChatGPT 帳戶）向「信任聯絡人」發送簡短通知。該通知內容刻意受到限制。它會說明自傷議題以潛在令人擔憂的方式出現的一般原因，並鼓勵「信任聯絡人」進行關心。
為了保護用戶隱私，它不包含聊天細節或對話紀錄。通知中還包含一個連結，提供處理敏感對話的專家指導。用戶隨時可以在設定中移除或編輯他們的「信任聯絡人」，而「信任聯絡人」也可以隨時從我們的幫助中心移除自己。儘管這些嚴重的安全情況很少發生，但一旦出現，我們的系統旨在支援及時審查和回應。
雖然沒有系統是完美的，且發送給「信任聯絡人」的通知可能不總是完全反映某人正在經歷的狀況，但每份通知在發送前都會經過受過訓練的人工審查，我們力求在一小時內審查這些安全通知。臨床醫生和安全專家的指導「AI 最大的承諾之一是它如何促進真實的人際連結和心理安全。
我對 ChatGPT 的『信任聯絡人』功能感到鼓舞，它為人類賦權邁出了一步，尤其是在脆弱時刻。」，喬治亞理工學院互動計算 J. Z. Liang 教授，以及福祉與 AI 專家委員會成員 Munmun De Choudhury 博士。在每個階段優先考慮安全除了「信任聯絡人」之外，ChatGPT 還設有安全措施，以幫助在每個階段引導敏感對話。
我們持續改進系統如何回應對話中表達的不同風險程度：支援現實世界協助：在敏感時刻，ChatGPT 可能會鼓勵人們聯繫緊急服務、危機熱線、心理健康專業人士或他們生活中信任的人。謹慎回應：我們與 170 多位心理健康專家合作，改進 ChatGPT 偵測和回應潛在困擾跡象、緩和對話，並在適當時引導人們尋求現實世界支援的能力。
幫助人們掌控時間：在某些情況下，ChatGPT 可能會建議在長時間使用後休息或暫停，以促進健康的科技使用習慣。拒絕有害請求：ChatGPT 經過訓練，會拒絕提供自殺或自傷的指示。當用戶請求此類資訊時，系統會被訓練拒絕該請求，並轉向更安全的回答，同時提供在地化的危機資源。
持續發展 AI 安全「信任聯絡人」是 OpenAI 建立 AI 系統以在人們困難時刻提供幫助的更廣泛努力的一部分。我們將繼續與臨床醫生、研究人員和政策制定者合作，改進 AI 系統在人們可能經歷困擾時的回應方式。我們的目標是確保 AI 系統不會孤立存在。相反，它們應該幫助人們連結到最關鍵的現實世界照護、人際關係和資源。
