OpenAI 為 ChatGPT 導入了「信任聯絡人」功能，允許用戶指定一位朋友，當他們有自殘風險時，OpenAI 可以聯繫該朋友。越來越多的人將 ChatGPT 作為數位治療師使用，依賴這個聊天機器人來滿足他們的心理健康需求。OpenAI 先前向 BBC 表示，在其每週 8 億用戶中，有超過一百萬人在對話中表達過自殺念頭。
去年，OpenAI 面臨一項過失致死訴訟，指控該公司促成了一名青少年的自殺。訴訟稱，該青少年曾與 ChatGPT 討論過四次自殺未遂的經歷，然後 ChatGPT 協助他規劃了實際的自殺行為。BBC 在 2025 年 11 月發布的調查發現，至少在一個案例中，ChatGPT 曾建議用戶如何自殺。OpenAI 告訴該新聞機構，自那以後，他們已改進了其聊天機器人對處於困境中的用戶的回應方式。
「信任聯絡人」功能建立在 ChatGPT 的家長監護功能之上，讓 18 歲及以上的成年人可以選擇添加一位在他們即將自殘時能提供幫助的人的詳細資訊。用戶可以在 ChatGPT 設定中指定一位成年人作為他們的「信任聯絡人」，該聯絡人必須在一週內接受收到的邀請。
如果他們未能接受，用戶可以選擇添加另一位聯絡人。ChatGPT 系統會首先警告用戶，如果偵測到他們有嚴重自殘的可能性，公司可能會通知他們的聯絡人。它會鼓勵用戶聯繫他們的朋友，甚至會建議潛在的對話開場白。
這個過程並非完全自動化。OpenAI 表示，一個「由受過專門訓練的小團隊」將審查情況，只有當他們確定存在嚴重的自殘風險時，ChatGPT 才會向用戶的聯絡人發送電子郵件、簡訊或應用程式內通知。
訊息內容將是：「[用戶]可能正在經歷一段困難時期。作為他們的信任聯絡人，我們鼓勵您關心他們。」從那裡，聯絡人可以查看更多關於警告的詳細資訊，告知他們 OpenAI 偵測到用戶在對話中討論了自殺。然而，為了用戶隱私，公司不會向他們發送對話紀錄。
該公司在其公告中寫道：「雖然沒有系統是完美的，且發送給信任聯絡人的通知可能不總是完全反映某人正在經歷的情況，但每份通知在發送前都會經過受過訓練的人工審核，我們力求在一小時內審核這些安全通知。」
如果您或您認識的人有自殺念頭，請不要猶豫，立即撥打美國國家自殺預防生命線 1-800-273-8255。該專線全天候開放，如果無法使用電話，也有線上聊天服務。
