OpenAI 週四宣布推出一項名為「信任聯絡人」（Trusted Contact）的新功能，旨在當對話中提及自殘時，能提醒一位值得信賴的第三方。此功能允許成年 ChatGPT 用戶在其帳戶中指定另一個人作為信任聯絡人，例如朋友或家人。若對話可能轉向自殘議題，OpenAI 將鼓勵用戶聯繫該聯絡人，同時也會自動發送警報給該聯絡人，鼓勵他們關心用戶。
OpenAI 曾面臨一系列訴訟，這些訴訟來自於與其聊天機器人對話後自殺者的家屬。在多起案件中，家屬聲稱 ChatGPT 鼓勵他們的親人自殺，甚至協助他們規劃自殺。目前，OpenAI 結合自動化與人工審查來處理潛在的有害事件。某些對話觸發詞會警示該公司的系統偵測到自殺意念，隨後將資訊轉達給人工安全團隊。
該公司聲稱，每次收到此類通知時，都會由專人進行審查。「我們力求在一小時內審查這些安全通知」該公司表示。若 OpenAI 內部團隊判斷情況構成嚴重的安全風險，ChatGPT 便會向信任聯絡人發送警報，可透過電子郵件、簡訊或應用程式內通知。此警報設計簡潔，旨在鼓勵聯絡人關心當事人。
該公司表示，為了保護用戶隱私，警報中不包含對話的詳細內容。「信任聯絡人」功能是繼去年九月該公司推出的安全措施之後的又一舉措，該措施賦予家長對青少年帳戶的部分監督權，包括接收安全通知，以便在 OpenAI 系統認為其子女面臨「嚴重安全風險」時提醒家長。
此外，ChatGPT 一段時間以來也已包含自動警報，若對話趨向自殘議題，會建議用戶尋求專業醫療服務。關鍵在於，「信任聯絡人」是可選功能，即使在特定帳戶上啟用了此保護，任何用戶仍可擁有多個 ChatGPT 帳戶。OpenAI 的家長監護功能也是可選的，存在類似的限制。
該公司在公告中寫道：「『信任聯絡人』是 OpenAI 致力於建立能在人們困難時刻提供幫助的 AI 系統的廣泛努力之一。」「我們將繼續與臨床醫生、研究人員和政策制定者合作，改進 AI 系統在人們可能經歷痛苦時的應對方式。」
