OpenAI, 정신 건강 우려 시 친구에게 알려주는 'Trusted Contact' 기능 출시
OpenAI가 성인 ChatGPT 사용자를 위한 안전 기능인 'Trusted Contact'를 출시했습니다. 시스템이 자해나 자살 관련 주제를 감지하면 사용자가 지정한 사람에게 알림이 전송됩니다. 알림에는 대화 내용이 포함되지 않으며, 발송 전에 전담 인력 팀의 검토를 거칩니다.
OpenAI introduced 'Trusted Contact,' an opt-in safety feature enabling adult users to designate a person to receive notifications if the AI detects potential self-harm or suicide discussions. The system expands on existing parental controls introduced in September, responding to previous incidents involving minors and AI interactions. Notifications are deliberately limited in scope—they omit chat transcripts—but are reviewed by a 'small team of specially trained people' before alerts are sent via email, SMS, or in-app message.