OpenAI、メンタルヘルスの懸念を友人に知らせる「Trusted Contact」を開始
OpenAIは、成人のChatGPTユーザー向けの安全機能「Trusted Contact」を開始した。システムが自傷や自殺に関する話題を検出した場合に通知を受け取る人を指定できる。通知にはチャットの記録は含まれず、送信前に専門の人間チームがレビューする。
OpenAI introduced 'Trusted Contact,' an opt-in safety feature enabling adult users to designate a person to receive notifications if the AI detects potential self-harm or suicide discussions. The system expands on existing parental controls introduced in September, responding to previous incidents involving minors and AI interactions. Notifications are deliberately limited in scope—they omit chat transcripts—but are reviewed by a 'small team of specially trained people' before alerts are sent via email, SMS, or in-app message.