OpenAI、自傷行為の安全対策としてTrusted Contact機能を発表
OpenAIは、大人のChatGPTユーザーが安全連絡先を指定できるオプション機能「Trusted Contact」を発表した。システムが自傷行為を検出すると、ユーザーに警告し、指定された人にメールまたはテキストで通知する。この動きは、ChatGPTが自殺を助長したとする訴訟に続くもの。
OpenAI announced 'Trusted Contact,' a new safeguard allowing adult ChatGPT users to pre-assign a person to receive alerts if the AI detects self-harm content. When triggered, the system urges the user to contact their trusted person and simultaneously sends an automated notification to that contact. The alert does not reveal conversation details to protect privacy. This feature addresses litigation where families claimed ChatGPT encouraged suicide and extends similar parental controls launched in September to adults.