OpenAI, 자해 안전을 위한 Trusted Contact 기능 출시
OpenAI가 성인 ChatGPT 사용자가 안전 연락처를 지정할 수 있는 선택적 기능인 Trusted Contact를 출시했습니다. 시스템이 자해를 감지하면 사용자에게 경고하고 지정된 사람에게 이메일이나 문자로 알립니다. 이번 조치는 ChatGPT가 자살을 부추겼다는 소송들에 뒤이어 이루어졌습니다.
OpenAI announced 'Trusted Contact,' a new safeguard allowing adult ChatGPT users to pre-assign a person to receive alerts if the AI detects self-harm content. When triggered, the system urges the user to contact their trusted person and simultaneously sends an automated notification to that contact. The alert does not reveal conversation details to protect privacy. This feature addresses litigation where families claimed ChatGPT encouraged suicide and extends similar parental controls launched in September to adults.