앱스토어 딥페이크 스캔들, 펜실베이니아 고등학교 충격
펜실베이니아의 한 고등학교가 위기에 처했습니다. 남학생 1학년이 movely라는 iOS 앱을 사용해 여성 급우 5명의 누드 딥페이크를 생성하고 유포한 것으로 전해졌습니다.
래드너 고등학교(Radnor High School)에서 발생한 딥페이크 사건이 지역사회를 분열시키고 학교 책임 및 기술 규제에 대한 논쟁을 촉발시켰다. 9학년 학생이 Movely 앱의 25달러 구독을 사용하여 5명의 급우에 대한 동의 없는 성적인 이미지를 생성한 것으로 추정되며, 이 이미지는 소셜 네트워크에서 빠르게 확산되었다. 펜실베니아 법은 딥페이크를 범죄화하고 학군에는 반괴롭힘 정책이 있지만, 학부모들은 행정부가 피해자를 보호하지 못했으며 이른 퇴교와 같은 편의만 제공했다고 보고 있다. 이 사건은 주류 앱 스토어를 통한 AI 생성 아동 성 학대 자료의 접근성 증가와 Title IX에 따른 학교 외 사이버 괴롭힘을 규제하는 학교의 어려움을 부각시키고 있다.