AI 생성 성적 딥페이크가 교사를 표적으로 삼지만, 학교는 학생 처벌에 어려움 겪어
미국 학교에서 교사 딥페이크가 확산되고 있으며, 이는 기존 법률과 학교 정책이 교직원을 보호하거나 AI 도구를 사용한 학생을 징계하지 못하고 있음을 보여준다.
교육자들이 학생들이 접근하기 쉬운 AI 도구를 사용하여 만든 성적인 딥페이크의 표적이 되고 있으며, 캘리포니아의 교사 루이스 데산티아고(Luis DeSantiago)는 학생이 틱톡(TikTok)에 조작된 이미지를 생성하고 배포한 후 몇 달간의 고통을 회상한다. 행정당국과 경찰에 신고했음에도 불구하고, 피해자들은 가해자에 대한 의미 있는 처벌이 부족하다고 묘사하며, 종종 경미한 정학 처분을 내리고 이미지가 소셜 플랫폼에서 계속 유통되는 결과를 초래한다. 이러한 경향은 학교 규정과 주 법이 AI로 생성된 괴롭힘을 처리하기에 부적합한 정책의 공백을 노출시키며, 교사가 명확한 책임 메커니즘이 없이 전문적이고 개인적인 고통을 겪도록 강요한다. 이러한 도구가 더욱 보편화됨에 따라 학교는 괴롭힘에 대한 정의를 업데이트하고 AI 남용에 대한 구체적인 징계 체계를 구축하기 위해 점점 더 많은 압력을 받고 있다.