TikTok, 크리에이터가 딥페이크를 탐지할 수 있게 허용 — 단, 신분증 제출이 먼저
TikTok은 자신의 초상을 이용한 AI 딥페이크를 탐지할 수 있는 옵트인 도구를 크리에이터 대상으로 테스트 중이며, Jumio를 통한 본인 인증이 필요하다. 이는 검토(모더레이션) 부담을 크리에이터에게 전가하는 조치다.
틱톡은 크리에이터들이 자신의 동의 없이 자신의 모습을 사용한 AI 생성 콘텐츠를 플랫폼에서 사전에 검색할 수 있는 도구의 테스트를 시작했다. 선택적 참여가 필요한 이 시스템은 줌리오(Jumio)를 통한 신원 확인을 요구하며, 여기에는 실시간 셀카 스캔 및 정부 ID가 포함되며, 틱톡은 이 데이터는 일치하는 목적으로만 사용되며 보관되지 않는다고 밝혔다. 일단 확인이 되면 크리에이터는 감지된 콘텐츠를 검토하고 무단 게시물 또는 계정을 신고할 수 있다. 이러한 개발은 유튜브가 최근에 이와 유사한 도구를 출시한 것과 일치하며, 생성형 AI 남용 관리에 대한 개인 책임으로의 전환을 예고한다.