AI 인플루언서는 진짜와 구별이 불가능하다 — 그리고 사기는 폭증하고 있다
AI 생성 인플루언서가 인간 크리에이터와 구별할 수 없는 수준에 이르면서, 미묘한 사기부터 허위 정보까지 갖가지 콘텐츠로 플랫폼이 범람하고 있다. 이는 신뢰를 잠식하고 콘텐츠 모더레이션을 복잡하게 만든다.
generative ai tools enable the creation of photorealistic virtual influencers like aitana lopez and emily pellegrini, which are now indistinguishable from human creators on social media. managed by agencies like the clueless or individuals selling how-to courses, these accounts are monetizing through brand deals, drop-shipping, and romantic scams. unlike early virtual stars, the current wave blends seamlessly with user-generated content, making detection difficult. platforms currently lack effective detection or labeling measures, allowing these accounts to inflate engagement metrics and spread disinformation. this trend signals a shift where the volume of ai-generated personas could outpace human content, fundamentally altering the economics of the influencer industry.