404 Media、リアルタイムディープフェイク詐欺を支える中国のHaotian AIソフトウェアを暴露
404 Mediaの調査により、ZoomやTeamsなどのプラットフォームでのビデオ通話中にリアルタイムで顔すり替えを可能にする中国のソフトウェア「Haotian AI」が明らかになった。テストでは、この技術がXceptionなどの標準的な検出モデルを効果的に回避できることが示された。作成者らはこのツールを詐欺師に販売することで400万ドル以上を稼ぎ、世界中の詐欺リスクを拡大させている。
Investigation by 404 Media reveals Haotian AI, a Chinese software enabling real-time face-swapping during video calls on platforms like Zoom and Teams. Tests confirm the software effectively bypasses standard detection models like Xception, even when users touch their faces. The creators generated over $4 million by selling this tool to scammers, linking it to Chinese money laundering networks and scam compounds in Southeast Asia.