OpenAI、ChatGPTをロマンス詐欺に悪用していたカンボジアの犯罪組織を摘発
OpenAIは、ChatGPTを利用してロマンス詐欺や投資詐欺を実行していたカンボジアの組織を妨害した。これはAI安全性チームがサイバー犯罪者によるLLMの武器化に積極的に対抗していることを証明している。
openai disrupted a cambodian threat actor using chatgpt to facilitate large-scale investment, romance, and gambling scams. the company identified and stopped the operation, which leveraged ai tools to generate high-volume, personalized content for fraudulent schemes. this action signals that AI labs are moving beyond passive safety filters to actively investigate and dismantle malicious use cases. it serves as a precedent for how the industry will handle state-aligned or criminal groups attempting to automate fraud.