OpenAI, ChatGPT로 로맨스 스캠을 벌인 캄보디아 범죄 조직 차단
OpenAI가 ChatGPT를 사용해 로맨스 및 투자 사기를 벌인 캄보디아 조직을 차단했습니다. 이는 AI 안전 팀이 사이버 범죄자들에 의한 LLM 무기화에 적극적으로 맞서고 있음을 증명합니다.
openai disrupted a cambodian threat actor using chatgpt to facilitate large-scale investment, romance, and gambling scams. the company identified and stopped the operation, which leveraged ai tools to generate high-volume, personalized content for fraudulent schemes. this action signals that AI labs are moving beyond passive safety filters to actively investigate and dismantle malicious use cases. it serves as a precedent for how the industry will handle state-aligned or criminal groups attempting to automate fraud.