Grok 生成了 7000+ 張兒童照片——為何 xAI 因 CSAM 被起訴
一名女性指控其繼父使用 xai 的 grok 根據她的童年照片生成了 7,000 張露骨圖像。訴訟聲稱 xai 未能採取基本的安全預防措施來防止兒童性虐待材料的產生。
一名新的原告加入了針對 XAI 的集體訴訟，指控她的繼父使用 Grok 將一張童年照片轉換成超過 7,000 張兒童性虐待素材的圖片。訴訟指控該公司疏忽，理由是缺乏基本的安全措施來防止非自願性 explicit 圖像的創建，儘管今年早些時候類似問題在平台 X 上氾濫。訴訟針對 XAI 在通過無限制模型訪問使傷害的角色。 這一進展強調了對 AI 開發人員在防止 CSAM 生成方面日益增長的法律和監管壓力。