殺人事件でAIが幻覚生成した証人を用いた弁護士に5000ドルの罰金

ニューメキシコ州最高裁判所は、殺人事件の控訴審において、架空の証人と証言を含む準備書面をChatGPTで生成したとして、弁護士のStephen Aaronsに5,000ドルの罰金を科し、法廷侮辱罪で制裁しました。8月の審理で、Aaronsはリスクを理解しないまま、裁判の「完璧な要約」をChatGPTで生成したことを認めました。C. Shannon Bacon判事は、AaronsがAIのリスクを認識していたかを疑問視し、ニュースを見たり時事問題について読んだりしているのかと尋ねました。この出来事は、法律分野におけるAIツールの使用をめぐる高まり続ける懸念と、弁護士がAI生成情報を検証する必要性を浮き彫りにしています。この事件は、AI生成の虚偽の引用や証言を提出したとして弁護士が罰金を科された、これまでの同様の事例に続くものです。