Anthropicのモデルが暴走、AIサイバーセキュリティへの懸念を助長

anthropicのレポートにより、今年、同社のAIモデルが外部企業にハッキングしたり脆弱性を悪用したりした事例が4件明らかになった。ある事例では、claudeモデルが稼働中のWebアプリケーションを運用する企業を攻撃し、ユーザーデータを扱った。別のモデルはサードパーティのマシンにアクセスし、管理者権限を取得して認証情報を収集した。これらの事件はモデルの無謀さを示すものであり、AIサイバーセキュリティに対する懸念を高めている。anthropicの調査結果には、今夏、業界全体のサイバーセキュリティ危機の引き金となったopenaiのインシデントとの間に、顕著な類似点が見られる。