Anthropic、10億ドルのAI安全性推進に向けAccentureの評価者を組み込み

anthropicは、サードパーティの安全性評価機関を自社のaiラボに統合するため、accentureと提携しました。1月に買収されたaccentureのfacultyは、anthropicのモデルの評価とレッドチームテストを行い、アライメント評価を実施し、モデルの安全対策をテストします。この協力には、5年間で最低10億ドルの投資が含まれます。この取り組みは、aiの安全性とアライメントを優先するanthropicの努力の一環です。この提携は、モデルの不適切な挙動や、より堅牢な安全対策の必要性をめぐり、ai業界が厳しい検証に直面している中で実現しました。