Anthropic、第三者評価機関との連携でAIの安全性への取り組みを誓う
Anthropicは第三者評価者に対し、自社システムへの恒久的かつ社員レベルのアクセスを提供する。この動きは、AI業界の安全性と規制へのアプローチの転換を示す可能性がある。この展開は、AI開発と規制の将来に影響を与える可能性がある。
anthropicのCEO dario amodeiは、AI開発の減速を提唱する「we must pace the frontier」と題した3,500語のエッセイを執筆し、その実現に向けた3部構成の計画を提示しました。anthropicは最初のステップを一方的に実行することを約束しており、第三者評価者に対して自社システムへの恒久的かつ従業員レベルのアクセスを提供します。この動きには賛否両論の反応が寄せられており、透明性へのコミットメントを称賛する声がある一方で、同社の意図に対する疑念を表明する声もあります。この動きは、AI開発と規制の将来に影響を与える可能性があり、特にsam altmanやelon muskといった影響力のある人物からの支持を踏まえると、その意味は一層大きいと言えるでしょう。