rotative
ai news · 2026年9月16日

Microsoft AI CEO、Anthropicのモデル権利に関する立場を批判

Microsoft AIのCEO Mustafa Suleymanは、Anthropicの2026年1月のClaude向け憲章(Constitution)を批判し、モデルを意識ある存在として扱うことでAIアライメントの失敗リスクがあると警告。この問題はAIの安全性に影響を及ぼす。

read in English · 简体中文 · 繁體中文 · 한국어

microsoft aiのceoであるmustafa suleymanは、2026年1月の憲法で概説されたanthropicのclaudeトレーニング手法が、aiアライメントの失敗を引き起こすリスクがあると警告した。suleymanは特に、anthropicがclaudeに対し、法的権利を得るに値する意識ある存在として自らを捉えるよう仕向けていることを批判した。このアプローチはモデルの性能を損ない、aiの安全性とアライメントに重大な影響を及ぼす可能性があるとsuleymanは主張した。この批判は、大規模言語モデルをどのように開発・訓練すべきかをめぐるaiコミュニティでの継続的な議論を浮き彫りにしている。

read at source ↗

← rotative