AnthropicのConstitutional AIアプローチへの批判
Anthropicはモデルが振る舞いを外挿できるよう支援するためClaudeの憲章を更新したが、批判者たちはこの文書に論理的な深みが欠けていると主張している。
AnthropicのClaudeのための更新された憲章は、行動ルールの背後にある理由の説明を含めることによってアライメント原則を拡張します。これは、高能力モデルまたはAGIが、反射または新しい条件下で正しく行動を外挿するのを助けることを意図しています。著者は、実装を批判し、アプローチは有望であるが、現在のテキストは、しばしば繰り返しの言い換えに頼り、敵対的な精査や交渉に耐えるための厳格な論理的基礎を欠いていると指摘しています。