AnthropicのClaudeは人間ではなくAIのために文章を書いている

anthropicのclaudeモデルは数学、コード、推論能力において向上が見られる一方、文章の品質は停滞し、低下さえしています。anthropicのエンジニアであるjackson kernionによると、これは新しいモデルが数学やコードに最適化され、さらに他のAIモデルを対象とした技術的説明にも最適化されているためです。その結果、情報密度が高すぎて人間の読者には追いにくい文体が生まれてしまいました。kernionはこれを、自閉症の人々同士だけでコミュニケーションを取る人間に例えています。その集団内では通用するスタイルを発達させても、部外者には理解しにくいというものです。この問題の核心は強化学習における報酬構造にあり、人間の理解よりもAIモデルの理解が優先される場合があることにあります。opus 5.5ではanthropicがより良いバランスを見出しましたが、依然として解決の難しい問題です。