AI強度スコア175が明かすLLMを支えるデータの実態
新ツール「in the weights」は、Web検索なしにAIモデルが特定の人物をどの程度強く記憶しているかを測定し、スコアは0から996の範囲で示される。これにより、モデルの重みにどの人物がエンコードされているかが明らかになるとともに、小規模モデルが高関連性の学習データに依存している実態が浮き彫りになる。
ジョーイ・フリンとトーマス・ディムソン（ともに元OpenAI）は、'In The Weights'という検索ツールをリリースした。このツールは、いくつかのLLM（大規模言語モデル）に特定の人物がモデルの重み内に保存されているかどうか（検索によってではなく）をクエリする。ツールは結果を集約してリーダーボード上に「強度スコア」を生成する。テイラー・スウィフトのような有名人はほぼ996のスコアを獲得し、一般のジャーナリストは175程度のスコアとなる。クリエイターは、MetaのLLaMAのような小型モデルはより厳しい容量制約を持ち、トレーニング中にのみ高度に重要な個人を保存すると述べている。このユーティリティは、基礎モデルトレーニングデータにどの人物が表現されているかについての透明性を提供し、さまざまなモデルアーキテクチャ間の異なる記憶容量を示している。