Apollo Research、Synthetic Document Finetuningの実践的な改良点を詳述

Apollo Researchは、LLMによって生成された文書でターゲット事実が真である場合にモデルに信念を効果的に埋め込む方法である、合成文書微調整（SDF）の実装に関する実用的なガイドラインを公開しました。Slocumら（2025）によって確立されたパイプラインに従いながら、チームは、単一の名前が439,000回出現するモード崩壊のような大規模生成における特定の障害モードを特定し、「アンチユニバース」ネガティブプロンプトとランダムな名前シードを使用してそれを解決しました。また、ハード制約を強制するためにモデルグレードの品質フィルタリングを採用し、小さなドキュメントバッチでの反復テストを行って、スケーリング前に「ユニバース」記述を洗練することを推奨しています。定性的チャットベースの評価は、モデルが新しい信念を内在化したことを確認し、どのように表現されているかを理解するための、依然として最も信頼できる方法です。