Netflix、LLMで手作り特徴量を置き換え、推薦を改善
Netflixのgenrecシステムはファインチューニングした言語モデルを用いてユーザー履歴をテキストに変換し、従来のロジックを40分の1のデータで上回る性能を達成した。
Netflixは、ユーザーの視聴履歴を10億パラメータのオープンモデル（open-weight model）用の自然言語プロンプトに変換する、新しいレコメンドシステム「Genrec」を実装した。従来のシステムが手作りの特徴量（features）に頼っていたのとは異なり、Genrecはこのテキストベースのアプローチを使用して、VLLMを介して単一のパスでタイトルをスコアリングし、実際のカタログエントリのみをスコアリングすることで幻覚（hallucinations）を防ぐ。オフラインテストでは、ランキング品質が1.6％向上し、このシステムは従来の方法と比較して、ラベル付きトレーニングデータ（labeled training data）を40倍少なくしてこれらの結果を達成した。この実験の成功は、大きな言語モデルが、レコメンドタスクのためのカスタム構築アーキテクチャを効果的に置き換えることができることを示唆している。