# LLMネイティブ推薦 ## 定義 大規模言語モデル(LLM)を、既存の推薦アーキテクチャへ後付けする補助要素としてではなく、ランキング/スコアリングそのものを担う中核コンポーネントとして用いる推薦システム設計を指す。ユーザー履歴・アイテムメタデータ・文脈を密な特徴量ではなく自然言語として**言語化(verbalize)**し、LLM の意味空間の中でアイテム間関係や嗜好パターンを表現させる点が、従来の特徴量ベース推薦との本質的な違いである。(Source: [[@2026__Netflix TechBlog__GenRec - Towards LLM-native Recommendation at Netflix]]) ## 構成要素 Netflix の GenRec を代表例とすると、LLM ネイティブ推薦は以下の要素で構成される。 - **言語化(verbalization)**: ユーザー履歴・アイテムメタデータ・文脈を単一のテキスト系列へシリアライズする。特徴量エンジニアリングの代わりに何を含め何を省くかを設計する**コンテキストエンジニアリング**が中心作業になる([[コンテキストエンジニアリング]] を参照)。 - **カタログ対応スコアリングヘッド**: LLM が出力するプーリング済み隠れ状態とカタログ内アイテムの学習済み埋め込みを組み合わせ、カタログ全体(または候補集合)に対するスコア分布を生成する。オープンボキャブラリな自己回帰生成ではなく、カタログに制約されたスコアリングを行うことで、カタログ外アイテムの幻覚を構造的に防ぐ。 - **マルチ目的損失**: ランキング目的(交差エントロピー)・言語モデリング目的・報酬重み付け目的関数(長期満足度の代理指標や事業要件によるリバランシング)を組み合わせて学習する。生のインタラクション系列のみに頼ると、ビンジ視聴や特定コンテンツ種別への偏りを助長するため、報酬重み付けによるアラインメントが必要になる。 - **prefill-onlyサービング**: 推論時はプロンプトを1回消費し、候補アイテム全体のスコアを1回のフォワードパスで算出する。トークンごとの自己回帰デコードを行わないため、フルカタログランキングのような大規模候補集合を扱うタスクでもコストを抑えられる([[LLM推論]] を参照)。 - **2フェーズ学習**: 汎用の Netflix 適応基盤 LLM(低頻度更新)を土台に、ランキング特化の post-training(高頻度更新)を重ねる。基盤モデルの構築と、タスク特化のアラインメントを分離することで、コンテンツと嗜好の変化に対する追従性とコストのバランスを取る。 ## 従来の推薦システムとの対比 | | 従来の特徴量ベース推薦 | LLM ネイティブ推薦 | |---|---|---| | 入力表現 | 手作りの密/埋め込み特徴量 | 言語化された自然言語プロンプト | | モデリング効率の中心作業 | 特徴量エンジニアリング | コンテキストエンジニアリング(何を含め/省き/圧縮するか) | | アーキテクチャ | タスクごとの専用アーキテクチャ(two-tower、DLRM系等) | 共有される基盤 LLM バックボーン + タスク特化ヘッド | | 性能改善の主な軸 | 特徴量追加・アーキテクチャ改良 | データ・モデルサイズのスケーリング則 | | 推論時の計算特性 | 特徴量抽出 + 比較的軽量なモデル | prefill-only 推論によるフルカタログ一括スコアリング | GenRec の報告では、この設計転換により、成熟した本番ランカーに比べてはるかに少ないラベル付きデータ(オフラインで約40分の1、データ効率評価では10〜40分の1)で同等以上のランキング品質を達成できたとされる。(Source: [[@2026__Netflix TechBlog__GenRec - Towards LLM-native Recommendation at Netflix]]) ## 横断的知見 - (まだ単一ソースのみのため横断的知見は蓄積されていない。2ソース目以降、他社・他アーキテクチャの LLM4Rec 事例と突き合わせて追記する。) ## 未解決の問い - GenRec は Netflix 固有の内製基盤 LLM を前提とするが、この 2 フェーズ構成(汎用適応 → タスク特化 post-training)は、内製基盤モデルを持たない組織でも既製 LLM の post-training だけで同等の効果を再現できるのか。 - 報酬重み付け損失によるアラインメントは「完全な強化学習より単純かつコスト効率が高い」とされるが、GRPO のような RL 系手法と比べた際の品質差はどの程度で、どの条件でコストに見合うのか(記事は今後の課題として明言するのみで定量比較を示していない)。 - prefill-only 推論によるフルカタログスコアリングは、カタログサイズが Netflix よりさらに大きい(例: EC サイトの数億アイテム規模)場合にコスト面で成立するのか。sampled softmax や候補集合による近似の限界はどこにあるのか。 - コンテキストエンジニアリングの「エルボーポイント」(収穫逓減に転じる履歴イベント数)はドメイン・ユーザー行動パターンに強く依存すると考えられるが、どのような要因がエルボーポイントの位置を左右するのか。 ## 関連 - [[Netflix]] — GenRec の実装主体 - [[コンテキストエンジニアリング]] — AI エージェント開発領域で先に定式化された概念が RecSys 領域へ適用された事例 - [[LLM推論]] — prefill-only 推論、フルカタログスコアリングのコスト特性 - [[@2026__Netflix TechBlog__In-House LLM Serving at Netflix]] — GenRec が利用する内製 vLLM/Triton サービング基盤 ## 出典 - [[@2026__Netflix TechBlog__GenRec - Towards LLM-native Recommendation at Netflix]]