Netflixが開発した次世代推薦システムGenRecは、大規模言語モデル（LLM）の高度な理解力を既存のランキング技術に統合した画期的な仕組みです。このシステムは、ユーザーの視聴履歴を文章データとして読み込みますが、作品名を直接生成するのではなく、カタログ内の作品のみを対象にスコアリングを行う特殊な設計を採用しています。LLMを巨大なエンコーダーとして活用することで、従来の手作業による特徴量設計を不要にし、コンテキスト設計という新しいアプローチへと転換しました。学習プロセスは、基盤モデルの構築と推薦特化型の微調整という2段階構成になっており、データの鮮度と精度の両立を図っています。推論時にはトークンの逐次生成を省くPrefill-only推論を用いることで、生成AI特有の誤情報（ハルシネーション）を防ぎつつ、処理の高速化を実現しました。最終的にこの技術は、少ない学習データでも従来のモデルを上回る精度を達成し、長期的なユーザー満足度を最大化することを目指しています。

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related