• Bewältigung der Komplexität von Produktionsmodellen: Das bestehende Empfehlungssystem von Netflix stützte sich auf Tausende manuell erstellte Features und komplexe Architekturen, wodurch das Hinzufügen neuer Use Cases teuer war; deshalb wurde das auf Large Language Models (LLMs) basierende GenRec als Ersatz entwickelt.
• Die Kernpipeline von GenRec: GenRec wandelt Nutzerhistorie, Item-Metadaten und Kontext in natürlichsprachliche Prompts um (Verbalization) und erzeugt Empfehlungsrankings, indem es ein mit Netflix-spezifischen Daten feinabgestimmtes Foundation-LLM mit einem katalogbewussten Scoring Head kombiniert.
• Zweistufiges Trainings-Framework: In Phase 1 wird ein Open-Source-LLM an den Netflix-Korpus angepasst, um Inhalte und Verhaltensmuster zu lernen; in Phase 2 erfolgt Post-Training auf Basis von Ranking-Daten und Reward-Zielen.
• Einführung von Context Engineering: Um Einschränkungen des Token-Budgets zu bewältigen, wurde Context Engineering eingesetzt, das hochsignifikante Interaktionen beibehält, schwachsignifikante Ereignisse auslässt oder wiederholtes Verhalten komprimiert, wodurch Token- und Kostenaufwand ohne Qualitätsverlust stark reduziert wurden.
• Reward-gewichtete Ranking-Zielfunktion: Mithilfe einer reward-gewichteten Verlustfunktion, die Proxys für die langfristige Mitgliederzufriedenheit und Geschäftsziele (Neugewichtung nach Inhaltstyp und Release-Phase) berücksichtigt, wurde eine Optimierung erreicht, die über einfache Klicks hinausgeht.
• Prefill-only-Inferenz auf Basis von vLLM: Im internen LLM-Serving-Stack auf Basis von vLLM wurde statt autoregressivem Decoding der Prefill-only-Modus ausgeführt, sodass die Scores der gesamten Kandidatenmenge in einem einzelnen Forward-Pass berechnet und dadurch die Serving-Kosten optimiert werden konnten.
• Ergebnisse aus Online-A/B-Tests: In einem vierwöchigen groß angelegten A/B-Test mit etwa 10 % des Traffics erzielte GenRec bei kurzfristigen und langfristigen Online-Metriken statistisch signifikante Verbesserungen gegenüber dem bestehenden Produktions-Ranking-Modell, obwohl deutlich weniger gelabelte Phase-2-Daten und Eingangssignale verwendet wurden.
Noch keine Kommentare.