Netflix hat sein über Jahre optimiertes Empfehlungssystem gegen ein Sprachmodell antreten lassen und dabei nach eigenen Angaben bessere Ergebnisse erzielt. Das System namens GenRec kam mit einem Bruchteil der bisher nötigen gelabelten Trainingsbeispiele aus.
Das bisherige Netflix-Empfehlungssystem stützt sich laut einem Blogpost des Netflix-Tech-Teams auf Tausende handgefertigte Merkmale über Nutzer, Titel und Interaktionen. Diese Komplexität mache es teuer, neue Inhalte wie Spiele, Live-Formate oder Podcasts sowie neue Bereiche der Netflix-Oberfläche anzubinden. Standard-Sprachmodelle seien für Empfehlungen aber ebenfalls nicht einsatzbereit. Sie schlagen zu oft populäre Inhalte vor, erfinden Titel, die es im Katalog gar nicht gibt, und ignorieren geschäftliche Vorgaben.
GenRec soll diese Lücke schließen. Netflix trainiert dazu ein hauseigenes Modell in zwei Stufen. Zuerst wird ein ungenanntes Open-Weight-Sprachmodell auf Netflix-Daten angepasst, damit es Katalog und Nutzerverhalten versteht. Anschließend wird dieses Basismodell durch ein spezielles Nachtraining zum eigentlichen Empfehlungsmodell weiterentwickelt. Diese zweite Stufe wird häufiger aktualisiert, um neue Titel und veränderte Vorlieben abzubilden.
GenRec übersetzt Sehverlauf und Kontext in Text, statt sie als handgebaute Features zu modellieren. | Bild: NetflixNutzerhistorie als Fließtext
Statt Nutzerdaten in dichte Zahlenreihen zu übersetzen, schreibt Netflix sie in Fließtext um. Wiedergaben, Wiedergabedauern, Daumen hoch oder runter, Listeneinträge und Abbrüche werden zu einer Art Dialog zwischen Nutzer und Empfehlungssystem. Das Modell soll Muster wie thematische Vorlieben oder wechselnde Interessen selbst erkennen, statt sie über händisch gebaute Merkmale vorgesetzt zu bekommen.
Netflix passt in Phase 1 ein Open-Source-Modell auf eigene Daten an und trainiert es in Phase 2 gezielt fürs Ranking nach. | Bild: NetflixWeil eine vollständige Textfassung aller Interaktionen den zulässigen Textumfang sprengen würde, filtert Netflix aggressiv. Aussagekräftige Ereignisse wie lange Wiedergaben bleiben ausführlich erhalten, kurzes Antippen oder flüchtiges Überfliegen fallen weg, Binge-Sessions werden zusammengefasst. Damit das Modell keine Titel vorschlägt, die im Katalog gar nicht existieren, ergänzt Netflix eine zusätzliche Komponente, die ausschließlich echte Katalogtitel bewertet.
Ab der aktuell gewählten Kontextlänge bringt jedes zusätzliche Ereignis im Prompt kaum noch Rankingqualität, kostet aber Rechenzeit. | Bild: NetflixAusgeliefert wird GenRec über die Software vLLM in einem Modus, bei dem das Modell die Eingabe einmal liest und dann alle Kandidaten in einem Durchgang bewertet, ohne selbst Text zu erzeugen. Das hält die Kosten im Rahmen.
Kleine Prozente, statistisch belastbar
Im Vergleich zum "über viele Jahre getunten" Produktionssystem lieferte GenRec offline eine um rund 1,6 Prozent bessere Trefferqualität in der Empfehlungsliste. Dafür benötigte das Modell rund 40-mal weniger gelabelte Beispiele in der zweiten Trainingsstufe. Der Vergleich bezieht sich also nicht auf sämtliche Trainingsdaten, sondern auf diese spezielle Phase.
Mehr Phase-2-Trainingsdaten verbessern die Rankingqualität des rund zehn Milliarden Parameter großen Modells, der Zugewinn wird nach oben hin kleiner. | Bild: NetflixOnline lief ein vierwöchiger A/B-Test auf rund zehn Prozent des Netflix-Traffics, begrenzt auf Empfehlungsflächen, die im Voraus berechnet werden. Eine kurzfristige Kennzahl zum Nutzerverhalten auf der Startseite stieg um 0,115 Prozent, eine langfristige Kernkennzahl um 0,006 Prozent. Beide Verbesserungen sind laut Netflix zu deutlich, um durch Zufall erklärbar zu sein.
Bei einem A/B-Test über rund zehn Prozent des Traffics schlägt GenRec das eingesetzte Ranking-Modell in beiden Metriken. | Bild: NetflixDas empfehlungsspezifische Nachtraining legt weitere 35 bis 50 Prozent darauf. Ist das Basismodell bereits zwei Wochen alt, wächst der Vorsprung dieses Nachtrainings sogar auf rund 80 Prozent, weil das Basismodell dann neue Titel und veränderte Vorlieben nicht mehr abbildet. Empfehlungsmodelle veralten also schnell.
Context Engineering statt Feature Engineering
Netflix ordnet GenRec in einen breiteren Wandel ein, der sich auch in Arbeiten wie PLUM, GLIDE und OneRec-Think abzeichnet. Statt maßgeschneiderter Architekturen für jede Empfehlungsaufgabe soll ein gemeinsames Sprachmodell mehrere Anwendungsfälle bedienen. Die Arbeit verschiebt sich vom Bau immer neuer Merkmale hin zur Frage, welche Signale in welchem Umfang in die Eingabe des Modells gehören. Auch die Infrastruktur wandert in Richtung GPU-Server und Sprachmodell-Werkzeuge.
Das Netflix-Team bezeichnet GenRec selbst als "frühen, aber vielversprechenden Schritt" und beschreibt das System als starke Alternative zu klassischen Empfehlungsmodellen. Eine vollständige Ablösung des bestehenden Systems ist damit nicht verbunden.
Netflix nutzt maschinelles Lernen seit Jahren auch abseits der Empfehlungsliste. Schon 2020 beschrieb der Konzern, wie Wissensgraphen und Similarity Maps vorhersagen, welcher Inhaltskategorie ein geplanter Titel zuzuordnen ist und welche Zuschauerzahlen er in welchem Land erreichen dürfte. Damals verarbeitete Googles Sprachmodell BERT lediglich die menschlichen Titelzusammenfassungen und lieferte maschinenlesbare Repräsentationen an nachgelagerte Modelle. Auch in der Produktion setzt Netflix inzwischen auf eigene Modelle und veröffentlicht sie teils offen, etwa das Framework VOID zur Objektentfernung in Videos.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
