Forschende erweitern die von Yann LeCun geprägte JEPA-Architektur so, dass sie in sieben sehr unterschiedlichen Bereichen funktionieren soll. Dabei entstand auch ein Vorschlag gegen Leberkrebs, den das Team im Labor getestet hat.
Weltmodelle sollen vorhersagen, wie sich ein System entwickelt, etwa ein Roboter, ein Molekül oder der Gesundheitszustand eines Patienten. Bislang entsteht dafür meist für jeden Bereich ein eigenes Modell. Ein Team um das Forschungslabor PhAI Labs, unter anderem mit Beteiligung von Stanford, Oxford und Princeton, will zeigen, dass ein gemeinsames Prinzip genügt.
Das Paper stellt dafür JEPA-Anything vor: Grundlage sind sogenannte Joint-Embedding Predictive Architectures (JEPA). Solche Modelle rekonstruieren keine Rohdaten wie Pixel. Stattdessen sagen sie eine abstrakte Zusammenfassung eines fehlenden oder künftigen Zustands vorher. Unwichtige Details sollen so ausgeblendet werden. Die Schwäche des Standardansatzes sehen die Autoren darin, dass alles in eine einzige Vorhersage fließt. Leicht vorhersagbare Muster drängen dabei schwierigere in den Hintergrund.
Mehrere spezialisierte Vorhersagen statt einer
JEPA-Anything zerlegt den vorherzusagenden Zustand deshalb in mehrere Teile, die jeweils ein eigenes Vorhersagemodul erhalten. Eine Zusatzregel drängt die Module dazu, unterschiedliche Aspekte zu erfassen, statt dasselbe zu lernen. Anschließend setzt das Modell die Teilvorhersagen wieder zu einem Gesamtbild zusammen.
Anders als Standard-JEPA zerlegt JEPA-Anything den vorhergesagten Zustand in vier orthogonale Faktoren mit jeweils eigenem Predictor und setzt sie danach wieder zu einem vollständigen Weltzustand zusammen. | Bild: MetaWelche Bedeutung die einzelnen Teile haben, legen die Forschenden nicht fest. Sie ergibt sich erst im Training. Für jeden Anwendungsbereich wird lediglich die Aufbereitung der Daten angepasst, der Kern des Verfahrens bleibt gleich.
Deutliche Gewinne in Dynamiktests, gemischte bei Robotern
Verglichen wurde jeweils mit einem vergleichbar aufgebauten Standard-JEPA, trainiert auf denselben Daten und unter denselben Bedingungen. Besonders deutlich sind die Verbesserungen in mehreren Tests zu dynamischen Systemen. In einer vereinfachten Pong-Umgebung, in die gezielt eingegriffen wird, sinkt der Vorhersagefehler um 35 Prozent. Bei Kombinationen von Eingriffen, die das Modell im Training nie gesehen hat, sind es 13 Prozent.
Auf zehn Testaufgaben aus Physik, Robotik und Wettervorhersage schneidet JEPA-Anything laut den Autoren durchweg besser ab. Bei der Burgers-Gleichung, einem gängigen Testfall für Strömungen, sinkt der Fehler in einer zusätzlichen Auswertung um knapp die Hälfte. In einem separaten Test über 50 Vorhersageschritte bleibt ein Vorteil bestehen, er schrumpft aber auf rund drei Prozent. Auch bei der Simulation von Wasser, Quarz, Paracetamol und Benzol liefert das Verfahren die besten Werte, selbst nach 100 Schritten.
Die größten Fortschritte erzielt JEPA-Anything bei physikalischen Strömungsgleichungen, bei Pixel-Dynamik ist der Unterschied zu Standard-JEPA kaum messbar. | Bild: MetaBei Einzelzelldaten ordnet das Modell Zelltypen zuverlässiger zu. In klinischen Daten sagt es mehr als 1.000 mögliche Krankheitsereignisse etwas besser voraus, während der Unterschied bei Bildern gering ausfällt. In der Bewegungsplanung simulierter Laufroboter gewinnt JEPA-Anything in zwei von drei Umgebungen, in der dritten liegt das Standardmodell vorn.
Vom Modell ins Labor
Den weitreichendsten Anspruch erhebt das Team mit einem Fall aus der Leberkrebsforschung. Die Forschenden werteten die gelernten Teilvorhersagen eines Modells aus, das auf biologischen Messdaten wie Genaktivität, Proteinmengen und CRISPR-Screens trainiert war. Daraus ging als bester Kandidat eine Kombination hervor, die den Botenstoff IL-18, der Immunzellen aktiviert, mit der Blockade des Enzyms CD73 verbindet. Tumoren nutzen CD73, um die Immunabwehr in ihrer Umgebung zu dämpfen.
Das Team testete die Kombination an Leberkrebszellen gemeinsam mit Immunzellen, an Organoiden und Tumorgewebe von jeweils drei Patienten sowie an Mäusen. In den Organoiden und Gewebeproben tötete die Kombination mehr Tumorzellen als IL-18 oder die CD73-Blockade allein. Zugleich waren T-Zellen und natürliche Killerzellen stärker aktiviert. Ob sich daraus eine Therapie ableiten lässt, belegt die Studie nicht.
Die vom Modell vorgeschlagene Kombination aus IL-18 und CD73-Blockade tötete in Organoiden und Tumorfragmenten die meisten Krebszellen und aktivierte die meisten Immunzellen. | Bild: MetaIn einem zweiten Fall trainierten die Forschenden das Modell mit simulierten Umlaufbahnen, ohne ihm physikalische Größen vorzugeben. In den gelernten Mustern fanden sie anschließend nahezu exakt das dritte Keplersche Gesetz wieder, nach dem Himmelskörper auf größeren Bahnen deutlich langsamer umlaufen. Laut dem Gesetz sinkt die Umlauffrequenz mit der Bahngröße hoch minus 1,5, das Modell kam auf minus 1,4991. Ausgewertet wurde allerdings nur ein einziger Trainingslauf, und zwar der mit dem geringsten Fehler.
Dass die gelernten Teile sauber voneinander getrennt sind, heißt laut den Autoren nicht, dass sie echte Ursache-Wirkungs-Zusammenhänge abbilden. Offen ist zudem, ab wann ein solches Modell verlässlich genug ist, um danach Experimente zu planen. Genau das ist das langfristige Ziel des Teams: KI-Agenten sollen mit JEPA-Anything Experimente vorschlagen, priorisieren und die Ergebnisse zurück ins Modell speisen. Code und Modelle sind veröffentlicht.
LeCun hatte JEPA 2022 als Alternative zu generativen Modellen vorgeschlagen. Meta stellte im Juni 2025 mit V-JEPA 2 ein JEPA-Videomodell mit 1,2 Milliarden Parametern vor, das Roboterarme in unbekannten Umgebungen ohne zusätzliches Training steuerte. Im November 2025 legten LeCun und Randall Balestriero mit LeJEPA eine theoretische Grundlage vor, die das Training ohne die bisher üblichen Hilfstricks stabil halten soll. LeCun verfolgt den Ansatz inzwischen mit seinem Start-up AMI Labs, das im März 2026 über eine Milliarde Dollar für die Entwicklung von Weltmodellen einsammelte.
Google Deepmind hatte bereits im Oktober 2025 eine KI-generierte Krebshypothese im Labor prüfen lassen. Das Gemma-basierte Modell C2S-Scale 27B schlug den Wirkstoff Silmitasertib vor, um Tumorzellen für das Immunsystem sichtbarer zu machen, und Experimente mit menschlichen Zellmodellen bestätigten die Vorhersage. Google Deepminds Multi-Agenten-System Co-Scientist plant inzwischen Experimente und steuert Laborgeräte, also Teile des Kreislaufs, den das JEPA-Anything-Team anstrebt. Proben einlegen mussten im Labor aber weiterhin Menschen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
