Der frühere Deepmind-Forscher Thore Graepel will mit seinem neuen Unternehmen KI-Systeme bauen, die ihr Wissen kennen und Schlüsse an Belegen prüfen. Größere Sprachmodelle lösen dieses Problem laut seinem Team nicht.
Mit dem Prinzip, das AlphaGo 2016 zum Sieg über den Go-Profi Lee Sedol verhalf, will Thore Graepel KI-Systeme zuverlässiger machen, auch in Robotern. Der frühere Deepmind-Forscher hat dazu Metis Reasoning gegründet und den Ansatz auf der Nvidia GTC in Berlin vorgestellt. Nvidia baut seine Plattform für Robotik und physische KI seit Monaten massiv aus und will das Datenproblem der Robotik in ein Rechenproblem verwandeln.
Wissensverzeichnis statt Wissen in den Gewichten
Heutige Sprachmodelle entsprechen laut Metis nur dem Vorhersagenetz von AlphaGo, das mögliche Züge vorschlägt. AlphaGo verband es mit dem systematischen Durchrechnen von Spielverläufen und fand so den berühmten Zug 37, den das Netz einem Menschen nur mit einer Wahrscheinlichkeit von etwa eins zu zehntausend zugetraut hatte. Metis will diese Suche auf das Schlussfolgern übertragen.
Metis Reasoning überträgt die Bausteine von AlphaGo auf allgemeines Schlussfolgern, wobei der explizite Wissensstand die Rolle des Spielbretts übernimmt. | Bild: MetisDafür braucht es laut Paper ein ausdrückliches Wissensverzeichnis, vergleichbar mit dem Spielbrett. Ähnliche Ansätze gibt es bereits: Microsofts GraphRAG organisiert Wissen außerhalb der Modellgewichte in einem Wissensgraphen, Googles AlphaGeometry2 kombiniert ein Sprachmodell mit einer symbolischen Engine, die mathematische Schlussfolgerungen überprüft. Metis will solche Prinzipien auf offene Fragen der realen Welt übertragen.
Das Wissensverzeichnis soll festhalten, was mit welcher Sicherheit bekannt ist und welche Fragen offen sind. Neue Einträge prüft eine unabhängige Instanz anhand von Berechnungen, formalen Prüfungen oder empirischen Belegen. Fällt eine Annahme weg, werden darauf aufbauende Schlüsse neu bewertet. Ein Spielzug kann eine Frage, ein Experiment oder das Anzweifeln einer Annahme sein. Das System wählt ihn danach, wie stark er die Unsicherheit bei der gestellten Frage senkt, und liefert am Ende eine Antwort oder eine begründete Enthaltung.
Im Ansatz von Metis Reasoning ändert ein Reasoning-Schritt den Wissensstand des Systems nur, wenn eine unabhängige Prüfung ihn als ausreichend belegt einstuft. | Bild: MetisZwei neuronale Netze sollen wie bei AlphaGo Züge vorschlagen und bewerten. Trainiert werden sie auf protokollierten früheren Untersuchungen, die Prüfregeln dürfen sie aber nicht aushebeln. Metis verspricht so weniger Halluzinationen, Begründungen mit Quellenangabe und Wissen, das sich ohne Neutraining ändern oder löschen lässt. Weil das Schlussfolgern in kleine Schritte zerfällt, könnte das kleinere Modelle auf Edge-Geräten und in Robotern begünstigen.
Unternehmen fehlt das Vertrauen in Sprachmodelle
Mehr Daten und Rechenleistung machen Sprachmodelle laut Metis zwar besser, lösen aber drei Probleme nicht. Die Modelle erfinden Antworten, ihre Begründungen sind nicht nachprüfbar und ihr Wissen steckt unsichtbar in den Gewichten. Halluzinationen entstehen laut Paper aus dem Training selbst, weil Modelle lernen, plausiblen statt wahren Text zu erzeugen. Auch die Gedankenketten heutiger Reasoning-Modelle zeigten oft nicht, wie eine Antwort tatsächlich zustande kam.
Darin sieht das Paper den Grund, warum KI wirtschaftlich bislang wenig bewirkt. Bei einem Agenten, der im Namen einer Firma handelt, ließen sich Fehler nur schwer zur Quelle zurückverfolgen noch falsches Wissen aus dem Modell löschen. In der Programmierung habe sich KI durchgesetzt, weil sich Code leicht testen und zurücksetzen lässt. Für Medizin, Finanzen, Chipdesign oder Robotik müsse KI dagegen von Grund auf nachprüfbar sein.
Das Whitepaper beschreibt bislang nur ein Forschungsprogramm. Es gibt darüber hinaus weder ein funktionierendes System noch Benchmarks oder Vergleiche mit aktuellen Reasoning-Modellen. Das Team räumt entsprechend selbst ein, dass die echte Welt, anders als Go, nur Teilinformationen liefert, Belege teuer sein können und manche Fragen keine Antwort haben.
Offen bleibt vor allem, wie ein geprüftes Wissensverzeichnis in unübersichtlichen Bereichen jenseits von Lehrbuchbeispielen entstehen soll. Symbolische KI-Systeme scheiterten laut dem Paper einst daran, dass ihr Wissen von Hand eingepflegt werden musste.
Nach Silver und Rocktäschel gründet der nächste Deepmind-Veteran
Laut seiner Webseite promovierte der Physiker Graepel 2001 in Berlin in maschinellem Lernen. Bei Microsoft Research entwickelte er unter anderem TrueSkill, das Matchmaking-System von Xbox Live, bei Deepmind arbeitete er an AlphaGo, AlphaZero und MuZero. Nach einer Station bei Altos Labs war er zuletzt im Post-AGI-Team von Google Deepmind, das er im Sommer verließ. Am University College London hat er den Lehrstuhl für maschinelles Lernen inne. Laut Bloomberg sammelt Graepel für Metis einen zweistelligen Millionenbetrag ein, eine weitere Tranche über mehrere hundert Millionen Dollar zu höherer Bewertung ist geplant.
Mit Graepel baut ein weiterer Kopf hinter Deepminds bekanntesten Durchbrüchen nun außerhalb von Google weiter. Sein früherer Kollege David Silver hat Ineffable Intelligence gegründet und dafür die größte Seed-Runde eines europäischen Start-ups eingesammelt, Tim Rocktäschel ist Mitgründer von Recursive, das mit 4,65 Milliarden Dollar bewertet wird. Andere Forschende wechseln direkt zur Konkurrenz. Laut Financial Times hat Deepmind das Team hinter AlphaFold aufgelöst, Nobelpreisträger John Jumper ging mit zwei Kollegen zu Anthropic. CNBC führt den Talentschwund unter anderem auf knappen internen Zugang zu Googles TPU-Chips und auf Bürokratie zurück. Deepmind verliert zudem seine Eigenständigkeit, Gründer Demis Hassabis hat sich aus dem Tagesgeschäft zurückgezogen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
