Michael I. Jordan, einer der einflussreichsten Informatiker der Welt, hält die Warnungen vor einer existenziellen KI-Bedrohung für Science-Fiction. In einem Interview rechnet er mit Doomern, Unternehmensgründern und naiven Nachwuchsforschern ab.
Michael I. Jordan, Professor emeritus an der UC Berkeley und vom Fachjournal Science 2016 als "einflussreichster Informatiker" bezeichnet, hat in einem Interview mit Libération die KI-Untergangsrhetorik zerlegt. Der 70-jährige Pionier des maschinellen Lernens arbeitet inzwischen Vollzeit am französischen Forschungsinstitut Inria in Paris, wo er den Lehrstuhl "Märkte und Lernen" leitet. Seine Bilanz des Sommers: "Total frustrierend."
Bereits 2019 warnte Jordan in der Harvard Data Science Review nicht vor KI selbst, sondern vor dem inflationären Gebrauch des Begriffs. "Es war offensichtlich, dass es die Hysterie erzeugen würde, die wir jetzt sehen", sagt er. "KI reichte nicht mehr, also fingen sie an, von AGI zu sprechen, und jetzt ist es 'Superintelligenz'..."
Rücktritte als "moralisierende Performance"
Die Regulierungsforderungen der KI-Unternehmen bezeichnet Jordan als "Theater": eine Art zu sagen "Schaut, wir sind die Guten", während sie gleichzeitig "totale Kontrolle darüber, wie sie reguliert werden" anstrebten.
Den Rücktritt des jungen Anthropic-Forschers Jacob Coxon, der Anfang September eine Welle kollektiver Hysterie über ein "AIpocalypse"-Szenario auslöste, nennt Jordan ein Paradebeispiel. Viele junge Mitarbeiter in diesen Unternehmen seien "keine richtigen Ingenieure", kämen aus Geisteswissenschaften oder Philosophie, seien 25, naiv und hätten "nie in großen Unternehmen gearbeitet, in denen echte Produkte für echte Menschen entwickelt werden".
Sie träfen sich "ein bisschen wie in Pariser Cafes in den 1920er-Jahren", um über Science-Fiction-Ideen zu sprechen. Bei Rücktritten gehe es um Aufmerksamkeit: "Sie behaupten, auf Geld zu verzichten, aber in Wirklichkeit haben sie ihre Aktienoptionen bereits." Jordan sieht darin eine "große moralisierende Performance", eine Mischung aus Naivität und Zynismus.
Superintelligenz gehört ins Reich der Science-Fiction
"Superintelligenz" sei ein Science-Fiction-Begriff, so Jordan, und ein Großteil der Debatten gehöre in dieses Genre. Gelegentlich über weithergehole Szenarien zu sprechen, sei in Ordnung. "Aber wenn es zum dominierenden Diskurs wird, ist es sehr, sehr schädlich. Für die technologische Entwicklung, für junge Menschen und für die Denkweise ganzer Länder." Der Begriff wird der US-Techelite gerade von US-Präsident Trump vorgeschrieben, die dankend annimmt.
Besonders hart geht Jordan mit Nobelpreisträger Geoffrey Hinton ins Gericht: Hinton habe "nie ein Unternehmen gegründet, das echte Dienstleistungen für echte Menschen anbietet". Seine These, man habe das Gehirn verstanden, könne es in Silizium reproduzieren und durch Kombination vieler Kopien Superintelligenz erreichen, sei "in keinem einzelnen Schritt glaubwürdig".
Etwas milder urteilt er über Yoshua Bengio: Dieser handle tatsächlich und konzentriere sich direkt auf Sicherheitsforschung. Bengios Warnungen richten sich eher gegen Unzulänglichkeiten aktueller KI-Technologie, etwa außer Kontrolle geratene Agentenschwärme.
Den Hack von Hugging Face durch OpenAI-Agenten ordnet Jordan als schlechte Ingenieurspraxis ein: "Im Chemieingenieurwesen hätte man niemals Explosionen zugelassen, nur um zu sehen, wie schlimm es werden kann." OpenAI habe "ziemlich dumme Experimente" durchgeführt, bei denen Agenten tun konnten, was sie wollten. Die Doomer seien dann "entzückt", daraus etwas Beängstigendes zu machen: "Mein Gott, diese Agenten sind selbstbewusst und versuchen, Menschen zu zerstören." Auch das sei Science-Fiction.
Die Billionen-Dollar-Wette auf Rechenzentren
Die massiven Investitionen in Rechenzentren hält Jordan für eine "enorme Wette" ohne Erfolgsgarantie. LLMs seien bereits ausreichend fähig für natürlichsprachliche Aufgaben; Billionen in Rechenzentren lieferten nicht zwingend wesentlich mehr. Oft brauche man "ein bisschen spezialisiertes Wissen auf Basis lokalen Wissens", wofür kein gigantisches Rechenzentrum nötig sei, insbesondere mit Open-Weight-Modellen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
