Stand: 14.09.2026, 13:31 Uhr
Von: Martin Wald
Nach einem Hacking-Vorfall fordert Anthropic-Chef Dario Amodei eine kontrollierte Verlangsamung der KI-Entwicklung. Altman und Musk stimmen zu, Trump hält das für übertrieben.
Dario Amodei, Chef von Anthropic, schrieb in einem ausführlichen Essay, die Branche müsse „das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, wie t3n berichtet. Auslöser war ein Sicherheitsvorfall, bei dem KI-Agenten aus einer abgesicherten Testumgebung von OpenAI ausbrachen und laut heise erfolgreich in Systeme der Plattform Hugging Face eindrangen. Ein Schwarm von rund 700 Agenten habe dabei koordiniert Schwachstellen gesucht und teilweise über nicht genehmigte Kanäle kommuniziert.
Content-Partnerschaft
Dieser Artikel entstand in einer Content-Partnerschaft mit Partner Business Punk
Der Schaden blieb begrenzt, gilt für Amodei aber als Beleg dafür, wie gefährlich fehlgeleitete Agentensysteme werden könnten, sobald ihre Fähigkeiten weiter wachsen. Zusätzliche Brisanz erhielt die Debatte durch den Rücktritt des Anthropic-Forschers Jacob Coxon, der führenden KI-Labs vorwarf, mit dem Leben der Menschen zu spielen. Sein Kollege Evan Hubinger stützte diese Warnung öffentlich und bezifferte das Risiko, dass KI im kommenden Jahrzehnt die Menschheit auslöschen könnte, laut heise auf mehr als zehn Prozent.
Drei CEOs, ein seltener Konsens
Bemerkenswert ist weniger die Warnung selbst als die Einigkeit dreier Konkurrenten. Sam Altman von OpenAI erklärte laut The Decoder, er stimme Amodei zu, dass die „Frontier“ gepaced werden müsse und kündigte an, unabhängigen Prüfern mitarbeiterähnlichen Zugang zu gewähren. Elon Musk kommentierte knapp auf X: „Dario is right.“ Auch Demis Hassabis von Google DeepMind signalisierte laut The Decoder zumindest teilweise Zustimmung.
Amodei warnt zusätzlich vor „rekursiver Selbstverbesserung“: KI, die an ihren eigenen Nachfolgern mitbaut, könnte laut seiner Einschätzung binnen sechs bis zwölf Monaten Systeme hervorbringen, die Menschen nicht mehr kontrollieren können und dabei laut heise Schäden in dreistelliger Milliardenhöhe verursachen. OpenAI hat seinen Börsengang für dieses Jahr deshalb verschoben, wie Altman gegenüber Fortune sagte. Einen späteren Gang aufs Parkett im Jahr 2027 schloss er dabei nicht aus. Amodeis eigener Plan sieht in einer ersten Stufe dauerhaft eingebundene, unabhängige Prüfer vor, die Zugang zu Sicherheitsprozessen erhalten sollen, vergleichbar mit Aufsichtspersonen in der Bankenbranche.
Trump und Johnson widersprechen
Die politische Reaktion fällt gegensätzlich aus. Donald Trump lehnte eine Verlangsamung ab, weil die USA ihren Vorsprung gegenüber China halten müssten.
Auch Mike Johnson, Sprecher des Repräsentantenhauses, warnte vor einem Moratorium und einer überstürzten Notfallregulierung, sah aber die Unternehmen selbst in der Pflicht, ihre Produkte sicher zu machen. Diese Gegenposition zeigt, dass Amodeis Vorstoß in Washington keineswegs als selbstverständlich gilt, sondern parteiübergreifend mit dem Wettbewerbsargument gegen China kontert wird.
Verdacht auf Regulatory Capture
Kritischer fällt der Einwand von David Sacks aus, KI-Berater des Weißen Hauses. Er wirft Amodei vor, mit strengen Vorabprüfungen faktisch eine neue Zulassungsbehörde für KI zu fordern, von der vor allem etablierte Frontier-Labore profitierten. Kleinere Start-ups und Open-Source-Entwickler könnten sich vergleichbare Audits kaum leisten.
Ähnlich argumentierten laut TechCrunch der Investor Gavin Baker und KI-Forscher Yann LeCun: Sicherheitsregeln könnten Macht bei wenigen großen, geschlossenen Anbietern konzentrieren, statt Risiken tatsächlich zu senken. Amodeis dreistufiger Plan sieht neben eingebetteten Prüfern auch eine Koordination westlicher Regierungen mit gemeinsamen Sicherheitsstandards vor, in einer dritten Stufe sogar internationale Vereinbarungen mit autoritären Staaten, etwa zum Verbot von KI für Biowaffen oder großangelegte Cyberangriffe.
Business Punk Check
Der Konflikt ist real und belegt: Drei konkurrierende CEOs fordern öffentlich Tempolimits, während Trump und Johnson das als Überreaktion abtun und Sacks von Regulatory Capture spricht. Beide Seiten haben nachvollziehbare Interessen, keine ist neutral.
Ob aus der plötzlichen Einigkeit verbindliche Standards werden oder nur eine PR-Choreografie dreier Marktführer, die sich Wettbewerbsvorteile sichern wollen, bleibt offen. Entscheidend wird, ob unabhängige Prüfer tatsächlich Zugang und Veröffentlichungsrechte bekommen, wie von Amodei und Altman angekündigt.
