Auf X ist ein offener Streit über KI-Regulierung und Machtkonzentration entbrannt. Investor Gavin Baker, Ex-White-House-Berater David Sacks und Meta-Forscher Yann LeCun werfen Anthropic-Chef Dario Amodei vor, mit Angstrhetorik einen Regulierungsvorteil zu erkaufen.
Den Anstoß gab eine Aussage im All-In Podcast. Investor Gavin Baker berichtete, Anthropic-Chef Dario Amodei habe intern gesagt, das Unternehmen könne irgendwann die einzige private Firma der Welt sein, neben der es nur noch Regierungen gebe. Anthropic-Forscher Sholto Douglas wies den Bericht als "völlig falsch" zurück. Gerade die wirtschaftliche Machtkonzentration gehöre zu dem, was Anthropic am meisten fürchte. Der KI-Markt sei ohnehin der wettbewerbsintensivste der Welt, weil jeder große Konzern an immer klügeren und billigeren Modellen arbeite.
Baker präzisierte daraufhin den Kern des Streits: Wenn KI potenziell gefährlich sei, gebe es zwei Grundhaltungen. Entweder halte man sie für zu gefährlich, um sie breit zu verteilen, und konzentriere sie bei wenigen Firmen und Politikern. Oder man halte sie für zu gefährlich, um sie zu konzentrieren, und verteile sie möglichst weit. In den Augen von Baker habe die Hoffnung, eine absolute Macht werde die Menschheit schon wohlwollend versorgen, historisch selten zu guten Ergebnissen geführt.
Auch der ehemalige Meta-Chefforscher Yann LeCun bezog klar Position für offene KI. Wie Buchdruck und Internet verstärke KI die menschliche Intelligenz, indem sie den Zugang zu Wissen verbessere. Gesellschaften bräuchten eine hohe Vielfalt an KI-Systemen mit unterschiedlichen Wertvorstellungen, aus demselben Grund, aus dem sie eine vielfältige Presse bräuchten. Am Ende stehe die gute KI des einen gegen die schlechte KI des anderen.
Was Amodei den Kritikern entgegnet
Die lange Diskussion rief schließlich Amodei selbst auf den Plan: In seinem erst vierten X-Post des Jahres nannte Amodei diese Zuspitzung eine falsche Alternative. In Teilen des Silicon Valley gelte die Formel, dass Regulierung automatisch regulatorische Vereinnahmung bedeute, also dass eine Branche die eigenen Regeln zum eigenen Vorteil schreibe. Das sei zu simpel. Regulierung könne Konzernmacht auch begrenzen und normalen Bürgern nützen, wenn gute Institutionen Macht in Ideen statt in Personen verankerten.
Anthropic entwerfe seine Vorschläge deshalb bewusst so, dass sie führende Labore ausbremsten und kleinere begünstigten. Als Beleg führte Amodei Kaliforniens Gesetz SB53 an, das Firmen unterhalb einer Umsatz- oder Trainingskostenschwelle vollständig von den Auflagen ausnehme. Offene Modelle, deren Gewichte frei verfügbar sind, lösten das Problem nur teilweise. Sie verschöben die Konzentration lediglich zu jenen Akteuren, die über die meiste Rechenleistung und die meisten KI-Chips verfügen, also im Wesentlichen wieder zu den großen Laboren. KI sei strukturell zentralisierend, vor allem wegen der Skalierungsgesetze und nicht wegen der Regulierung.
Investor David Sacks, bis vor Kurzem KI-Berater im Weißen Haus, konterte Amodeis Darstellung in einer neunteiligen Replik. Auffällig sei, dass Amodei Bakers Bericht gar nicht bestreite, obwohl er das leicht könnte. Amodeis Argument mit der Regulierungsblase sei ein Strohmann, denn kaum jemand halte tatsächlich jede Regulierung für Vereinnahmung. Sacks verwies auf die Definition des Nobelpreisträgers George Stigler, wonach eine Branche die Regeln erwirbt und primär zum eigenen Nutzen betreibt, während der Nutzen für die breite Öffentlichkeit verstreut und unorganisiert bleibt.
Anthropic verstehe diese Mechanik genau und habe mehrere frühere KI-Beamte der Biden-Regierung eingestellt sowie einen großen Regierungsapparat aufgebaut. Amodeis Vorschlag einer Bundesbehörde, die Spitzenmodelle vor der Veröffentlichung prüft, nannte Sacks spöttisch ein Zulassungsamt für KI. Ein solcher Prüfprozess schaffe lange Warteschlangen und bremse die USA gegenüber China aus, das solche Auflagen nicht übernehmen werde.
Baker vertritt übrigens die Position, dass die Debatte schon gelaufen sei: Fast jede große Firma außer Anthropic habe Jensen Huangs Brief für offene Modelle unterschrieben.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
