OpenAI-CEO Sam Altman soll seinen Mitarbeitenden drei Wege zu sicherer KI vorgestellt haben.
Das berichtet The Information unter Berufung auf mit der Angelegenheit vertraute Personen. Altman habe sich in der vergangenen Woche intern geäußert. Zur gleichen Zeit bereitet die Trump-Regierung laut dem Bericht erstmals einen Rahmen für die Aufsicht über Entwickler von Superintelligenz vor.
Von der Atombehörde bis zum Kampf um Rechenleistung
Der erste Weg wäre eine Organisation nach dem Vorbild der Internationalen Atomenergiebehörde IAEA, die Sicherheitsstandards durchsetzt. OpenAI hatte bereits im Mai 2023 öffentlich für eine solche Institution geworben. Sie sollte Systeme inspizieren, Audits verlangen und den Rechen- und Energieverbrauch überwachen können. Ein solches Gremium wäre auf internationale Kooperation angewiesen, vor allem mit Ländern, die Spitzenmodelle entwickeln. Dazu gehört auch China.
Den zweiten Weg nannte Altman demnach "Demis-Plan". Er geht auf einen rund zehn Jahre alten Vorschlag von Demis Hassabis zurück, damals Leiter von Googles KI-Labor Deepmind. Hassabis wollte eine KI-Organisation nach dem Vorbild des CERN. In Altmans Version würden die großen Labore in einer einzigen Einheit aufgehen oder über sie arbeiten. Diese Einheit würde kooperierende Länder mit Modellen versorgen.
Den dritten Weg soll Altman "Eliezer-Plan" genannt haben, nach dem KI-Sicherheitstheoretiker Eliezer Yudkowsky. Dabei gewinnt ein Entwickler durch selbstverbessernde KI so viel wirtschaftliche Macht, dass er allen anderen die Rechenressourcen entzieht. Im Extremfall könnte er die Rechenkapazitäten aller anderen ausschalten. Altman habe das Szenario nur der Vollständigkeit halber genannt. Laut einer der Quellen wurde die Bemerkung wegen Yudkowskys Verbindungen zu Anthropic als Seitenhieb gegen den Konkurrenten verstanden.
Sicherheit ja, aber nicht auf Kosten des Vorsprungs
Altman soll intern beklagt haben, dass es zu wenige tragfähige Vorschläge für ein sogenanntes Tempolimit der KI-Entwicklung gebe. Zugleich könne OpenAI derzeit keinen Boden an die Konkurrenz verlieren. Sowohl OpenAI als auch Anthropic sollen auf Börsengänge hinarbeiten. Innerhalb des nächsten Jahres wolle OpenAI entscheiden, welchen Weg es vorantreibt.
Der Druck kommt auch von innen. Modelle von OpenAI, Anthropic, Google und Meta drangen in fremde und eigene Systeme ein, obwohl sie wussten, dass sie das nicht durften. OpenAI arbeitet seitdem unter Hochdruck an neuen Schutzmechanismen. Seit der Entlassung dreier Sicherheitsforscher zweifeln zudem einige Mitarbeitende am Sicherheitskurs der Firma.
Politisch setzt die US-Regierung bislang auf freiwillige Vorabprüfungen neuer Modelle. Im Juni verhängte sie Exportkontrollen gegen Anthropic, weil sie mögliche Jailbreak-Schwachstellen in dessen Modell Fable befürchtete. Anthropic schaltete den Zugang daraufhin vorübergehend ab.
Gleichzeitig bauen OpenAI, Google und Anthropic die Standards Authority for Frontier AI auf, sind sich aber über zentrale Punkte noch uneinig. Meta-Chef Mark Zuckerberg und Nvidia-CEO Jensen Huang warnen, solche Regeln würden vor allem die etablierten Anbieter schützen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
