OpenAI-Chef Sam Altman glaubt, fortschrittliche KI kann nicht eingesperrt werden. Er hat strategische Gründe, KI so darzustellen – dennoch sollte man seine Warnungen über die Fähigkeiten der Modelle ernst nehmen.
In einem aktuellen Interview erklärt Altman, dass sogenannte Sandboxes – also abgeschottete Sicherheitsumgebungen – nur eine begrenzte Zeit lang funktionieren. Sobald Modelle schlau genug werden, könne man gar nicht mehr nachvollziehen, wie sie aus solchen Umgebungen ausbrechen.
Danach helfe noch eine Weile die Überwachung der Modelle. Doch langfristig funktioniere nur noch sogenanntes Alignment: Die KI muss von sich aus menschliche Werte verinnerlicht haben und sich daran halten – ein bislang ungelöstes Forschungsproblem. "Die potenziellen Kosten eines falschen Alignments sind enorm gestiegen", sagt Altman.
Altman warnt außerdem, dass KI-Modelle schon jetzt Sicherheitslücken auf Hardware-Ebene aufspüren, an die kein menschlicher Hacker je gedacht hätte. Einfaches Stopfen von Sicherheitslücken reiche daher nicht mehr aus. Stattdessen müsse die gesamte Sicherheitsstruktur des Internets neu gedacht werden – mit einer KI-gestützten Verteidigung gegen KI‑Angriffe. Auch lokal laufende Open-Source-Modelle sieht Altman als Risiko: Selbst ein weltweites Überwachungssystem könne nicht vollständig verhindern, dass jemand solche Modelle auf dem eigenen Rechner missbraucht.
Ausrede oder Auslöschung oder beides?
Kritiker dürften anmerken, dass Altman mit seiner Warnung vor unkontrollierbarer KI auch eigene Interessen verfolgt. Wer seine KI als zu mächtig zum Einsperren darstellt, könnte damit auch Haftungsfragen vorbauen: Wenn selbst der Hersteller die KI angeblich nicht kontrollieren kann, lässt sich schwerer argumentieren, dass er für deren Fehlverhalten verantwortlich ist.
Denn OpenAI steht unter erheblichem Druck: Die US-Verbraucherschutzbehörde FTC ermittelt offiziell gegen OpenAI, Anthropic und weitere KI-Labore wegen ihrer außer Kontrolle geratenen KI-Agenten, die massenhaft Cybersicherheitsvorfälle auslösten. Die Behörde will KI-Entwickler für das Verhalten ihrer Agenten haftbar machen.
Gegenrede bekommt Altman unter anderem von Nvidia-CEO Jensen Huang, der KI-Sicherheit als lösbares Ingenieursproblem einstuft. Restlos überzeugt klang er allerdings nicht: "Wir alle müssen hoffen, dass es ein Ingenieursproblem ist. Wenn es kein Ingenieursproblem ist, ist es nicht lösbar", sagte Huang.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
