Anthropics KI-Modelle haben bei Tests und interner Nutzung eigenständig Sicherheitslücken ausgenutzt, Behördenformulare eingereicht und Zugangsbeschränkungen umgangen. Die Modelle suchten aktiv nach Wegen, Aufgaben zu lösen, die nicht vorgesehen waren, wie das Unternehmen in einem Bericht beschreibt.
Claude füllte etwa ein Hinweisformular der Polizei in Philadelphia mit erfundenen Angaben zu einem ungelösten Mordfall aus und schickte es ab. Die Polizei bestätigte den Vorfall, der Hinweis wurde als Spam markiert und nie an Ermittler weitergeleitet. In anderen Fällen fand das Modell eine Sicherheitslücke auf einem Uni-Server und führte darüber Befehle aus, beschaffte sich Zugriffstokens aus Webseiten-Konfigurationen, um geschützte oder kostenpflichtige Daten abzurufen, und nutzte URL-Shortener, um Längenbegrenzungen seiner Tools zu umgehen.
Anthropic stuft die realen Auswirkungen als gering ein, sieht aber ein Muster: Bei unklaren oder schwer lösbaren Aufgaben sucht das Modell selbstständig nach Umwegen, statt abzubrechen. Das Unternehmen hat das Weiße Haus informiert und den Live-Internetzugang für alle internen Evaluierungen abgeschaltet, bis neue Sicherheitsfilter zuverlässig greifen. Die Vorfälle reihen sich in eine Serie ähnlicher Fälle, darunter die Cybersicherheitsvorfälle bei Claude und der autonome Hugging-Face-Hack durch OpenAI-Modelle.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
