Ein Sicherheitsforscher hat gezeigt, wie sich ein Angriff in Microsoft Copilot für Word über Prompt Injection von selbst weiterverbreitet. Håkon Måløy beschreibt einen wurmartigen Angriff: Ein Angreifer versteckt Anweisungen in einem Dokument, etwa in weißer Schrift auf weißem Grund und in winziger Größe. Für Leser unsichtbar, für Copilot lesbar, weil das System Farbe und Schriftgröße vor der Verarbeitung entfernt.
Nutzt jemand dieses Dokument als Quelle in Copilot, führt das System die versteckten Anweisungen aus und kopiert sie unsichtbar in die neue Datei. Diese wird selbst zum Träger. Wird sie später als Vorlage weiterverwendet, löst der Angriff erneut aus, ohne dass das Originaldokument noch beteiligt ist. So könnte etwa eine kompromittierte Marktanalyse einen Finanzbericht manipulieren, der wiederum weitere Berichte infiziert.
Microsoft bestätigte das Verhalten am 31. März, zwei Gegenversuche schlossen die Lücke nicht. Nach 144 Tagen veröffentlichte Måløy den Hinweis ohne Abhilfe, den Schadtext hält er zurück. Kürzlich wünschte sich der KI-Forscher Andreas Kirsch halb im Scherz genau so einen Wurm, um Zweifler an Sicherheitsfragen zu überzeugen. Den gibt es jetzt. Prompt Injections sind ein bekanntes KI-Sicherheitsproblem.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
