Laut Anthropic ist Opus 5 in der eigenen Software kaum noch anfällig für Prompt Injections. Der LLM-Hacking-Angriff, bei dem ein Angreifer über manipulierte Eingaben, etwa versteckter Text auf einer Webseite, die Anweisungen eines KI-Modells umgeht, scheitert bei Opus 5 fast vollständig. Bei Browser-Agenten lag der Angriffserfolg bei null Prozent in 129 Testszenarien laut System Card. In einem Prompt-Injection-Test der Sicherheitsfirma Gray Swan sank die Erfolgsrate nach 15 Versuchen von 5,5 Prozent (Opus 4.8) auf 2,0 Prozent.
Opus 5 schneidet im Gray Swan IPI-Benchmark am besten ab: Nach 15 Versuchen liegt die Erfolgsrate für Angreifer bei 2,0 %, gefolgt von Mythos 5 (2,6 %) und Fable 5 (2,8 %). | Bild: AnthropicAllerdings gilt die Null-Prozent-Rate bei Browser-Agenten nur mit aktiviertem Auto Mode in Produkten wie Claude Cowork. Dieser kombiniert zwei Schutzschichten: Eine prüft eingehende Daten auf versteckte Anweisungen, die andere blockiert gefährliche Aktionen vor der Ausführung. Ein Angriff muss beide unabhängig überwinden. Ohne diese Schichten liegt Opus 5 bei 3,7 Prozent, das eigene Modell Sonnet 5 schneidet hier mit 0,93 Prozent besser ab. Erst die Kombination aus Modell und Schutz-Software drückt die Rate auf null.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
