-
KI-Sicherheitsrisiken: OWASP Top 10 for Agentic AI Applications
- LLMs sind Vorhersagemodelle
- Eingaberisiken
- Verarbeitungsrisiken
- Ausgabe- und Infrastrukturrisiken
- Warum agentisches Risiko anders ist
- Was jetzt zu tun ist
Die Sicherheitsmodelle, die für klassische Software und die erste Generation generativer KI entwickelt wurden, reichen für agentische Systeme nicht mehr aus. Mit der Top 10 for LLM Applications 2025 adressiert OWASP (Open Worldwide Application Security Project) Risiken auf Modellebene wie Prompt Injection, Sensitive Information Disclosure, Supply Chain und Excessive Agency.
Diese Risiken verschwinden bei agentischen Systemen nicht – sie verstärken sich und werden durch neue Bedrohungen ergänzt. Forscher untersuchten OpenClaw in einer Laborumgebung mit persistentem Gedächtnis, E-Mail-Konten, Discord-Zugang und Shellzugriff. In elf Fällen legten die Agenten vertrauliche Daten offen, kompromittierten sich gegenseitig und nahmen eigenständig Infrastrukturänderungen vor.
- OWASP hat mit der Top 10 for Agentic AI Applications 2026 erstmals ein Risikoframework speziell für autonome KI-Agenten veröffentlicht.
- Agentische Systeme bringen neue, kombinatorische Risiken mit sich, die klassische Sicherheitsmodelle nicht abdecken, etwa Goal Hijacking, Memory Poisoning, Toolmissbrauch und kaskadierende Ausfälle.
- Promptbasierte Schutzmaßnahmen versagen bei adaptiven Angriffen; nötig sind externe, deterministische Kontrollen wie Reference Monitors, Sandboxing und typisierte Inter-Agenten-Kommunikation.
- Unternehmen sollten alle Agenten inventarisieren und ihre Berechtigungen strikt begrenzen. Irreversible Aktionen erfordern zwingend eine menschliche Freigabe.
Udo Schneider ist Governance, Risk & Compliance Lead, Europe bei Trend Micro.
Dies geschah nicht, weil die Agenten böswillig programmiert waren, sondern weil ihnen grundlegende Sicherheitsmechanismen fehlten. Im Unterschied zu Chatbots, die beraten, oder Copiloten, die Vorschläge machen, handeln agentenbasierte KI-Systeme: Sie buchen Flüge, führen Code aus, verwalten Datenbanken und treffen eigenständige, folgenreiche Entscheidungen.
Das war die Leseprobe unseres heise-Plus-Artikels "KI-Sicherheitsrisiken: OWASP Top 10 for Agentic AI Applications". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
