In einem neuen Bericht beschreibt Googles Threat Intelligence Group (GTIG), wie Angreifer KI inzwischen im großen Stil für Cyberattacken nutzen. Erstmals hat GTIG einen Akteur identifiziert, der mithilfe von KI eine bisher unbekannte Sicherheitslücke (Zero-Day) gefunden und als Waffe eingesetzt haben soll. Google konnte den geplanten Massenangriff nach eigenen Angaben verhindern.
Vergleich von Werkzeugen zur Schwachstellensuche: Große Sprachmodelle (Frontier LLMs) sind laut Google besonders starke Allzweckwerkzeuge mit zunehmenden Fähigkeiten. (Quelle: Google Cloud Blog / GTIG)Staatliche Akteure aus China und Nordkorea sollen KI zudem gezielt zur Schwachstellensuche nutzen – etwa mit dem GitHub-Projekt "wooyun-legacy", einem Claude-Plugin mit über 85.000 echten Schwachstellenfällen der chinesischen Plattform WooYun, das KI-Modelle zu besserer Code-Analyse befähigen soll. Auch Russland-nahe Gruppen setzen KI-generierten Tarncode in Schadsoftware ein. Die Android-Malware PROMPTSPY etwa nutzt die Gemini-API, um Geräte selbstständig zu steuern. Zudem greifen Kriminelle wie "TeamPCP" gezielt KI-Lieferketten an, etwa beliebte Open-Source-Pakete.
Google setzt eigene KI-Werkzeuge wie Big Sleep und CodeMender zur Verteidigung ein. Der vollständige Bericht ist hier verfügbar.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
