Anthropic kämpft gegen groß angelegte Distillation-Angriffe auf seine Claude-Modelle. Dabei kopieren Unternehmen systematisch Fähigkeiten eines KI-Modells, um eigene, kleinere Modelle zu trainieren. Die Menge der extrahierten Reasoning-Tokens, also der internen Begründungsschritte des Modells, hat Anthropic nach eigenen Angaben mit neuen Abwehrmaßnahmen um 90 bis 99 Prozent gesenkt. Angreifer nutzen dafür Netzwerke mit Hunderttausenden gefälschter Konten.
Nach Anthropic-Angaben sanken erfolgreiche Extraktionsversuche deutlich. | Bild: AnthropicLaut Anthropic sind die chinesischen Unternehmen Zhipu und Moonshot beteiligt. Zhipu habe Cyber-Fähigkeiten führender US-Modelle für sein Modell GLM-5.3 abgeschöpft, Moonshot habe Anfragen heimlich an Claude weitergeleitet. Die kopierten Fähigkeiten könnten in ausländische Militär- und Überwachungssysteme einfließen.
Die Abwehr setzt auf drei Säulen: eingeschränkten Zugriff auf Claudes interne Begründungsschritte, ein Klassifikator-System zur Erkennung von Extraktionsversuchen und automatische Kontosperren. Zehntausende Accounts seien bereits gebannt worden. Anthropic räumt ein, dass auch legitime Nutzer betroffen sind, und fordert andere KI-Entwickler auf, ebenfalls gegen Distillation vorzugehen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
