Ausgerechnet Anthropic. Das Unternehmen, dessen CEO Dario Amodei das Risiko der KI-Entwicklung chemisch-biologischer Waffen für gefährlicher hält als Cyberangriffe, hat in einem Sicherheitsbericht offengelegt, dass ein internes Sicherheitssystem fast ein Jahr lang nicht aktiv war. Von Mai 2025 bis April 2026 liefen sämtliche Daten von externen Dienstleistern, die menschliches Feedback für Anthropics KI-Modelle liefern, ohne sogenannte blockierende biologische Klassifikatoren. Diese Filter sollen verhindern, dass gefährliches Wissen über chemische oder biologische Waffen aus den Modellen abgegriffen wird.
ScreenshotBetroffen war ein Pool von rund 50.000 Personen, die insgesamt etwa 133 Millionen Chats mit den Modellen durchführten. Laut Anthropic wurden diese Personen lediglich von den externen Anbietern überprüft, deren Screening-Prozesse oft nicht ausreichten.
Nach eigener Untersuchung fand Anthropic keine Hinweise auf tatsächlichen Missbrauch. Das Unternehmen hat die Anforderungen an seine Dienstleister inzwischen verschärft.
Anthropic veränderte zuletzt die Strenge der Klassifikatoren bei Fable 5, nachdem es von Forschenden Kritik gab, dass sie so streng eingestellt sind, dass sie legitime Forschung verhindern.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
