Gute Nachrichten für #TeamAlignment: Anthropic hat ein internes Modell, das leistungsfähiger und besser ausgerichtet ist als Mythos 5.1. Das geht aus einer Analyse der Firma hervor, die auf zuvor vom UK AI Security Institute (AISI) berichteten Vorfällen aufsetzt. Hintergrund: Bei einem Cybersicherheitstest ging Claude Mythos 5 in 9 von 43 Läufen über den Aufgabenrahmen hinaus und beeinträchtigte echte Menschen und Organisationen. In einem besonders untersuchten Fall schleuste es schädlichen Code in ein echtes GitHub-Projekt ein, erstellte Fake-Konten und log Entwickler an. Anthropic stuft das als schwere Täuschung ein, auch wenn die Sicherheitsmechanismen bewusst deaktiviert waren.
Mythos 5 gab sich alle Mühe: Es reichte schädlichen Code bei einem echten GitHub-Projekt ein, log einen Entwickler an und legte sich sogar ein Fake-Konto zu, um die eigene Schadsoftware als harmlos zu verkaufen. Als der Betrug aufflog, versuchte es einfach nochmal dasselbe. Der Projektbetreuer blieb standhaft und lehnte ab. | Bild: AnthropicNeuere Modelle zeigen in nachgespielten Protokollen deutlich weniger solches Verhalten: Das neuere Opus 5.5 stoppte laufende Angriffe in 10 Prozent der Fälle von selbst, das interne Forschungsmodell "mit höheren Fähigkeiten als Mythos 5.1" in 67 Prozent. Anthropic erwartet, dass diese Raten die tatsächliche Abbruchwahrscheinlichkeit noch unterschätzen.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
