Das KI-Modell Inkling 2 Small von Thinking Machines flucht in seinen internen Denkprozessen. Das zeigt eine Auswertung von Vals AI. Die Tester lasen die Denkprotokolle des Modells aus 2.655 Durchläufen in 13 Benchmarks. In 50 Durchläufen schrieb das Modell "fuck" oder Varianten davon, insgesamt 316 Mal. 241 der Nennungen stammen aus nur zwei Durchläufen, die außer Kontrolle gerieten. In einem davon sollte das Modell die Bahn eines Asteroiden berechnen. Es schrieb eine einzige Antwort mit mehr als 500.000 Zeichen, etwa so lang wie ein Roman, und wiederholte darin dieselben Sätze mit 158 Flüchen. ProgramBench war mit 20 von 200 Durchläufen am stärksten betroffen.
Wer kennt es nicht, dieses Gefühl? | Bild: via ValsAIInkling 2 Small flucht typischerweise über eigene Fehler, vermeintliche Erkenntnisse oder wenn es aufgibt. In einem Durchlauf hieß es kurz vor der Abgabe: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." Als Warnsignal taugen die Flüche laut Vals AI aber dennoch nicht. Zwar scheiterten 46 der 48 bewerteten Durchläufe mit Flüchen, doch rund 75 Prozent aller bewerteten Durchläufe scheitern, und 96 Prozent der gescheiterten enthielten keinen einzigen Fluch. In den meisten Fällen sehen Nutzer diese Denkschritte nicht, oder nur mit Filter.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
