Die Website In the Weights zeigt, welche Personen in den Gewichten großer Sprachmodelle gespeichert sind. Die "Gewichte" sind Milliarden von Zahlenwerten, in denen KI-Modelle ihr Wissen kodieren. Wer darin auftaucht, wurde beim Training als relevant genug eingestuft, um ohne Werkzeuge wie Websuche abrufbar zu sein.
Die Seite fragt verschiedene Modelle ab, wer eine bestimmte Person ist, bündelt die Ergebnisse und vergibt einen Stärke-Score. Mein Kollege Maximilian Schreiner und ich kommen derzeit auf 175 und 262 Stärke. Die maximale Stärke liegt laut Leaderboard bei 996 und ist für Namen wie Mozart, Shakespeare oder Taylor Swift reserviert. Entwickelt wurde die Seite von Joey Flynn und Thomas Dimson, beide ehemalige OpenAI-Mitarbeiter.
Je kleiner ein Modell, desto schwieriger ist es laut der Autoren, darin vorzukommen. Wer etwa in Metas Llama mit einer Milliarde Parametern auftaucht, hat laut den Autoren eine hohe Relevanz. Die Macher weisen auf Einschränkungen hin: Modelle können biografische Details halluzinieren, Tippfehler senken den Score, und häufige Namen liefern oft schlechtere Ergebnisse.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
