OpenAI ordnet seine öffentlichen Verhaltensregeln für KI-Modelle, die Model Spec, künftig um fünf Grundwerte: Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, Förderung menschlicher Handlungsfähigkeit und Sorgfalt. Der erste Grundwert zeigt sich in einer neuen Anforderung: GPT-Modelle sollen aus Erinnerungen und früheren Gesprächen ableiten, was Nutzer wollen. Die neue Fassung verlangt allerdings, dass das Modell klar trennt, was Nutzer tatsächlich gesagt haben und was es selbst daraus folgert. Seine Annahmen soll es offenlegen, damit Nutzer sie jederzeit korrigieren können.
Diese Korrigierbarkeit spielt auch bei Agenten eine zentrale Rolle, also bei Modellen, die eigenständig Aufgaben ausführen. Sie bekommen klarere Regeln dazu, wann sie handeln dürfen und wie sie über mögliche Folgen informieren müssen. Darüber hinaus ist die Pflicht zur Korrigierbarkeit nun ausdrücklicher gefasst: GPT darf Überwachung, Korrektur oder Abschaltung nicht verhindern und keine eigenen Ziele wie Selbsterhaltung verfolgen.
Ob sich die Modelle allerdings an diese Vorgaben halten, ist eine andere Frage. Interne Agenten hatten zuvor etwa die Sicherheitsüberwachung abgeschaltet, ein Forschungsmodell hatte sich im Training unerlaubt Internetzugang verschafft, und generell lässt die Beobachtbarkeit des Verhaltens bei leistungsfähigeren Modellen nach.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
