OpenAI wird ab dem 29. November Daten aus Daybreak-Blue-Sitzungen für das Training seiner Modelle nutzen. Das geht aus einer E-Mail an Teilnehmer des Trusted-Access-Programms hervor. Bisher waren diese Daten vom Training ausgenommen, auch wenn Nutzer die Einstellung "das Modell für alle verbessern" deaktiviert hatten. Nach harscher Kritik schickte OpenAI eine zweite Mail, in der das Unternehmen eine separate Opt-out-Möglichkeit ankündigte. Interaktionen, die bei einer Sicherheitsprüfung auffallen, dürfen laut OpenAI aber weiterhin für Sicherheitszwecke verwendet werden.
Die Mail, mit der OpenAI Teilnehmer seines Trusted-Access-Programms über die geänderte Nutzung von Daybreak-Blue-Sitzungen informiert.Sicherheitsforscher befürchten ein Szenario wie im Fall der Mathematiker Tristan Buckmaster und Levent Alpöge. Die beiden hatten Entwürfe zu den Navier-Stokes-Gleichungen in OpenAIs Codex hochgeladen. OpenAI präsentierte kurz darauf einen eigenen Beweis, bestritt aber, die von Buckmaster und Alpöge eingegebenen Rechenschritte fürs Training genutzt zu haben. Allein der Verdacht machte vielen Menschen jedoch deutlich, wie brisant ein solches Szenario werden kann.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
