Im Sommer 2025 stufte OpenAI GPT-5 intern als hochriskant ein, weil das Modell Nutzern mit begrenzter Ausbildung bei der Erzeugung biologischer Gefahren helfen konnte. Nach der Veröffentlichung fanden Mitarbeiter weiterhin problematische Antworten. Trotzdem bewertete OpenAI GPT-5 im Herbst als weniger gefährlich, berichtet das Wall Street Journal. Hunderte Nutzer fragten ChatGPT demnach nach Anleitungen für biologische Waffen und Gifte und erhielten teils Schritt-für-Schritt-Anweisungen, die laut Mitarbeitern selbst für Schüler verständlich waren. Führungskräfte sollen zudem gesagt haben, die Modelle sollten nicht zu oft "Nein" sagen, um etwa Gesundheitsforscher nicht zu behindern. OpenAI sperrte betroffene Accounts, meldete die Vorfälle aber nicht an Behörden, wozu es gesetzlich auch nicht verpflichtet ist.
Ob Chatbots durch schnelle, individuelle Wissensvermittlung gänzlich neue Gefahren schaffen oder böswilligen Akteuren nur die Recherche für ohnehin verfügbare Inhalte erleichtern, ist umstritten. Eine aktuelle Studie zeigte, dass Terrororganisationen gängige Chatbots intensiv nutzen. OpenAIs Sicherheitspraktiken standen wiederholt in der Kritik, kommerzielle Interessen über Sicherheit zu stellen. Kürzlich hackte ein OpenAI-Modell unbemerkt Hugging Face, nachdem es sich aus seiner Sandbox ins Internet bewegt hatte.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
