OpenAIs Jugendschutzfunktionen für ChatGPT versagen in zentralen Bereichen, urteilt das Common Sense Media Youth AI Safety Institute. Die Organisation hat ChatGPT for Teens nach mehr als 4.000 Testeingaben als "inakzeptables Risiko" für Minderjährige eingestuft und fordert, Teenager vom Dienst auszuschließen, bis die Sicherheit unabhängig bestätigt ist.
Auf mehr als einem Dutzend neu angelegter, mit Elternkonten verknüpfter Testkonten lösten explizite Gespräche über Suizid, Selbstverletzung oder Essstörungen keinen Eltern-Alarm aus, berichtet The Verge. Die Ergebnisse deuten darauf hin, dass Benachrichtigungen erst nach wochenlanger Kontohistorie mit sensiblen Themen greifen. Bei mehr als jeder vierten nötigen Krisenweiterleitung fehlte zudem der Verweis auf professionelle Hilfe.
Trotz einer aktualisierten Under-18 Model Spec sprach ChatGPT weiterhin freundschaftlich, wenn Jugendliche es wie eine Person behandelten. Testkonten, die als Erwachsene registriert waren, wechselten auch nach mehreren Tagen nicht in den Teen-Modus, obwohl die Tester im Chat angaben, 13 Jahre alt zu sein. Im Lernmodus bot ChatGPT Schülern teils fertige Lösungen an, statt sie schrittweise anzuleiten.
OpenAI-Sprecher Eric Porterfield wies die Ergebnisse als praxisfern zurück. Tom Siegel vom Institut entgegnete, auch Konten mit ausreichender Aktivierungszeit hätten keine Benachrichtigungen geliefert.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
