16 hours ago
1
Toxische Nachrichten in Onlinespielen sind kein neues Phänomen. Roblox probiert jetzt etwas Neues dahingehend aus: Eine KI formuliert beleidigende oder aggressive Nachrichten direkt beim Absenden in Echtzeit um, anstatt sie einfach zu blockieren oder mit Symbolen zu überdecken.
Bisher wurde auf der Plattform bei entsprechenden Texten immer einfach ausgeblendet. Das neue Verfahren ist da natürlich schon pfiffiger. Der Algorithmus soll den eigentlichen Sinn einer Nachricht verstehen und eine respektvollere Version daraus machen, die inhaltlich trotzdem noch passt. Ein klassisches Beispiel wird genannt: Aus „Hurry TF up!“ wird schlicht „Beeil dich!“ – die Aufforderung bleibt, der aggressive Unterton verschwindet.
Alle Beteiligten im Chat sehen einen Hinweis, wenn eine Nachricht durch die KI angepasst wurde. Das schafft zumindest eine gewisse Transparenz, auch wenn es natürlich spannend bleibt, wie konsequent das System in der Praxis greift. Aktuell läuft das Ganze noch unter bestimmten Bedingungen. Die Echtzeit-Umformulierung funktioniert nur in sogenannten „In-Experience“-Chats, also während man sich tatsächlich in einem Spiel befindet. Außerdem müssen Spieler vorher eine Altersverifikation abgeschlossen haben.
Die KI-Moderation orientiert sich dabei an Altersgruppen. Verifizierte Spieler zwischen 9 und 12 Jahren können beispielsweise mit Nutzern der Gruppe 13 bis 15 Jahren chatten, während das System im Hintergrund dafür sorgt, dass der Austausch in einem vernünftigen Rahmen bleibt. Ob das in der Realität reibungslos klappt oder ob findige Nutzer schnell Wege drum herum finden, wird sich zeigen. Ich sag nur: Roblox-Altersverifikation trifft Kinder mit aufgemalten Bärten…
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
