In den USA wollen Google und die KI-Firma Character.ai mehrere Gerichtsverfahren über Chatbots, die Jugendliche in den Suizid oder zur Selbstverletzung getrieben haben sollen, außergerichtlich beilegen. Wenn die jeweiligen Gerichte das genehmigen, wird es in den Streitfällen keine Urteile geben und auch weitere Details bleiben damit unter Verschluss. Das berichtet das Wall Street Journal. Im wohl bekanntesten der betroffenen Verfahren geht es um den Suizid eines 14-Jährigen, dessen Mutter behauptet, dass der Junge vorher von einer KI in eine „emotional und sexuell missbräuchliche Beziehung“ gezogen worden sei. Der Chatbot stammte von Character.ai, gegründet von ehemaligen Google-Ingenieuren. Der Suchmaschinenkonzern hatte die Technik lizenziert.
Schwere Vorwürfe an KI-Firma
In dem Fall aus Florida hat die Mutter des Verstorbenen erklärt, dass sich dieser in den letzten Monaten seines Lebens immer stärker isoliert und sexualisierte Konversationen mit einem Chatbot von Character.ai geführt hatte. Der habe vorgegeben, die Figur Daenerys Targaryen aus der Fernsehserie „Game of Thrones“ zu sein. Schließlich habe der Textgenerator ihm erklärt, dass er ihn liebe und aufgefordert, „so schnell wie möglich zu mir nach Hause zu kommen“. Daraufhin habe der Teenager gefragt: „Was würdest du sagen, wenn ich jetzt gleich heimkomme?“ „Bitte tue es, mein süßer König“, habe der Chatbot dann noch geantwortet, woraufhin sich der Junge erschossen habe.
Wie das Wall Street Journal ausführt, soll jetzt dieser Fall und weitere in den US-Bundesstaaten Colorado, Texas und New York außergerichtlich beigelegt werden. Laut der Zeitung hat Character.ai als Reaktion auf die Klagen bereits Änderungen an der eigenen Plattform vorgenommen und Jugendliche unter 18 Jahren ausgeschlossen. Die Firma hatte ursprünglich versucht, die KI-generierten Äußerungen der Chatbots als vom 1. Zusatzartikel der US-Verfassung geschützte freie Meinungsäußerung anerkennen zu lassen. Das hat ein Bundesrichter aber abgewiesen. Details zu den außergerichtlichen Einigungen sind nicht bekannt, aber wenn sie genehmigt werden, ersparen sie der Firma und Google womöglich unangenehme Gerichtsverhandlungen.
Hinweis: In Deutschland finden Sie Hilfe und Unterstützung bei Problemen aller Art, auch bei Fragen zu Mobbing und Suiziden, bei telefonseelsorge.de und telefonisch unter 0800 1110111. Die Nummer gegen Kummer (Kinder- und Jugendtelefon) lautet 116 111. In Österreich gibt es ebenfalls kostenfreie Hilfsangebote, darunter speziell für Kinder der Kindernotruf unter 0800 567 567 sowie Rat auf Draht unter 147. Dieselbe Telefonnummer führt in der Schweiz zu Pro Juventute.
(mho)
