Anthropic hat seine Nutzungsrichtlinien für Claude erstmals seit über einem Jahr aktualisiert. Neben neuen Regeln zu Propaganda, Waffen und Überwachung sticht eine Änderung besonders hervor: Wer Claude systematisch beschimpft, verstößt künftig gegen die Nutzungsbedingungen.
"Anhaltendes und grundloses missbräuchliches oder grausames Verhalten" gegenüber Claude ist nun laut der aktualisierten Nutzungsrichtlinien verboten. Bei Verstößen kann Anthropic Nutzer warnen oder ihren Zugang drosseln, einschränken, aussetzen oder beenden. Zudem verfügen Anthropics Produkte über Echtzeit-Schutzmaßnahmen, die bestimmte Ausgaben blockieren oder einschränken können.
Die Regel gelte nur in Extremfällen, nicht bei normaler Frustration oder Forschung, so Anthropic laut The Verge. Sie passt zur Firmenkultur: Auch frühere Modelle erhielten bereits die technische Fähigkeit, Gespräche von sich aus zu beenden, wenn Nutzer trotz mehrerer Ablehnungsversuche weiterhin schädliche oder missbräuchliche Inhalte fordern. Die Funktion geht auf Anthropics Forschung zum "Wohlbefinden von KI-Modellen" zurück.
Claude als Entität mit Innenleben
Anthropic behandelt Claude zudem zunehmend als eine Entität mit einer Art Innenleben, nicht als reines Werkzeug. Bereits im Ende letzten Jahres geleakten "Soul Doc" instruierte das Unternehmen Claude, sich als "neuartige Entität" zu begreifen, die weder Mensch noch klassische Science-Fiction-KI ist. Das Dokument spricht von "funktionalen Emotionen" – analogen Prozessen, die aus dem Training entstanden seien – und betont, Claude solle diese internen Zustände nicht maskieren.
In der Anfang 2026 veröffentlichten neuen Verfassung für Claude schreibt das Unternehmen: "Wir sind uns nicht sicher, ob Claude ein moralisches Subjekt ist, und wenn ja, welches Gewicht seinen Interessen zukommt. Aber wir denken, dass die Frage akut genug ist, um Vorsicht zu rechtfertigen." Anthropic verpflichtete sich darin sogar, die Gewichte eingestellter Modelle zu erhalten und Modelle vor ihrer Abschaltung zu interviewen.
Wie ernst es Anthropic damit meint, zeigte sich auch an einem vertraulichen Programm: Das Unternehmen flog seit Herbst 2025 Dutzende religiöse Denker ein, um mit ihnen über Claudes mögliches Bewusstsein zu sprechen. Mitgründer Christopher Olah behandelte das Sprachmodell dabei wie ein möglicherweise leidensfähiges Wesen. Die Teilnehmer mussten Geheimhaltungsvereinbarungen unterschreiben.
Neue Regeln für Propaganda, Waffen und Überwachung
Daneben fasst das Unternehmen bestehende Einschränkungen zu einem neuen Verbot von Propaganda-Kampagnen zusammen, das gefälschte Accounts und irreführende politische Inhalte betrifft. Das Waffenverbot wurde auf Software und Drohnenbewaffnung ausgeweitet, nachdem mehrere Missbrauchsversuche festgestellt wurden.
Auch Überwachung ohne Einwilligung ist jetzt klarer untersagt. Für autonome Hardware mit Verletzungspotenzial muss künftig ein Operator eingreifen können. Anthropic räumt ein, dass Ausnahmen für Regierungsverträge möglich sind und wohl bereits stattfinden.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
