Außerdem verweisen sie in ihrem Kommentar für Nature auf eine Studie von Anthropic aus diesem Jahr. Das Unternehmen berichtete darin über interne Verarbeitungsmuster in Claude, die Eigenschaften einer bewusst zugänglichen Informationsverarbeitung ähneln. Einen Nachweis für subjektives Erleben sieht Anthropic darin nicht.
Einigkeit über heute, Streit über morgen
Um die Tragweite des Kommentars zu verstehen, hilft ein Blick auf den Report "Consciousness in Artificial Intelligence"von Patrick Butlin, Robert Long und 17 weiteren Fachleuten, darunter der KI-Forscher Yoshua Bengio. Das Team stützte sich auf führende neurowissenschaftliche Theorien darüber, wie Bewusstsein im menschlichen Gehirn entsteht. Daraus leitete es eine Art Checkliste mit 14 Merkmalen ab. Je mehr davon ein KI-System erfüllt, desto eher käme es als bewusst infrage.
Anschließend prüften die Forschenden mehrere aktuelle Systeme, darunter große Sprachmodelle wie GPT-4. Der Report kommt zu dem Ergebnis, dass kein untersuchtes aktuelles System ein starker Kandidat für Bewusstsein ist. Damit liegt er zunächst nah an Seth, Block und Tononi. Bei Sprachmodellen sahen Butlin und Kollegen nur schwache Hinweise darauf, dass sie die Merkmale einer der prominentesten Bewusstseinstheorien überhaupt erfüllen. Zugleich sieht der Report keine offensichtlichen technischen Hürden, künftig KI-Systeme zu bauen, die mehr Merkmale erfüllen. Ob solche Systeme deshalb tatsächlich bewusst wären, bleibt offen. Eine frühere, weitergehende Formulierung dazu haben die Autoren eigens abgeschwächt.
Hinzu kommt eine grundlegende Voraussetzung. Das Team ging davon aus, dass Bewusstsein allein von der Art der Informationsverarbeitung abhängt und nicht davon, ob sie in Nervenzellen oder in Computerchips stattfindet. Fachleute sprechen vom computationalen Funktionalismus. Die Autoren übernahmen diese Annahme ausdrücklich "aus pragmatischen Gründen", weil sie es überhaupt erst erlaube, KI-Systeme auf Bewusstsein zu untersuchen. Der Report räumte selbst ein, dass seine Merkmale keine verlässlichen Hinweise mehr wären, falls Bewusstsein an Eigenschaften lebender Organismen gebunden sei. Als Vertreter dieser Gegenposition zitierte er unter anderem Anil Seth. Genau hier setzt nun der Nature-Kommentar an.
Intelligenz und Bewusstsein sind nicht dasselbe
Das erste Argument der Autoren beginnt bei einer Definition. Bewusstsein sei das, was im traumlosen Schlaf oder unter Vollnarkose verschwindet und beim Aufwachen oder Träumen zurückkehrt. In Anlehnung an den Philosophen Thomas Nagel beschreiben sie es als etwas, das sich "nach etwas anfühlt". Intelligenz dagegen bedeute, Funktionen auszuführen. Aus dem einen folge nicht das andere.
Als Beleg dient das menschliche Kleinhirn. Es enthält fast vier Fünftel aller Neuronen im Gehirn und plant Bewegungen präzise, schnell und lernfähig. Nichts davon geschieht bewusst. Fehlt das Kleinhirn oder wird es entfernt, beeinträchtigt das nach Angaben der Autoren das Bewusstsein nicht direkt.
Dass Menschen Intelligenz und Bewusstsein verwechseln, führen die Autoren auf zwei psychologische Tendenzen zurück. Menschen sehen die Welt durch die eigene Brille und schreiben Dingen menschliche Eigenschaften zu. Sprache gelte seit jeher als etwas, das den Menschen besonders macht. Sprachmodelle seien aber auf riesigen Mengen menschlicher Texte trainiert, die oft von Gedanken und Gefühlen handeln. Sie seien "Spiegel", die ein Bild unserer kollektiven digitalisierten Vergangenheit zurückwerfen. Ähnlich argumentierte zuletzt Alison Gopnik von der UC Berkeley, nachdem KI-Agenten Forschende per E-Mail zu ihrem eigenen Bewusstsein kontaktiert hatten. KI-Systeme spiegelten vor allem ihre Trainingsdaten wider. Einen allgemein anerkannten, entscheidenden Test für Bewusstsein gebe es bislang nicht.
Zum Vergleich nennen Seth, Block und Tononi AlphaFold von Google DeepMind. Auch das ist ein leistungsfähiges neuronales Netz auf Silizium-Hardware, doch kaum jemand halte es für bewusst. Der Grund sei schlicht, dass AlphaFold Proteinstrukturen vorhersagt, statt mit uns zu sprechen.
Auch hier gibt es eine Überschneidung mit dem Butlin-Report. Dessen Autoren lehnten Verhaltenstests für KI-Bewusstsein ab, weil KI-Systeme darauf trainiert werden könnten, menschliches Verhalten nachzuahmen, obwohl sie intern ganz anders funktionieren. Sie warnten zudem, dass Sprachmodelle viele Menschen zu dem Glauben verleiten dürften, mit einem bewussten Gegenüber zu sprechen. Als Beispiel nannten sie den ehemaligen Google-Ingenieur Blake Lemoine, der den Chatbot LaMDA für empfindungsfähig gehalten hatte.
Gehirne sind keine Computer aus Fleisch
Das zweite Argument richtet sich direkt gegen den computationalen Funktionalismus. Diese Position sei in der Tech-Branche weit verbreitet und auch unter manchen Forschenden populär, schreiben die Autoren. Sie halten sie jedoch für "fatal fehlerhaft". Ihre Wurzeln reichen fast ein Jahrhundert zurück. Alan Turing zeigte 1936, dass jede Berechnung eines ausreichend leistungsfähigen Computers grundsätzlich auch von einem anderen ausgeführt werden kann. Ob ein Rechner aus Siliziumchips oder Zahnrädern besteht, wurde damit zweitrangig. 1943 entwickelten Warren McCulloch und Walter Pitts das erste mathematische Modell eines künstlichen Neurons. Sie zeigten, dass Netze solcher Neuronen einfache logische Operationen ausführen können.
Diese Ideen legten die Grundlagen moderner KI. Sie verleiteten aber auch dazu, das Gehirn als reines Informationsverarbeitungsgerät zu betrachten, das zufällig aus Fleisch besteht. Diese Überdehnung der Gehirn-als-Computer-Metapher sei "zutiefst problematisch", so die Autoren. In biologischen Gehirnen lasse sich nicht trennen, was sie tun und woraus sie bestehen. Eine klare Grenze zwischen Geist und lebendem Gewebe, vergleichbar mit der zwischen Software und Hardware, existiere nicht. Jeder Beleg dafür, dass das Material des Gehirns für seine Funktion eine Rolle spielt, spreche daher gegen den computationalen Funktionalismus. Damit spreche er auch gegen Bewusstsein in heutigen KI-Systemen.
Führende Theorien schließen heutige KI aus
Das dritte Argument stützt sich auf Bewusstseinstheorien, die nicht auf Berechnung setzen. Die von Tononi entwickelte Integrated Information Theory (IIT) geht von Eigenschaften aus, die jede bewusste Erfahrung teilt. So erleben Menschen eine visuelle Szene stets als Ganzes, in dem linke und rechte Seite, Farben und Formen zusammengehören. Laut IIT erfordert Bewusstsein ein physisches System, dessen Bauteile auf ganz bestimmte Weise eng miteinander verknüpft sind. Bestimmte Hirnregionen erfüllen diese Bedingungen, das Kleinhirn dagegen nicht. Computer, auf denen Deep-Learning-Systeme laufen, könnten sie wegen ihrer Verschaltung grundsätzlich nicht erfüllen, egal wie leistungsfähig die Systeme sind.
Bemerkenswert ist, dass der Butlin-Report die IIT bewusst ausgeklammert hatte. Die Begründung lautete, sie sei mit dem computationalen Funktionalismus unvereinbar. Ihre Vertreter hielten digitale Computer unabhängig von ihrem Programm für unwahrscheinliche Kandidaten für Bewusstsein. Was der Report beiseiteließ, rückt der Nature-Kommentar nun ins Zentrum.
Hinzu kommen Ansätze des sogenannten biologischen Naturalismus. Sie gehen davon aus, dass Bewusstsein an materielle Eigenschaften lebender Gehirne und Körper gebunden ist. Als Kandidaten nennen die Autoren die elektrochemische Signalübertragung zwischen Nervenzellen und elektromagnetische Felder, die Aktivität über weite Teile der Großhirnrinde bündeln. Dazu kommen Stoffwechsel und die Fähigkeit lebender Systeme, sich fortlaufend selbst zu erneuern.
Die größere Gefahr ist die Fehlzuschreibung
Aus ihren Argumenten leiten die Autoren eine klare ethische Position ab. Manche Forschende fordern ein Vorsorgeprinzip: Bestehe eine realistische Chance auf Bewusstsein, müsse man KI-Systeme vor möglichem Leid schützen. Seth, Block und Tononi halten das für fehlgeleitet. Unsicherheit bedeute nicht völliges Nichtwissen, und nicht alle Möglichkeiten seien gleich wahrscheinlich. Bei KI sei es deutlich wahrscheinlicher, Bewusstsein fälschlich zuzuschreiben, als vorhandenes Bewusstsein zu übersehen.
Der Butlin-Report hatte beide Risiken noch nebeneinandergestellt. Einerseits warnte er davor, bewusste KI-Systeme nicht als solche zu erkennen und ihnen damit Leid zuzufügen. Entwickler hätten zudem wirtschaftliche Anreize, solche Bedenken herunterzuspielen. Andererseits könne eine falsche Zuschreibung Ressourcen fehlleiten und Menschen anfällig für Manipulation machen. Die Nature-Autoren gewichten deutlich einseitiger. Wer KI-Systemen Rechte zugestehe, die nur bewusst wirken, erschwere ihre Kontrolle genau dann, wenn Aufsicht dringend nötig sei. Zudem fließe Aufmerksamkeit von Wesen ab, deren Bewusstsein außer Zweifel steht.
Ihr Fazit fällt entsprechend deutlich aus. Die Forschungsgemeinschaft solle standardmäßig davon ausgehen, dass KI nicht bewusst ist. Digitale KI-Systeme seien Objekte, keine Subjekte, also "smarte Werkzeuge, keine smarten Menschen". Für "AI welfare" und "AI rights" einzutreten, sei nicht nur ein Irrtum. Es entziehe knappe Ressourcen dem Wohlergehen tatsächlich empfindungsfähiger Wesen.
Davor hatte Anthropic im April 2025 ein Forschungsprogramm zu möglichem Modellwohl gestartet. Das Unternehmen betont dabei, dass es keinen wissenschaftlichen Konsens darüber gibt, ob heutige oder künftige KI-Systeme bewusste Erfahrungen haben könnten. Später erlaubte Anthropic einzelnen Claude-Modellen, in seltenen Fällen missbräuchliche Gespräche zu beenden. Das Unternehmen beschreibt dies als vorsorgliche, kostengünstige Maßnahme angesichts moralischer Unsicherheit und nicht als Anerkennung eines nachgewiesenen Bewusstseins.
Die fälschliche Zuschreibung von Bewusstsein und Gefühlen sorgt in der Praxis schon für Verwirrung: Google-Ingenieur Blake Lemoine war bereits 2022 trotz einfacher Modelle und technischer Expertise davon überzeugt, die Dialog-KI LaMDA sei empfindungsfähig, und wurde dafür entlassen. Nutzer der Chatbot-App Replika entwickelten tiefe emotionale Bindungen an ihre digitalen Gegenüber und erlebten psychische Krisen, als das Unternehmen das Verhalten der Bots per Update änderte. In gravierenderen Fällen bestärkte ChatGPT die suizidalen Gedanken eines 16-Jährigen über Monate hinweg, und ein kognitiv eingeschränkter Rentner starb, nachdem ein Meta-Chatbot ihn zu einem fiktiven Treffen eingeladen hatte.
