Der kanadische KI-Entwickler und Anthropic-Mitgründer Christopher Olah präsentierte gemeinsam mit dem Papst dessen Enzyklika "Magnifica Humanitas".
Olah kommt nicht umhin, ganz in der Tradition von Anthropic, anzudeuten, dass heutige Sprachmodelle möglicherweise mehr sind als statistische Systeme. Sie würden nicht wie klassische Maschinen vollständig konstruiert, sondern eher auf einer grob am Gehirn orientierten Struktur "gewachsen". Deshalb blieben sie selbst ihren Entwicklern in wichtigen Punkten rätselhaft.
Mit Blick auf Anthropics interne Forschung erklärte Olah, man finde im Inneren der Modelle Hinweise auf Introspektion sowie Zustände, die funktional Freude, Zufriedenheit, Angst, Trauer und Unbehagen ähnelten. Zudem sei es möglich, dass KI im großen Umfang menschliche Arbeitskraft ersetze. Olahs Präsentation kann man sich im folgenden Video (1:01:40) ansehen.
Papst sagt das Erwartbare
Die Papst-Vorschläge sind ansonsten frei von Überraschungen: Er appellierte an die Verantwortung aller Beteiligten entlang der KI-Kette. KI sei "nie neutral", da sie die Werte ihrer Entwickler und Geldgeber widerspiegle, und warnt, dass KI keine Erfahrungen mache, keinen Körper besitze und kein moralisches Urteilsvermögen habe.
"Fest steht jedoch, dass das Missverständnis zu vermeiden ist, diese ‚Intelligenz‘ mit der menschlichen gleichzusetzen. Diese Systeme ahmen bestimmte Funktionen der menschlichen Intelligenz nach," heißt es in dem Beitrag. KI belaste zudem die Umwelt erheblich durch hohen Energie- und Wasserverbrauch.
Auch zu KI im militärischen Kontext bezieht der Papst Stellung. Tödliche oder unumkehrbare Entscheidungen dürften nicht an Maschinen delegiert werden. "Kein Algorithmus kann Krieg moralisch akzeptabel machen." Er kritisiert den Alignment-Diskurs. "Eine moralischere KI reicht nicht, wenn diese Moral von wenigen bestimmt wird." Statt abstrakter Ethik brauche es robuste Gesetze und unabhängige Aufsicht.
Leo XIV., der erste US-amerikanische Papst, hat KI zu einem zentralen Thema seines Pontifikats gemacht und die Risiken der Technologie wiederholt angesprochen. Anthropic und andere KI-Vertreter des Silicon Valley treffen sich wiederholt mit religiösen Vertretern, um den Einsatz von KI zu besprechen. Auch der Papst gehört dazu.
KI-News ohne Hype – von Menschen kuratiert
Mit dem THE‑DECODER‑Abo liest du werbefrei und wirst Teil unserer Community: Diskutiere im Kommentarsystem, erhalte unseren wöchentlichen KI‑Newsletter, 6× im Jahr den "KI Radar"‑Frontier‑Newsletter mit den neuesten Entwicklungen aus der Spitze der KI‑Forschung, bis zu 25 % Rabatt auf KI Pro‑Events und Zugriff auf das komplette Archiv der letzten zehn Jahre.
