Schloss Cecilienhof in Potsdam, Sitz der Potsdamer Konferenz. Bild: Man Hurt/ Shutterstock.com
Wissenschaftler warnen vor autonomen Waffen. Sie sehen Parallelen zum Atomwettrüsten. Doch was macht Killer-Roboter so gefährlich?
Vor 80 Jahren erlebte die Welt die katastrophalen Folgen der ersten Atombombenabwürfe auf Hiroshima und Nagasaki. Doch gleichzeitig begann auch eine Nachkriegsordnung, die auf dem Bekenntnis zum Frieden basierte. Im Juli 1945 wurde die Charta der Vereinten Nationen verabschiedet, und am 1. August 1945 unterzeichneten die Staats- und Regierungschefs der Vereinigten Staaten, Großbritanniens und der Sowjetunion das Potsdamer Abkommen.
Ein Jahrzehnt später veröffentlichte eine Gruppe von Wissenschaftlern unter der Leitung von Albert Einstein und Bertrand Russell ein Manifest, in dem sie die Staats- und Regierungschefs der Weltmächte aufforderte, alles in ihrer Macht Stehende zu tun, um einen Atomkrieg zu verhindern.
Sie warnten: "Wir müssen lernen, neu zu denken … nicht darüber, welche Schritte unternommen werden können, um einer von uns bevorzugten Gruppe den militärischen Sieg zu sichern … sondern darüber, welche Schritte unternommen werden können, um einen militärischen Konflikt zu verhindern, dessen Ausgang für alle Beteiligten verheerend sein muss."
Dieser Appell hatte nachhaltige Wirkung. Trotz zahlreicher Konflikte über die Jahrzehnte hinweg wurden Atomwaffen – anerkannte Massenvernichtungswaffen – nie wieder kriegerisch eingesetzt.
Doch die Welt ist nicht friedlich geworden. Wir sehen uns weiterhin regionalen und lokalen Kriegen mit immer ausgefeilteren Waffensystemen gegenüber. Während Regierungen bisher auf den Einsatz der "nuklearen Option" verzichtet haben, zeichnet sich eine neue Bedrohung ab, die grundlegend andere, aber potenziell ebenso schwerwiegende Risiken birgt: autonome Waffensysteme (AWS).
Vor 80 Jahren wurde die Atombombe als wissenschaftlicher Durchbruch gefeiert. Sie markierte aber auch den Beginn eines nuklearen Wettrüstens. Heute stellt Künstliche Intelligenz (KI) – leistungsfähig genug, um den Einsatz tödlicher autonomer Waffensysteme zu ermöglichen – einen weiteren transformativen wissenschaftlichen Fortschritt dar. Und erneut erleben wir die Entstehung eines Wettrüstens, diesmal im Bereich der KI.
Wir, die Unterzeichner des "Potsdamer Aufrufs zu autonomen Waffensystemen", erkennen an, dass Atomwaffen und AWS nicht dasselbe sind. Atomwaffen sind auf Massenvernichtung ausgelegt. AWS hingegen ermöglichen gezielte Angriffe. Ihre Gefahr liegt jedoch woanders: im potenziellen Verlust der menschlichen Kontrolle. Wenn Maschinen die Macht erhalten, über Leben und Tod zu entscheiden, könnte die Hemmschwelle für Gewalt drastisch sinken, und der Einsatz könnte zu Zerstörungen führen, die bestehende rechtliche und ethische Rahmenbedingungen in Frage stellen.
Entwicklung überdenken
Am 14. Juni 2024 hielt der verstorbene Papst Franziskus eine Rede vor den Staats- und Regierungschefs der G7 in Apulien und warnte: "Angesichts der Tragödie bewaffneter Konflikte ist es dringend erforderlich, die Entwicklung und den Einsatz von Geräten wie den sogenannten tödlichen autonomen Waffen zu überdenken und ihren Einsatz letztlich zu verbieten. … Keine Maschine sollte sich jemals dafür entscheiden, einem Menschen das Leben zu nehmen."
Nicht naiv
Wir, die unterzeichnenden Wissenschaftler, sind nicht naiv. Wir wissen, dass im Kriegsfall alle militärischen Optionen in Betracht gezogen werden können. Doch die Geschichte zeigt, dass selbst Gegner mit tiefgreifenden Meinungsverschiedenheiten Abrüstungsabkommen – wie sie in den 1960er und 1970er Jahren geschlossen wurden – aushandeln konnten, um das Eskalationsrisiko zu verringern.
Ein ähnlicher Weg muss für AWS beschritten werden. Wie Einstein und Russell uns 1955 erinnerten: "Wir appellieren als Menschen an die Menschen: Erinnert euch an eure Menschlichkeit und vergesst alles andere."
Potsdam vor 80 Jahren und heute
Vor 80 Jahren empfing Potsdam die Staats- und Regierungschefs dreier Großmächte, die den Grundstein für eine Nachkriegsordnung legten, die auf den Prinzipien der Charta der Vereinten Nationen basierte, die wenige Wochen zuvor in San Francisco unterzeichnet worden war.
80 Jahre später fordern wir die heutigen Staats- und Regierungschefs auf, sich an dieses Erbe zu erinnern. Stellen Sie sicher, dass Entscheidungen über Leben und Tod in Menschenhand bleiben. Und verpflichten Sie sich, Konflikte nicht durch Automatisierung und algorithmische Zielerfassung zu lösen, sondern im Einklang mit dem Völkerrecht und dem gemeinsamen Menschenverstand.
