Gadys Geopolitik: Verlieren wir den Krieg gegen die KI?
US-Entwickler warnen, dass Künstliche Intelligenz schon bald die Menschheit auslöschen könnte. Die Vorstellung, dass es keine Gegenwehr gibt, ist realitätsfremd.
Letztes Wochenende war ich in Dresden im Militärhistorischen Museum der Bundeswehr und durfte über Künstliche Intelligenz und die Zukunft des Krieges vortragen. Danach ging ich durch die Ausstellung. Deutsche und österreichische Militärgeschichte ist in meinem Kopf immer dunkler als ihr britisches oder amerikanisches Pendant, geteilt in ein Davor und ein Danach: die Zeit vor Wehrmacht und Drittem Reich und die Zeit seither. Bestimmt also durch einen Bruch statt durch Kontinuität, was sich auch in der Kultur rund um das Militär niederschlägt. Ölgemälde von Offizieren und Feldherren vor 1945 wirken auf mich ferner und fremder als vergleichbare Porträts in amerikanischen Museen.
Und doch brachte mich das knochige Gesicht eines preußischen Generalfeldmarschalls dazu, nicht über die Vergangenheit, sondern über die Zukunft nachzudenken. Von Helmuth von Moltke stammt der Satz, kein Operationsplan reiche mit einiger Sicherheit über das erste Zusammentreffen mit der feindlichen Hauptmacht hinaus. Verkürzt: Kein Plan überlebt den Kontakt mit dem Feind. Der Satz ging mir nicht mehr aus dem Kopf, während ich an die Horrorszenarien dachte, die uns KI-Entwickler zuletzt präsentiert haben. Der Forscher Jacob Coxon kündigte bei Anthropic mit der Begründung, sein Arbeitgeber und OpenAI bauten an Systemen, die „uns alle bis zum Ende des Jahrzehnts töten könnten“. Die Wahrscheinlichkeit dafür liege im kommenden Jahrzehnt bei über zehn Prozent. Firmenchef Dario Amodei warnte, ein Schwarm von KI-Agenten könne in sechs bis zwölf Monaten das gesamte Internet übernehmen.
Auf das Unvorhergesehene reagieren
Was mich an solchen Aussagen stört, ist nicht nur, dass die Technologie, so wie ich sie kenne, weit davon entfernt ist, autonom hochpotente biologische Waffen zu entwickeln, Zugang zu Nuklearwaffen zu erlangen oder die globale Stromversorgung lahmzulegen, um einige der Szenarien zu nennen, mit denen die KI die Menschheit auslöschen könnte. Es ist vor allem das Menschenbild dahinter: der Mensch als passives, unterlegenes Wesen, das von der überlegenen Maschine ausgetrickst und ausmanövriert wird. Tatsächlich ist, wie Moltke wusste, jeder Konflikt von einer Dialektik geprägt. Es reicht nicht, einen superintelligenten Plan zu entwerfen und schnell umzusetzen. Man muss auch auf das Unvorhergesehene reagieren können, das im Krieg, der auch keine festen Regeln kennt, immer eintritt. Man kann natürlich einwenden, ein freigesetzter Erreger kenne keine Dialektik. Doch ihn zu bauen und einzusetzen, ohne dass irgendwer gegenhält, ist realitätsfremd.
Genau hier ist die KI nach wie vor im Nachteil. Große KI-Sprachmodelle arbeiten vor allem induktiv: Sie erkennen Muster in Daten und berechnen, was wahrscheinlich folgt. Wenn die Straße hundertmal nass war, nachdem es geregnet hat, entsteht die Regel: nasse Straße bedeutet Regen. Effektive Kriegführung beruht auf ihrer obersten Ebene aber auf abduktiver Logik. Sie sucht nicht das Muster, sondern die plausibelste Erklärung für eine Beobachtung, auch wenn diese dem Muster widerspricht. So kann die Straße nass sein, weil eine Kehrmaschine gefahren ist.
Die Militärgeschichte lehrt uns, dass es die eine Superwaffe, gegen die es kein Gegenmittel gibt, nicht existiert.
Die klügsten Soldaten waren jene, die im entscheidenden Moment, oft aus einem Bauchgefühl heraus, die Kehrmaschine vom Regen unterscheiden konnten und den Gegner schlugen, weil sie gegen die Regel verstießen. Man denke an Friedrichs schiefe Schlachtordnung bei Leuthen 1757, den deutschen Angriff durch die Ardennen 1940 oder Mansteins „Schlag aus der Rückhand“ 1943. Um der Menschheit jene Niederlage zuzufügen, die ihr Ende bedeutet, müsste die KI also abduktiv „denken“ können. Die Militärgeschichte lehrt uns, dass es die eine Superwaffe, gegen die es kein Gegenmittel gibt, nicht existiert. Kriege werden nie allein von einer auch noch so überlegenen Technologie entschieden, der „Feind” – in dieser Hinsicht der Mensch – hat immer ein Wort mitzureden. Das heißt nicht, die Gefahren der KI zu verharmlosen. Es heißt, dass gute Mustererkennung bei weitem keine geistige Überlegenheit der Maschine über den Menschen ist.