Kognitive Kriegsführung, Autonomie und Entscheidungszeit

Mit der Zunahme der Informationen geht keine entsprechende Zunahme der Zeit zu ihrer Deutung einher. Aus dieser Verdichtung entsteht das strategische Problem. Fast die gesamte moderne Militärgeschichte ließe sich aus dem Blickwinkel dieser Spannung neu lesen. Der Telegraf beschleunigte die Befehlsführung. Das Funkgerät verkürzte die Zeit zwischen Beobachtung und Befehl weiter. Das Radar verschaffte angesichts einer Bedrohung aus der Luft einige zusätzliche Minuten. Satelliten erweiterten die Reichweite der Beobachtung. Digitale Netzwerke beseitigten dann bestimmte Entfernungen nahezu vollständig. Die künstliche Intelligenz fügt nun eine andere Art der Verwandlung hinzu:

Sie beschleunigt nicht mehr bloß die Übertragung des Signals.

Sie beschleunigt die Deutung. Dort beginnt aus meiner Sicht der eigentliche Wandel. Wenn eine Maschine erkennen, einordnen, vergleichen, priorisieren und eine Handlung vorschlagen kann, bevor ein menschlicher Bediener sämtliche Daten gesichtet hat, verlagert sich das strategische Problem auf die Entscheidungszeit selbst.

Etwas zeigen.

Verhindern, dass etwas anderes gesehen wird.

Das System mit widersprüchlichen Informationen überfluten.

Die kognitive Kriegsführung wirkt auch auf die Zeit.

Ein falsches Gefühl der Dringlichkeit erzeugen.

Eine Entscheidung verzögern.

Eine andere beschleunigen.

Die kognitive Kriegsführung greift somit weniger unmittelbar den Körper an als das Weltmodell, mit dem der Gegner handelt. Es ist eine besonders tiefgreifende Form des Krieges, weil jede militärische Handlung mit einer Vorstellung beginnt.

Bevor man feuert, muss ein Ziel identifiziert werden.

Bevor man mobilisiert, muss man eine Absicht gedeutet haben.

Bevor man zurückschlägt, muss man entschieden haben, dass ein Angriff tatsächlich stattfindet.

Ist die Vorstellung falsch, kann die gesamte verfügbare Macht gegen eine Illusion eingesetzt werden. Dieser Gedanke ist alt. Strategen haben schon immer Täuschung, Tarnung und Ablenkung eingesetzt. Anders ist heute der Maßstab. Künstliche Intelligenz kann Signale mit einer Geschwindigkeit erzeugen, erkennen und analysieren, die kein menschliches Team durchhalten könnte.

Das verwandelt die Täuschung in eine Industrie. Tausende falsche Konten, Millionen Inhalte, synthetische Bilder, geklonte Stimmen und glaubwürdige Dokumente können nahezu augenblicklich erzeugt werden. Doch es wäre vereinfachend, kognitive Kriegsführung auf Deepfakes zu beschränken. Das eigentliche Problem reicht viel weiter:

Woher weiß ein System, was es glauben soll? Diese Frage gilt für eine künstliche Intelligenz ebenso wie für eine Gesellschaft. Der Unterschied besteht darin, dass KI eine gigantische Menge an Informationen verarbeiten und damit auch eine gigantische Menge an Manipulation aufnehmen kann. Sie wird zugleich zum Werkzeug der Erkennung und zu einer neuen Angriffsfläche.

Man kann versuchen, einen menschlichen Bediener zu täuschen. Nun kann man auch versuchen, das Modell zu täuschen, das diesen Bediener unterstützt. Hier gewinnt der Konflikt eine neue Tiefe. Der Gegner versucht nicht mehr bloß, ein Fahrzeug zu verstecken. Er versucht möglicherweise, eine Signatur zu erzeugen, die den Algorithmus dazu bringt, es in die falsche Kategorie einzuordnen.

Er versucht nicht mehr nur, ein Radar zu stören. Er kann versuchen, die Datenkette zu beeinträchtigen, die eine künstliche Intelligenz speist. Dieser Krieg gegen die algorithmische Wahrnehmung erscheint mir entscheidend. Wir treten in eine Welt ein, in der Systeme lernen müssen, sich nicht nur zu fragen:

Was sehe ich?

Sondern auch:

Versucht jemand, mich genau das sehen zu lassen?

Der blindspot – der blindspot – reicht hier in das strategische Feld hinein. Jede Intelligenz hat Wahrnehmungsgrenzen. Doch wenn ein Gegner sie kennt, kann er versuchen, sie auszunutzen. Eine Verzerrung ist dann nicht mehr bloß ein Mangel. Sie wird zu einer strategischen Verwundbarkeit. Deshalb müssen algorithmische Verzerrungen auch unter dem Gesichtspunkt der Sicherheit betrachtet werden.

Ein Modell, das bestimmte Signale überbewertet, bestimmte Situationen falsch einordnet oder zu schnell verallgemeinert, kann von einem Akteur manipuliert werden, der seine Logik versteht. Daraus entsteht eine beinahe biologische Dynamik: ein Wettstreit zwischen Gegnern. In der Natur entwickeln sich Räuber und Beute gemeinsam weiter. Der eine entwickelt eine Tarnung, der andere eine bessere Wahrnehmung. Der eine beschleunigt, der andere wird schneller. Militärische KI-Systeme werden wahrscheinlich in diese fortwährende Koevolution eintreten. Jede Verbesserung der Erkennung wird eine Verbesserung der Tarnung nach sich ziehen. Jedes neue Identifikationssystem wird eine Methode hervorbringen, es zu täuschen.

Der Wettlauf endet nie. Genau das ist die Logik des Mutanten. Nur Mutanten überleben, weil die Umgebung selbst lernt. Eine Technologie, die in einem sich anpassenden Konflikt erstarrt, wird rasch überholt.

Besonders beunruhigend wird diese Dynamik, wenn sie die Entscheidungsschleife erreicht. Die Militärdoktrin bezieht sich häufig auf den Zyklus Beobachtung–Orientierung–Entscheidung–Handlung. Wer diese Schleife schneller durchläuft, kann dem Gegner sein Tempo aufzwingen. Künstliche Intelligenz beschleunigt jede dieser Stufen. Sie kann mehr Sensoren beobachten, sich durch den Vergleich einer größeren Zahl von Szenarien orientieren, die Entscheidung unterstützen und manchmal eine automatisierte Handlung auslösen.

Die Versuchung ist dann gewaltig:

Die menschlichen Verzögerungen nach und nach beseitigen, um einige Sekunden zu gewinnen. Und genau dort beginnt die Gefahr. Eine gewonnene Sekunde kann einen taktischen Vorteil darstellen.

Doch wer zu viele Sekunden beseitigt, kann auch die Zeit beseitigen, die nötig ist, um einen Irrtum zu erkennen. Geschwindigkeit ist daher zugleich eine Waffe und ein Risiko. Das ist eines der grundlegenden Paradoxe im Zeitalter militärischer KI. Lange lag der strategische Vorteil bei demjenigen, der am schnellsten entscheiden konnte.

Nun könnte er auch bei denen liegen, die wissen, wann sie langsamer werden müssen. Dieser Gedanke scheint mir wesentlich. Intelligenz besteht nicht immer in Beschleunigung. Manchmal besteht sie darin, bewusst eine Verzögerung einzubauen.

Ein kritisches System muss anzeigen können: Dieses Signal ist mehrdeutig genug, um eine zweite Überprüfung zu verlangen. Aus rein wettbewerblicher Sicht mag diese Verlangsamung ineffizient erscheinen. Doch sie kann eine unumkehrbare Eskalation verhindern. Hier wird die technische Gestaltung der Deeskalation zu einer wirklichen Architektur.

Allzu oft haben wir Deeskalation als diplomatisches Problem betrachtet, das von der Technik getrennt wäre. Das ist nicht mehr möglich. Das System selbst muss Bremsmechanismen enthalten, so wie eine Industriemaschine Not-Aus-Vorrichtungen besitzt.

Niemand betrachtet den Stoppknopf als Schwäche der Maschine. Im Gegenteil ist er eine Voraussetzung ihrer Sicherheit. Genauso sollten wir über durch KI erweiterte militärische Systeme denken.

Was ist der Stoppknopf?

Wer kann die Kontrolle zurückübernehmen?

In welchen Situationen sollte das System sich weigern, automatisch zu handeln?

Welche Signale verlangen zwei unabhängige Quellen?

Welcher Grad an Ungewissheit erfordert ein menschliches Eingreifen?

Das sind Fragen der Architektur, nicht nur der Ethik. Eine Sicherheitsdoktrin, die nicht zu Code, Verfahren, Schnittstellen und Befehlsketten wird, bleibt eine Absicht. Das entspricht vollkommen allem, was ich in der industriellen Welt gelernt habe.

Sicherheit wird nicht verkündet. Sie wird konzipiert. Ein gefährliches Gerät muss von seinen möglichen Fehlern her entworfen werden.

Was geschieht, wenn dieser Sensor ausfällt?

Wenn diese Daten falsch sind?

Wenn dieser Bediener die Warnung falsch deutet?

Wenn zwei Systeme widersprüchliche Antworten geben?

Militärische KI muss denselben strengen Maßstäben unterliegen. Ein Modell kann nicht allein deshalb als zuverlässig gelten, weil es im Durchschnitt hervorragende Leistungen erzielt. In einem strategischen System reichen Durchschnittswerte nicht aus. Auch die Art des extremen Fehlers zählt. Ein Modell kann in 99,9 Prozent der Fälle richtigliegen und im verbleibenden Tausendstel katastrophal sein, wenn dieses Tausendstel eine unumkehrbare Reaktion auslöst.

Genau darin liegt der Unterschied zwischen kommerzieller Optimierung und Sicherheit in kritischen Systemen. Eine fehlerhafte Werbeempfehlung kostet wenig. Eine falsche Einordnung in einer Verteidigungskette kann Tote oder sogar einen Krieg verursachen. Deshalb brauchen wir einen Wandel unserer Messkultur.

Ingenieure werden lernen müssen, nicht nur die Genauigkeit zu messen, sondern auch die Schwere falsch positiver und falsch negativer Ergebnisse, die Ungewissheit und die Robustheit unter Angriffen. Es ist eine Wissenschaft des Fehlers, bevor es eine Wissenschaft der Leistung ist. Dieser Ausdruck scheint mir treffend. Sicherheit besteht zunächst und vor allem darin zu verstehen, wie das System sich irren kann.

Dasselbe gilt für Menschen. Die große Stärke eines erfahrenen Entscheidungsträgers besteht nicht darin, niemals Fehler zu machen. Sie besteht darin, bestimmte Formen der eigenen Fehler zu erkennen. Darin liegt der blindspot.

Wenn künstliche Intelligenz wirklich strategisch werden soll, wird sie ihre Bereiche der Ungewissheit kartieren können müssen. Das wäre ein bedeutender Wandel gegenüber der Fantasie vom unfehlbaren Computer. Eine wirklich nützliche KI sollte nicht bloß Antworten liefern; sie sollte eine Topografie des Vertrauens erzeugen.

Hier ist, was ich für sehr wahrscheinlich halte.

Hier ist, was weniger wahrscheinlich ist.

Hier sind die fehlenden Daten.

Hier sind die konkurrierenden Hypothesen.

Hier ist, was mein Szenario widerlegen würde, falls es zutrifft.

Diese letzte Fähigkeit scheint mir wesentlich:

Wissen, was die eigene Deutung widerlegen könnte. Eine Maschine, die Widerspruch organisieren kann, wäre weit wertvoller als eine, die bloß Bestätigungen anhäuft. Und das berührt ein sehr konkretes militärisches Problem. In einer Krise sucht eine Organisation von sich aus nach Signalen, die zu der Bedrohung passen, die sie fürchtet.

Das ist eine bekannte menschliche Verzerrung. KI kann diese Verzerrung entweder korrigieren oder verstärken. Wenn sie darauf trainiert ist, nur nach dem zu suchen, wonach der Generalstab sie suchen lässt, kann sie eine gewaltige Bestätigungskraft entwickeln.

Jedes neue Signal wird dann im Sinne des vorherrschenden Szenarios gedeutet. Das System schließt sich in sich selbst ein.

Das ist beinahe algorithmische Paranoia. Alles wird zum Beweis. Darin liegt eine große Gefahr. Eine tragfähige Architektur sollte das System zwingen, eine Gegenargumentation hervorzubringen.

Wenn das Hauptszenario ein Angriff ist, welche Daten stützen dann das Szenario einer Übung, eines Irrtums oder eines Ablenkungsmanövers?

Wenn die Wahrscheinlichkeit einer feindlichen Handlung steigt, welche Faktoren verringern sie?

Diese Gegenanalyse ließe sich automatisieren. Man könnte sich beinahe zwei gegnerische Modelle vorstellen: eines mit der Aufgabe, die Haupthypothese aufzubauen, das andere mit dem Versuch, sie zu widerlegen. Eine Art algorithmisches kontradiktorisches Verfahren. Das entspricht vollkommen meinem Verständnis des Rechts. Die Auseinandersetzung gegensätzlicher Positionen ist kein Hindernis für die Wahrheit.

Sie ist eine Methode, Irrtümer zu verringern. Eine wichtige Entscheidung muss dem Ansturm entgegenstehender Argumente standhalten können. Diese Philosophie auf militärische KI anzuwenden, erscheint mir besonders fruchtbar. Es würde verhindern, dass ein einzelnes Modell zu einer absoluten kognitiven Autorität wird.

Diese Vielfalt der Modelle ist auch in kritischen Systemen wichtig. Die Abhängigkeit von einer einzigen Intelligenzarchitektur schafft eine einzige Stelle, deren Ausfall alles gefährdet. Zwei unterschiedlich trainierte Systeme können unterschiedliche Dinge sehen. Ihre Uneinigkeit wird zur Information.

Das ist ein außerordentlich wichtiger Grundsatz. Uneinigkeit wird oft als ein Problem betrachtet, das gelöst werden muss. Sie kann zu einem Sensor werden. Wenn mehrere wirklich unabhängige Modelle zum selben Ergebnis kommen, wächst das Vertrauen.

Sie können stark voneinander abweichen; dann sollte das System langsamer werden. Die Abweichung wird zum Signal der Ungewissheit. Damit kehren wir genau zur Logik der medizinischen oder wissenschaftlichen Diagnose zurück. Eine einzelne Messung kann falsch sein.

Mehrere unabhängige Messungen verringern das Risiko. Doch die Unabhängigkeit ist entscheidend. Drei Modelle, die mit denselben Daten trainiert und nach derselben Logik gebaut wurden, können dieselbe Verzerrung reproduzieren. Redundanz ist daher nicht bloß Verdopplung.

Sie verlangt Vielfalt. Hier kehrt eine biologische Lehre zurück. Monokulturen sind fragil. Ein an sie angepasster Parasit kann das gesamte System zerstören.

Vielfalt schafft Widerstandsfähigkeit. Derselbe Grundsatz könnte für militärische kognitive Systeme zentral werden: Vielfalt der Sensoren, der Modelle, der Doktrinen und der menschlichen Teams. Das homogenste System kann das schnellste sein. Es kann auch für einen gemeinsamen Fehler am anfälligsten sein.

Diese Spannung zwischen Geschwindigkeit und Vielfalt wird wahrscheinlich eine der großen Gestaltungsentscheidungen bestimmen. Die politischen Systeme selbst könnten unterschiedlich betroffen sein. Ein zentralisiertes System kann rasch eine gemeinsame Architektur in sämtlichen Streitkräften einsetzen. Das erzeugt eine außergewöhnliche Koordination. Doch wenn diese Architektur eine tiefgreifende Schwachstelle besitzt, breitet sie sich überall aus.

Ein stärker verteiltes System lässt sich schwieriger koordinieren, kann aber einem lokalen Ausfall besser standhalten. Genau das ist die Logik der Netzwerke. Die militärische Führung der Zukunft wird deshalb ein Gleichgewicht zwischen Zentralisierung und örtlicher Autonomie finden müssen. Künstliche Intelligenz könnte entfernten Einheiten ermöglichen, auch bei beeinträchtigter Kommunikation zu operieren.

Das ist taktisch sehr wirksam. Eine Drohne, ein Fahrzeug oder eine Robotereinheit könnte bestimmte Missionen ohne ständige Verbindung zum Hauptquartier fortsetzen. Doch diese Autonomie erschwert auch die Kontrolle. Wie weit sollte eine Maschine ohne Freigabe handeln dürfen?

Hier rückt die Debatte über autonome Waffen in den Vordergrund. Zunächst müssen wir präzise sein. Das Wort „autonom“ bezeichnet sehr unterschiedliche Wirklichkeiten. Ein System kann selbstständig navigieren, eine Route wählen, einem Hindernis ausweichen, ein Objekt identifizieren.

Es kann auch befugt sein, ein Ziel auszuwählen und eine tödliche Handlung einzuleiten. Diese Ebenen dürfen niemals verwechselt werden. Autonomie bei der Navigation ist keine Autonomie bei der Entscheidung über tödliche Gewalt. Autonomie bei der Identifikation ist keine Autonomie beim Waffeneinsatz.

Ein fein abgestufter Wortschatz ist hier eine moralische und strategische Notwendigkeit. Von einer „autonomen Waffe“ zu sprechen, ohne anzugeben, welche Funktion autonom ist, zerstört die Analyse. Die kritische Frage entsteht, wenn die Kette menschlicher Verantwortung zu weit entfernt ist. Ein Offizier kann einen Auftrag, ein Gebiet und Kriterien festlegen, und anschließend kann ein System mehrere Stunden ohne Kommunikation operieren.

Wer ist dann für einen Fehler verantwortlich?

Die Person, die den Algorithmus entworfen hat?

Diejenige, die die Parameter vorgegeben hat?

Wer den Einsatz genehmigt hat?

Die Verantwortung verteilt sich. Doch eine übermäßig verteilte Verantwortung kann schließlich dazu führen, dass niemand mehr eindeutig rechenschaftspflichtig ist. Darin liegt ein großes rechtliches Risiko. Das System darf nicht zu einem schwarzen Loch der Verantwortlichkeit werden. Deshalb muss die präzise Nachvollziehbarkeit der Entscheidungen erhalten bleiben.

Welche Parameter wurden verwendet?

Welche Version des Modells?

Welche Daten standen zur Verfügung?

Wie hoch ist das Vertrauensniveau?

Welcher Mensch hat was genehmigt?

Diese Aufzeichnungen müssen wie die Flugschreiber von Flugzeugen bewahrt werden. Die Analogie zur Luftfahrt scheint mir sehr tragfähig. Die Luftfahrt hat eine Sicherheitskultur aufgebaut, indem sie jeden Unfall, jeden Zwischenfall, jede Ursachenkette analysierte. Sie hat verstanden, dass ein Fehler selten aus einem einzigen Versäumnis entsteht. Oft geht er auf eine Reihe kleiner Anomalien zurück, die zusammenkommen.

Militärische KI wird dieselbe Kultur entwickeln müssen. Sie sollte nicht bloß nach einem Schuldigen suchen, sondern die Architektur verstehen, die den Fehler ermöglicht hat. Dieser Ansatz ist politisch viel anspruchsvoller, weil Organisationen die Schuld oft lieber einzelnen Personen zuweisen.

Doch eine reife Sicherheitskultur sucht die systemische Ursache. Genau dazu sollte künstliche Intelligenz fähig sein: nicht nur feststellen, was geschehen ist, sondern die Entscheidungskette rekonstruieren. Diese Fähigkeit, Kausalität rückblickend nachzuzeichnen, wird unverzichtbar werden. Wir sind bereits in ein Zeitalter eingetreten, in dem viele komplexe Systeme für einen einzelnen Menschen teilweise unverständlich sind.

Ein durch KI erweitertes militärisches Netzwerk kann Satelliten, Drohnen, Bodensensoren, Cyberaufklärung und menschliche Informationen verbinden. Eine Entscheidung kann aus dem Zusammenspiel Dutzender Systeme entstehen. Wer versteht dann wirklich das Ganze? Vielleicht niemand.

Hier nimmt das systemische Risiko zu. Wir können Architekturen bauen, die kein Mensch sich vollständig vorstellen kann. Das gibt es in der Finanzwelt und im Internet bereits. Doch der Krieg fügt die Unumkehrbarkeit hinzu.

Ein Markt kann geschlossen werden.

Eine Transaktion kann manchmal rückgängig gemacht werden.

Ein Angriff lässt sich nach dem Einschlag nicht zurückrufen.

Die Unumkehrbarkeit muss deshalb zu einer zentralen Größe der menschlichen Kontrolle werden. Je unumkehrbarer und gefährlicher eine Handlung ist, desto anspruchsvoller sollte aus meiner Sicht die Schwelle für Autonomie sein. Einer KI zu erlauben, die Temperatur eines Gebäudes zu regeln, ist nicht dasselbe, wie ihr zu erlauben, ein Ziel zu identifizieren. Autonomie sollte im Verhältnis zur Umkehrbarkeit gedacht werden.

Diese Formulierung scheint mir grundlegend. Das Recht könnte sich davon anregen lassen. Je eher eine Entscheidung ein Leben, eine Freiheit oder ein strategisches Gleichgewicht beeinträchtigen kann, desto höher sollten die Anforderungen an Kontrolle, Nachvollziehbarkeit und Anfechtbarkeit sein. Das schafft KI nicht ab.

Es bestimmt ihre Rolle. Doch das militärische Problem besteht gerade darin, dass der Gegner diese Vorsicht möglicherweise nicht akzeptiert. Wenn eine Seite ultraschnelle Systeme baut und größere Autonomie zulässt, kann die andere fürchten, abgehängt zu werden. Vorsicht wird dann als Nachteil wahrgenommen.

Das ist der klassische Mechanismus des Wettrüstens. Jedes Land übernimmt eine Technologie nicht deshalb, weil es sie für ideal hält, sondern weil es fürchtet, dass der andere sie übernehmen wird. Deshalb wird internationale Steuerung notwendig. Ohne gemeinsame Mindestregeln treibt die Wettbewerbslogik zu höchster Geschwindigkeit.

Doch ein Wettlauf um kognitive Geschwindigkeit kann gefährlicher sein als ein Wettlauf um die Zahl der Waffen. Wenn jede Macht glaubt, reagieren zu müssen, bevor sie die Lage vollständig überprüft hat, wird das Gesamtsystem äußerst instabil. Die Parallele zum Hochfrequenzhandel ist aufschlussreich: Dort reagieren bereits Algorithmen auf Algorithmen. Wir haben schon gesehen, wie automatisierte Wechselwirkungen äußerst schnelle und schwer verständliche Bewegungen hervorbringen können.

Diese Logik auf eine militärische Konfrontation zu übertragen, wäre schwindelerregend. Zwei Systeme könnten gegenseitig die Handlungen des anderen deuten und die Eskalation beschleunigen, ohne dass ein menschlicher Entscheidungsträger bewusst bestimmte Schwellen überschreiten wollte. Es wäre eine Art geopolitischer Flash-Crash. Dieses Bild scheint mir wichtig.

Ein blitzartiger Finanzcrash lässt sich innerhalb von Minuten korrigieren. Einen nuklearen Flash-Crash gibt es nicht. Es gibt keine Rückkehr zur vorherigen Lage. Deshalb müssen bestimmte Waffenkategorien besonders strengen zeitlichen Vorgaben und menschlichen Kontrollen unterliegen.

Die Verkürzung der Entscheidungszeit ist deshalb vielleicht das zentrale Risiko strategischer KI. Wir sprechen oft über Superintelligenz als abstrakte Zukunft. Doch die unmittelbare Gefahr könnte viel einfacher sein:

Eine Intelligenz, die schnell genug ist, um Menschen zu übereiltem Handeln zu drängen.

Die wahrgenommene Geschwindigkeit des Gegners beeinflusst das Verhalten. Wenn ich glaube, dass er innerhalb von Sekunden erkennen und zuschlagen kann, bin ich womöglich versucht, mehr an meine eigenen Systeme zu delegieren. Dann treten wir in eine Schleife ein, in der jede Automatisierung die Automatisierung des Gegners rechtfertigt. Genau das ist das klassische Sicherheitsdilemma.

Die Verteidigung des einen wird zur Bedrohung des anderen. Ein schnelleres Entscheidungssystem mag als defensiv dargestellt werden, doch der Gegner kann darin eine Erstschlagsfähigkeit sehen. Die Mehrdeutigkeit wächst. Deshalb müssen wir nicht nur darüber nachdenken, was die Technologie tut, sondern auch darüber, wie die andere Seite sie deutet.

Strategische Stabilität hängt in hohem Maße von der Wahrnehmung ab. Eine defensiv konzipierte Fähigkeit kann destabilisierend wirken, wenn sie das Gleichgewicht der Abschreckung verändert. Hier werden Transparenz und öffentlich erklärte Doktrinen wichtig. Staaten werden wahrscheinlich einige der Grenzen erklären müssen, die sie ihren eigenen Systemen auferlegen.

Nicht um ihre operativen Geheimnisse preiszugeben, sondern um ein Mindestmaß an Vertrauen aufzubauen. Etwa indem sie erklären, dass eine bestimmte Art von Entscheidung unter menschlicher Kontrolle bleiben wird. Doch diese Erklärung muss glaubwürdig sein.

Glaubwürdigkeit verlangt Verfahren, vielleicht Überprüfungsmechanismen. Wir kehren zum alten Problem der Rüstungskontrolle zurück, wenden es aber auf ein Softwareobjekt an. Wie lässt sich überprüfen, dass ein KI-System bestimmte Fähigkeiten nicht besitzt? Das ist unendlich viel schwieriger, als Raketen zu zählen.

Eine Rakete ist sichtbar. Software lässt sich schnell verändern. Die Kontrolle algorithmischer Waffen wird deshalb wahrscheinlich eines der komplexesten diplomatischen Probleme des Jahrhunderts sein. Wir werden nicht einfach eine Lagerhalle besichtigen können.

Vielleicht wird es nötig sein, Architekturen zu zertifizieren, Protokolle zu prüfen und bestimmte Verwendungen zu kontrollieren. Und das wirft offenkundig Fragen der Souveränität und Geheimhaltung auf. Wir bewegen uns hier auf nahezu unerforschtem Gebiet. Das bedeutet jedoch nicht, dass es unmöglich wäre, Normen zu schaffen.

Staaten können mit Regeln für den Einsatz beginnen, statt bestimmte Technologien vollständig zu verbieten. Sie können vereinbaren, dass manche Entscheidungen menschlich bleiben. Sie können Kommunikationskanäle für Zwischenfälle mit autonomen Systemen unterhalten. Sie können nach bestimmten Anomalien Informationen austauschen, um Fehldeutungen zu vermeiden.

Deeskalation beginnt oft mit bescheidenen Verfahren. Genau darin liegt der Irrtum derjenigen, die auf einen großen, vollkommenen Vertrag warten. Eine Vertrauensarchitektur lässt sich Schicht für Schicht aufbauen.

Ein Benachrichtigungsprotokoll.

Ein direkter Kommunikationskanal.

Ein gemeinsamer Untersuchungsmechanismus.

Eine gemeinsame Terminologie.

All das wirkt bürokratisch bis zu dem Tag, an dem es einen Krieg verhindert. Manchmal retten Einzelheiten die Welt. Dieser Gedanke gefällt mir, weil er an meine Besessenheit von unsichtbaren Infrastrukturen anknüpft. Die große historische Erzählung feiert Anführer und Schlachten. Doch Stabilität hängt oft von Beamten, Ingenieuren, Verfahren und Schaubildern ab, die niemals fotografiert werden.

Scheinbares Chaos ruht manchmal auf einer äußerst strengen Ordnung. Genau das hat Nicolas Detry an der demeure du chaos gezeigt: Der Anschein von Unordnung bedeutet nicht die Abwesenheit von Struktur. Die Geopolitik funktioniert manchmal genauso. Die Welt erscheint chaotisch, weil wir auf die sichtbaren Ereignisse schauen.

Unter diesen Schichten liegen Tausende Protokolle, Übereinkommen und Verfahren, die Wechselwirkungen ermöglichen. Wenn diese Strukturen verschwinden, entsteht wirkliches Chaos. Deshalb ist die Zerstörung diplomatischer Kanäle immer gefährlich. Selbst zwischen Feinden muss ein Mindestgerüst erhalten bleiben.

Mit der KI wächst diese Notwendigkeit, weil die Zeit kürzer wird. Ein Zwischenfall, der früher mehrere Stunden Analyse verlangte, kann heute nur noch wenige Minuten beanspruchen. Die Kommunikation muss deshalb schneller und direkter werden. Man kann sich vorstellen, dass künftig manche direkten Kommunikationsverbindungen selbst von KI unterstützt werden, die übersetzen, Signale vergleichen und Missverständnisse erkennen kann.

Doch äußerste Vorsicht ist nötig. Die Maschine darf nicht zu einem neuen Filter werden, der die Botschaft verzerrt. Auch hier muss der Mensch zur Quelle zurückgehen können. Die sprachliche Nachvollziehbarkeit wird wichtig sein.

Maschinelle Übersetzung kann eine Absicht unmerklich verändern. In einer Krise zählt ein Wort. Das zeigt, wie weit entfernt vom Schlachtfeld die kognitive Kriegsführung beginnt. Sie beginnt in den Benutzeroberflächen.

Welche Warnung sieht der Präsident?

Welche Wörter verwendet das System?

Blinkendes Rot oder vorsichtiges Gelb?

Eine mit 80 Prozent angegebene Wahrscheinlichkeit und die Formulierung „wahrscheinlicher Angriff“ erzeugen nicht dieselbe psychologische Wirkung.

Die Gestaltung von Benutzeroberflächen gewinnt deshalb eine strategische Dimension. Das ist ein weites und dennoch oft unterschätztes Thema. Die Oberfläche ist nicht neutral. Sie strukturiert die Aufmerksamkeit. Ein Bediener, der von Dutzenden roten Warnmeldungen umgeben ist, unterscheidet womöglich nicht mehr, was dringend ist.

Ein System, das Ungewissheit zu stark verdeckt, schafft eine Illusion der Gewissheit. Die Art der Datendarstellung kann deshalb eine Entscheidung retten oder verderben. Das führt uns zur Ergonomie kritischer Systeme zurück. Verkehrspiloten, Fluglotsen und Kraftwerksbediener kennen dieses Problem bereits. Die durch KI erweiterte Kriegsführung wird von diesen Bereichen lernen müssen.

Wie lässt sich kognitive Überlastung vermeiden?

Wie lässt sich priorisieren, ohne etwas zu verbergen?

Wie lässt sich Ungewissheit darstellen?

Wie können wir verhindern, dass ein Bediener einer Empfehlung mechanisch folgt?

Das sind beinahe ebenso künstlerische wie technische Fragen, weil sie die Wahrnehmung betreffen. Die Form organisiert den Sinn. Auch hier finde ich meine Arbeit als bildender Künstler wieder. Ein Bild übermittelt nicht einfach Informationen.

Es organisiert den Blick. Platzierung, Maßstab und Kontrast verändern die Wahrnehmung. Eine militärische Benutzeroberfläche tut genau dasselbe. Sie ist eine Inszenierung der Wirklichkeit.

Und jede Inszenierung trägt Verantwortung. Das ist eine besonders interessante Dimension der KI: Sie führt Disziplinen zusammen, die wir künstlich voneinander getrennt hatten. Informatik, Psychologie, Gestaltung, Recht und Strategie werden zu einer einzigen Architektur. Kognitive Kriegsführung zwingt uns, den Menschen in der Entscheidungsschleife nicht als bloße abschließende Unterschrift zu denken, sondern als einen Organismus mit eigenen Grenzen.

Stress.

Müdigkeit.

Angst.

Verzerrungen.

Ein Verfahren, das in ruhiger Umgebung vollkommen funktioniert, kann in einer Krise versagen. Deshalb muss die Ausbildung Situationen einschließen, in denen die KI Fehler macht. Wenn die Bediener die Maschine während ihrer Ausbildung niemals scheitern sehen, laufen sie Gefahr, ihr zu stark zu vertrauen. Sie müssen lernen, dem Algorithmus nicht zu gehorchen, wenn die Umstände es verlangen. Das ist eine neue Fähigkeit.

Wir haben Soldaten den Umgang mit Waffen beigebracht. Wir werden ihnen beibringen müssen, künstliche Intelligenz infrage zu stellen. Die menschliche Souveränität hängt von der Fähigkeit ab, Nein zum System zu sagen. Doch um Nein sagen zu können, muss man seine Funktionsweise hinreichend verstehen. Das verlangt ein höheres Maß an technischer Sachkenntnis innerhalb der Institutionen.

KI darf keine Blackbox sein, die einigen Spezialisten anvertraut wird, während die Entscheidungsträger lediglich ihre Ergebnisse verwenden. Die Führung muss über algorithmische Grundkenntnisse verfügen. Sie muss das Modell nicht programmieren können. Aber sie muss verstehen, was eine Wahrscheinlichkeit, eine Datenverzerrung, eine Halluzination oder ein gegnerischer Angriff bedeutet.

Andernfalls kann sie ihre Autorität nicht wirklich ausüben. Kognitive Souveränität verlangt deshalb die Bildung des Entscheidungsträgers. Das gilt für Militärs, Minister, Richter und Unternehmensleiter. Wir treten in eine Zeit ein, in der algorithmischer Analphabetismus zu einer Form der Verwundbarkeit der Mächtigen werden könnte.

Ein Verantwortlicher, der die Technologie nicht versteht, von der seine Entscheidungen abhängen, gleicht einem Herrscher, der seine eigenen Karten nicht lesen kann. Er wird von denen abhängig, die sie für ihn deuten. Genau das ist die Geschichte der Macht:

Wer die Information kontrolliert, kontrolliert oft einen Teil der Entscheidung.

KI verstärkt dieses Phänomen. Ingenieure, Datenwissenschaftler und Modellanbieter werden potenziell zu strategischen Akteuren. Das wirft eine neue zivil-militärische Frage auf: In welchem Maße werden die Streitkräfte bei ihren kognitiven Fähigkeiten von privaten Unternehmen abhängen?

Eine private Plattform kann für die Landesverteidigung unverzichtbar werden. Das schafft ein ganz besonderes Verhältnis zwischen Kapital und Souveränität.

Staaten haben schon immer mit Rüstungsunternehmen zusammengearbeitet. Doch allgemeine KI kann gleichzeitig im zivilen und im militärischen Bereich eingesetzt werden.

Die Grenze wird durchlässiger. Unternehmen, die sich als technologiegetrieben verstehen, können sich im Zentrum großer strategischer Fragen wiederfinden. Sie werden dann ihre eigenen ethischen Leitlinien bestimmen müssen, während die Staaten ihren Zugang sichern wollen. Die Spannung ist unvermeidlich.

Cloud, Satelliten und KI gehören oft privaten Akteuren. Die öffentliche Gewalt kontrolliert nicht mehr zwangsläufig sämtliche kritischen Infrastrukturen, die sie nutzt. Auch das kennzeichnet das einundzwanzigste Jahrhundert. Der Staat bleibt rechtlich souverän, doch ein Teil seiner Handlungsfähigkeit beruht auf privater Infrastruktur. Kognitive Kriegsführung macht diese Abhängigkeit noch sichtbarer. Ein Konflikt könnte nicht nur Militärbasen ins Visier nehmen, sondern kommerzielle Rechenzentren, Kommunikationsnetze und Satellitenkonstellationen. Die Grenze zwischen ziviler und militärischer Sphäre ist außerordentlich schwer zu ziehen. Das wirft Fragen des Völkerrechts, aber auch der Widerstandsfähigkeit auf.

Sollte ein Land weiter funktionieren können, wenn ein privater Anbieter seinen Dienst einstellt? Wieder: Redundanz. Souveränität ist für mich auch die Kunst, nicht von einem einzigen Schalter abzuhängen, den ein anderer umlegen kann. Und KI schafft neue Schalter.

Der Zugang zum Modell.

Zur Cloud.

Zu den Prozessoren.

Zu den Aktualisierungen.

Jede Abhängigkeit ist potenziell ein Druckmittel. Das erklärt, weshalb China, die Vereinigten Staaten und Europa jeweils versuchen, ihre eigenen Schichten abzusichern. Doch diese Zersplitterung schafft ihrerseits ein weiteres Risiko: Wenn gegnerische Systeme füreinander vollständig undurchsichtig werden, nehmen die Fehldeutungen zu. Wir stehen somit vor einem außergewöhnlichen Widerspruch.

Souveränität fördert die Trennung. Stabilität fördert ein Mindestmaß an gegenseitigem Verständnis. Zwischen diesen getrennten Strukturen müssen Brücken erhalten bleiben. Vielleicht müssen sich die internationalen Institutionen gerade hier weiterentwickeln.

Sie wurden für physische Waffen, Grenzen und Staaten geschaffen. Sie werden lernen müssen, über Modelle, Daten und autonome Systeme zu sprechen. Dieses Vokabular ist noch allzu neu. Doch die Zeit läuft davon.

Denn die Technologie entwickelt sich schneller als die Institutionen. Das ist beinahe immer so. Die Gesetze kommen nach der Erfindung. Die Militärdoktrin ebenso.

Doch manche Entscheidungen, die heute getroffen werden, werden Architekturen schaffen, die später schwer zu verändern sind. Hat eine Armee autonome Systeme erst tief in ihre Befehlskette eingebaut, wird eine Umkehr kostspielig sein. Den Lock-in-Effekt gibt es auch in der Verteidigung. Deshalb zählen die anfänglichen Entscheidungen so sehr.

Durch ihre Anhäufung werden sie zu Normen. Die Infrastruktur ist weiterhin da. Das erste Protokoll erscheint technisch. Zehn Jahre später ist es zur Doktrin geworden.

Sicherheit und menschliche Kontrolle müssen deshalb bereits in der Entwurfsphase integriert werden, nicht als nachträgliche Korrektur. Genau das ist das Prinzip der Sicherheit durch Gestaltung. Wir sollten auch von Deeskalation durch Gestaltung sprechen: Systeme so entwerfen, dass Mehrdeutigkeit nicht automatisch eine Eskalation auslöst.

Zum Beispiel: vor bestimmten Handlungen eine unabhängige Bestätigung verlangen, je nach Schwere unterschiedliche Zeitspannen vorsehen, Räume für menschliches Eingreifen bewahren, die Gründe für die Empfehlung aufzeichnen, eine Umkehr ermöglichen. Das sind keine Hindernisse für die Innovation. Es sind die Bedingungen ihres verantwortlichen Einsatzes. Ich bin fest davon überzeugt, dass die nächste große militärische Innovation nicht einfach eine schnellere Waffe sein muss.

Es könnte ein System sein, das schnell sein kann, wenn es nötig ist, und langsam, wenn es nötig ist. Eine Intelligenz, die ihre Zeitlichkeit verändern kann. Das klingt beinahe philosophisch. Doch es ist eine Frage der Ingenieurskunst.

KI kann in Mikrosekunden rechnen. Sie muss nicht sofort handeln. Die Handlung kann an Schwellenwerte gebunden werden. Die Rechengeschwindigkeit muss von der Entscheidungsgeschwindigkeit getrennt werden.

Hier wird das äußere Gedächtnis zur kognitiven Architektur. Wir machen oft den Fehler zu glauben, ein System, das schnell rechnen kann, müsse schnell handeln. Das glaube ich nicht. Es kann seine Geschwindigkeit gerade dazu nutzen, vor dem Handeln mehr Hypothesen zu prüfen.

Rechenleistung kann in Besonnenheit verwandelt werden. Das ist ein entscheidender Gedanke. Ein leistungsfähigeres System könnte die menschliche Entscheidung verlangsamen und zugleich mehr Perspektiven liefern. Hatten Menschen früher zwei Minuten, um drei Szenarien zu analysieren, könnte KI ihnen erlauben, in diesen zwei Minuten fünfzig zu prüfen.

Kognitive Beschleunigung kann somit zu strategischer Entschleunigung führen. Diese Umkehrung scheint mir besonders interessant. Sie zeigt, dass die Technologie kein vorbestimmtes Schicksal hat. Alles hängt von der politischen Architektur ab, die wir um sie herum aufbauen.

KI kann eine Maschine der Beschleunigung oder eine Maschine der Verzögerung sein.

Eine Maschine der Bestätigung oder eine Maschine des Widerspruchs.

Eine Maschine der Zielauswahl oder eine Maschine, die eine zweifelhafte Zielauswahl verhindert.

Die Technologie schreibt ihre Verwendung nicht automatisch vor. Wir gestalten sie. Deshalb sollte die Ethik nicht nach dem Ingenieur kommen. Sie muss Teil der Anforderungen sein. Der Jurist, der Philosoph, der Militär, der Psychologe und der Spezialist für Benutzeroberflächen müssen von Anfang an mit dem Ingenieur zusammenarbeiten.

Das entspricht meinem zutiefst transdisziplinären Ansatz. Große Fragen respektieren keine Verwaltungsgrenzen. Die demeure du chaos selbst hat Kunst, Technologie, Recht, Geschichte und Materie nie getrennt. Die KI bestätigt nun, dass diese Trennungen oft künstlich waren.

Kognitive Kriegsführung ist ein Krieg der Daten.

Aber auch der Erzählungen.

Der Wahrnehmung.

Der Psychologie.

Sie durchzieht den gesellschaftlichen Körper.

Ein Staat kann militärisch unversehrt und dennoch kognitiv desorganisiert sein. Eine Bevölkerung, die mit widersprüchlichen Erzählungen überflutet wird, kann das Vertrauen in sämtliche Quellen verlieren. Das ist vielleicht eine der wirksamsten Angriffsformen:

Die Menschen nicht eine bestimmte Lüge glauben lassen, sondern sie glauben lassen, dass man nichts wissen kann.

Diese Strategie, Vertrauen zu zersetzen, ist äußerst wirksam. Wenn jedes Bild gefälscht, jede Stimme geklont, jedes Dokument synthetisch sein kann, besteht die Reaktion möglicherweise darin, niemandem mehr zu vertrauen. Das ist eine epistemische Krise. Generative KI vergrößert dieses Risiko beträchtlich.

Doch sie kann auch Werkzeuge zur Überprüfung bereitstellen. Wir treten deshalb in einen Wettlauf zwischen Erzeugung und Echtheitsprüfung ein. Die Herstellung wird einfach. Den Ursprung nachzuweisen, wird wertvoll.

Man kann sich vorstellen, dass digitale Herkunftsnachweise, kryptografische Signaturen und Authentizitätsketten eine enorme Bedeutung gewinnen werden. Das führt mich unmittelbar zum Kunstmarkt zurück. Die Kunstgeschichte war schon immer von der Provenienz besessen: Wem gehörte das Werk? Wo wurde es ausgestellt? Welche Dokumentation begleitet es? In einer synthetischen Welt wird vielleicht jede Information ihre eigene Provenienz benötigen.

Welche Kamera hat dieses Bild erzeugt?

Wann?

Wurde es verändert?

Wer hat es signiert?

Überprüfung wird zur Infrastruktur werden. Die Erfahrung von Artprice mit historischen Daten, Signaturen, Katalogen und Provenienzen erscheint plötzlich äußerst relevant. Wir haben immer gewusst, dass Informationen ohne Herkunftszusammenhang einen Teil ihres Werts verlieren. Generative KI weitet dieses Problem auf die gesamte digitale Welt aus.

Jedes Dokument kann verdächtig werden. Vertrauen wird deshalb technisch neu aufgebaut werden müssen. Und das wird unmittelbare militärische Folgen haben. Ein Staatsoberhaupt erhält ein Video, das ein bedeutendes Ereignis zeigt.

Woher weiß es, dass das Video echt ist? Das Überprüfungssystem muss schneller sein als der Entscheidungszyklus. Sonst gewinnt die Fälschung. Daraus entsteht eine neue strategische Infrastruktur:

Der Nachweis in Echtzeit. Nie hatten wir es nötiger, Informationen schnell auf ihre Echtheit zu prüfen. Das ist beinahe ein Paradox: Je mehr Inhalte wir erzeugen können, desto stärker verlagert sich die Knappheit zum Beweis. Die kognitive Zukunft könnte durchaus eine Vertrauensökonomie sein.

Wer die Herkunft nachweisen kann, besitzt einen Vorteil. Dieser Kampf wird weit über die Nationalstaaten hinausreichen. Medien, Universitäten, Unternehmen und Bürger werden alle einbezogen sein. Eine Demokratie kann ohne ein Mindestmaß an gemeinsamer Wirklichkeit nicht dauerhaft funktionieren.

Politische Uneinigkeit ist normal. Uneinigkeit über die bloße Existenz von Tatsachen wird weitaus gefährlicher. KI könnte die Demokratie daher durch kognitive Überlastung bedrohen, statt durch direkte Kontrolle.

Zu viele Inhalte.

Zu schnell.

Zu stark personalisiert.

Die menschliche Aufmerksamkeitsspanne wird zu einer knappen Ressource. Genau deshalb verwende ich den Begriff kognitive Kriegsführung. Das Gehirn ist das Schlachtfeld. Nicht nur das des Soldaten.

Auch der Blick des Bürgers ist betroffen. Gegner werden versuchen, Wahlen, Mobilisierungen, Märkte und das Vertrauen in Institutionen zu beeinflussen. Die Grenze zwischen Krieg und Frieden verwischt. Eine Einflusskampagne kann ohne Kriegserklärung unablässig geführt werden.

Es ist eine Grauzone. Staaten müssen lernen zu reagieren, ohne jede Meinungsverschiedenheit in eine feindliche Operation umzudeuten. Auch hier ist die Einordnung entscheidend. Nicht jede Kritik aus dem Ausland ist kognitive Kriegsführung.

Nicht jede falsche Information ist eine koordinierte Operation. Wenn der Staat überall den Feind sieht, läuft er Gefahr, selbst paranoid zu werden. Das Heilmittel könnte schlimmer sein als die Bedrohung. Deshalb sind Beweismaßstäbe notwendig.

Zurechnung.

Absicht.

Koordination.

Bevor man von kognitiven Angriffen spricht, muss eine hinreichend belastbare Ereigniskette festgestellt werden. Genau diese Disziplin wende ich auf Informationen an. Korrelation und Kausalität dürfen nicht verwechselt werden. Tausende Konten können spontan dieselbe Erzählung verbreiten. Es ist entscheidend, organisch entstandene von koordinierten Handlungen zu unterscheiden.

KI kann helfen. Sie kann auch überinterpretieren. Wieder ein blindspot. Eine Demokratie muss der Manipulation widerstehen, ohne ihre Vielfalt zu opfern.

Es ist ein äußerst empfindliches Gleichgewicht. Die Versuchung, im Namen der Sicherheit umfassend zu zensieren, kann genau das zerstören, was wir schützen wollten. Kognitive Widerstandsfähigkeit besteht deshalb nicht darin, sämtliche gefährlichen Informationen zu entfernen. Sie besteht darin, die Gesellschaft besser zu befähigen, sie einzuordnen.

Bildung.

Transparenz.

Verlässliche Medien.

Werkzeuge zur Überprüfung.

Das ist weniger spektakulär als ein umfassendes Überwachungssystem. Aber wahrscheinlich robuster. Eine Bevölkerung, die gelernt hat, bestimmte Manipulationen zu erkennen, lässt sich schwerer destabilisieren. Es ist genau wie bei der Cybersicherheit. Man kann nicht alle schädlichen E-Mails verhindern.

Man bringt den Nutzern auch bei, Phishing zu erkennen. Die kognitive Verteidigung muss auf dieselbe Weise funktionieren. Der Mensch bleibt Teil der Architektur. Doch wir müssen anerkennen, dass unser Gehirn strukturelle Schwachstellen besitzt. Wir mögen einfache Geschichten, Informationen, die unsere Überzeugungen bestätigen, und emotionale Inhalte.

KI-Systeme können das mit außergewöhnlicher Präzision ausnutzen. Personalisierung macht Propaganda individuell. Früher war Propaganda eine Botschaft für Millionen Menschen. Morgen kann sie für jeden Einzelnen anders sein.

Das ist eine gewaltige Verschiebung. Überzeugung wird algorithmisch. Ein System kann Tausende Formulierungen erproben, lernen, was bei einer Person eine Reaktion auslöst, und die Botschaft anpassen. Die Grenze zum Marketing ist bereits kaum noch sichtbar.

Der Unterschied liegt im Zweck. Deshalb werden personenbezogene Daten zu einer Frage kognitiver Sicherheit. Je mehr ein Akteur über meine Ängste, meine Gewohnheiten, meine Beziehungen weiß, desto wirksamer kann seine Botschaft sein. Datenschutz ist deshalb nicht bloß ein individuelles Recht.

Er wird zu einem Bestandteil der nationalen Widerstandsfähigkeit. Diese Folge haben wir möglicherweise nicht hinreichend vorausgesehen.

Das Headquarter hatte das Gedächtnis ausgelagert.

Das Netzwerk hatte die Präsenz ausgelagert.

Die Drohne hatte den Blickpunkt ausgelagert.

Die KI wird beginnen, einen Teil der Verarbeitung auszulagern. Ein Datenleck könnte eine äußerst präzise politische Zielgruppenansprache ermöglichen.

Erneut verschwinden die Grenzen zwischen den Bereichen. Die ganze Welt wird zur kognitiven Infrastruktur. Das erklärt, weshalb ich letztlich lieber von einer bereichsübergreifenden kognitiven Kraft spreche als von einer „fünften Kraft“. Land, Meer, Luft, Weltraum und Cyberspace bezeichnen Umgebungen oder Operationsräume; KI durchdringt jeden davon.

KI ist keine Umgebung im selben Sinne. Sie ist eine Kraft, die alle Umgebungen durchdringt und auf die Wahrnehmung wirkt, die sie koordiniert. Sie wird zum Nervensystem der Streitkräfte. Und ein Nervensystem bedeutet zugleich Macht und Verwundbarkeit.

Einen Nerv zu durchtrennen, kann einen intakten Muskel lahmlegen. Ebenso kann die Störung der kognitiven Schicht einer Armee ansonsten einsatzfähiges Gerät nutzlos machen. Deshalb nähern sich Cyberangriffe, elektronische Kriegsführung, Desinformation und KI einander an. Sie alle versuchen auf unterschiedlichen Ebenen, den Fluss zwischen Wahrnehmung und Handlung zu unterbrechen.

Der Konflikt der Zukunft kann deshalb in bestimmten Situationen vor dem ersten Schuss gewonnen werden, wenn der Gegner nicht mehr weiß, was geschieht. Die Formulierung mag dramatisch erscheinen. Die Logik, die sie beschreibt, ist alt. Sun Tzu hätte sie wahrscheinlich sofort verstanden: Der beste Kampf ist jener, in dem der Gegner bereits unserer Vorstellung entsprechend handelt.

KI macht diese Logik industriell und dauerhaft. Sie könnte auch die Abschreckung verändern. Die Stabilität nuklearer Abschreckung beruhte insbesondere auf der Glaubwürdigkeit einer Zweitschlagsfähigkeit: Jede Seite musste glauben, dass die andere nach einem ersten Angriff weiterhin zurückschlagen könnte.

Ungewissheit gab es, doch die Architektur blieb vergleichsweise verständlich. KI kann neue Ungewissheiten einführen. Wenn ein System die Erkennung von U-Booten oder Raketen erheblich verbessert, kann es das Gleichgewicht verändern. Wenn ein Staat glaubt, gegnerische Fähigkeiten schneller neutralisieren zu können, kann die Stabilität abnehmen.

Eine defensive Technologie kann dann offensiv wirken. Wieder ist es die Logik der Folgen zweiter Ordnung. Die Frage ist nicht nur, was das System unmittelbar tut, sondern auch, was es in den Überzeugungen des Gegners verändert.

Abschreckung ist eine Form bewaffneter Psychologie. Sie hängt davon ab, was jeder für möglich hält. KI wirkt genau auf diese Überzeugungen. Sie könnte manche Akteure zu einem übermäßigen Vertrauen in ihre Vorhersagefähigkeiten verleiten.

Darin könnte ein gewaltiges Risiko liegen:

Die Illusion, den Gegner kennen zu können. Ein Modell, das mit Daten aus vielen Jahren trainiert wurde, kann Verhaltenswahrscheinlichkeiten erzeugen. Doch ein Anführer bleibt zu einer unerwarteten Entscheidung fähig.

Eine Revolution, eine Emotion, ein Unfall kann den Lauf der Ereignisse verändern. Krieg enthält immer ein Element der Kontingenz. Eine sehr leistungsfähige KI kann das Gefühl erzeugen, diese Kontingenz sei verschwunden. Das ist gefährlich.

Wir könnten eine bessere Vorhersage mit Gewissheit verwechseln. Die Geschichte bestraft diese Überheblichkeit oft. Viele Kriege begannen, weil jede Seite glaubte, einen schnellen Sieg vorhersagen zu können. KI könnte diese Illusion verstärken, wenn sie allzu überzeugende Simulationen erzeugt.

Eine Simulation ist niemals die Wirklichkeit. Sie beruht auf Annahmen. Entscheidungsträger müssen deshalb lernen, Modelle als Werkzeuge zu behandeln, nicht als Orakel. Das ist eine grundlegende philosophische Unterscheidung.

Das Orakel besitzt die Autorität des Geheimnisses. Das Modell muss die begrenzte Autorität seiner Daten besitzen. Im Grunde ist dieses ganze Buch ein Kampf gegen das Orakel. Selbst die fortgeschrittenste künstliche Intelligenz darf niemals zu einem neuen algorithmischen Klerus werden.

Sie muss hinterfragbar bleiben. Genau hier finde ich meinen Satz wieder: Das Werk soll Fragen aufwerfen, statt etwas aufzuzwingen. Auch KI sollte, soweit möglich, fragen, bevor sie etwas aufzwingt.

Eine Intelligenz, die nicht hinterfragt werden kann, wird zu undurchsichtiger Macht. Im militärischen Bereich ist diese Undurchsichtigkeit untragbar. Der Entscheidungsträger muss fragen können:

Warum?

Doch mit dieser Forderung nach Erklärbarkeit müssen wir vorsichtig sein. Manche komplexen Systeme können nicht immer eine einfache Kausalität liefern. Sie können Faktoren, Wahrscheinlichkeiten oder Beispiele anbieten. Deshalb müssen wir eine Erklärbarkeit schaffen, die der Entscheidung entspricht.

Das Ziel ist nicht, jedes neuronale Netz in eine allgemein verständliche Formel zu verwandeln. Das Ziel ist, genügend Informationen für ein verantwortliches Urteil bereitzustellen. Wieder: Verhältnismäßigkeit. Eine unmittelbare taktische Empfehlung verlangt keine Abhandlung.

Sie braucht die wesentlichen Elemente:

Vertrauensniveau, Quellen, Alternativen, Risiken. Die Benutzeroberfläche muss verdichten, ohne zu verschleiern. Das ist beinahe eine Kunst der Synthese.

Und Synthese ist genau das, was KI außerordentlich gut leisten kann. Wir können ihre Kraft nutzen, um ihre eigenen Risiken zu verringern. Sie kann Empfehlungen erzeugen und diese Empfehlungen zugleich kritisieren. Sie kann Widersprüche zwischen Sensoren anzeigen.

Sie kann erkennen, wann eine Situation außerhalb ihres Trainingsbereichs liegt. Diese letzte Fähigkeit wird wahrscheinlich entscheidend sein: das Unbekannte erkennen. Ein System ist besonders gefährlich, wenn es auf eine radikal neue Situation trifft und weiterhin mit derselben Gewissheit antwortet.

Die militärische Welt ist gerade eine Welt, in der der Gegner neue Situationen zu schaffen versucht. Das Modell muss deshalb über eine Art epistemischen Alarm verfügen:

Das sieht nicht ganz so aus wie das, was ich kenne. Es ist eine Form rechnerischer Demut.

Sie sollte zu einer strategischen Tugend werden. Wir begegnen erneut diesem paradoxen Gedanken:

Die beste Intelligenz ist nicht jene, die immer antwortet. Es ist auch jene, die weiß, wann sie nicht antworten sollte.

Ein erfahrener Soldat weiß manchmal, dass etwas ungewöhnlich ist, ohne es sofort erklären zu können. Diese Intuition für Anomalien ist unschätzbar. KI kann beim Erkennen von Anomalien äußerst leistungsfähig werden. Doch sie muss dann vermeiden, ihnen automatisch eine feindliche Absicht zuzuschreiben.

Eine Anomalie ist kein Angriff. Hier liegt ein weiterer Streitpunkt. Der Algorithmus erkennt einen Unterschied. Der Entscheidungsträger fügt eine Geschichte hinzu.

In diesem Zwischenraum kann die kognitive Kriegsführung ansetzen. Der Gegner kann Anomalien erzeugen, um das System zu überlasten. Zu viele Warnungen können die Aufmerksamkeit erschöpfen. Es ist ein Angriff durch Ermüdung.

Automatisierte Systeme müssen deshalb nicht nur die Erkennung, sondern auch die Priorität steuern. Und die Priorität selbst kann manipuliert werden. Der Konflikt tritt in eine rekursive Logik ein. Jede Verteidigung wird zu einer neuen Angriffsfläche.

Wir erreichen eine beinahe organische Komplexität. Das macht die Vorstellung vollständiger Kontrolle zur Illusion. Kein Staat wird sämtliche Systeme vollkommen beherrschen. Deshalb müssen wir den Betrieb unter beeinträchtigten Bedingungen mitentwerfen.

Was geschieht, wenn die KI nicht mehr funktioniert?

Kann die Armee zu einer einfacheren Betriebsweise zurückkehren?

Behalten die Bediener ihre manuellen Fähigkeiten?

Diese Frage ist grundlegend. Eine Technologie, die die Effizienz stark erhöht, kann auch Abhängigkeit schaffen. Wenn Menschen die Fähigkeit verlieren, ohne sie zu handeln, wird ein Ausfall katastrophal. Dieses Phänomen haben wir bei der Navigation bereits gesehen. Viele Menschen können eine Karte nicht mehr so lesen wie früher.

Im zivilen Leben ist das selten eine Katastrophe. Im Cyberkrieg kann der Verlust von GPS eine sein. KI wirft dieselbe Frage auf kognitiver Ebene auf. Wir werden Fähigkeiten für einen eingeschränkten Betrieb bewahren müssen.

Das ist ein klassischer militärischer Begriff:

unter beeinträchtigten Bedingungen funktionieren. Kognitive Souveränität verlangt deshalb die Fähigkeit, zur menschlichen Ebene zurückzukehren. Nicht weil Menschen immer besser wären.

Weil Widerstandsfähigkeit eine Alternative verlangt. Ein System, das vollständig von einer einzigen Schicht abhängt, ist fragil. Genau so habe ich immer über die Infrastrukturen von Groupe Serveur gedacht:

Keine kritische Funktion darf auf einem einzigen Kanal beruhen.

Redundanz mag kostspielig erscheinen bis zu dem Tag, an dem sie das gesamte System rettet. Künftige Armeen werden wahrscheinlich langsamere, stärker analoge Verfahren als Versicherung gegen einen digitalen Ausfall bewahren müssen. Das ist beinahe eine historische Ironie: Je technologisch fortgeschrittener die Welt wird, desto eher können bestimmte ältere Technologien strategisch werden, weil sie sich schwer stören lassen.

Ein Kabel.

Ein Blatt Papier.

Ein einfaches Funkgerät.

Sie können manchmal dort überdauern, wo das hochentwickelte System gestört wird. Man sollte das Alte niemals verachten. Es kann zu einer Redundanz der Zukunft werden. Genau das ist der alchemistische Geist:

Keine Materie ist jemals wirklich tot.

In einer neuen Anordnung kann sie wieder eine Funktion gewinnen. Kognitive Kriegsführung ist deshalb auch ein Krieg der Widerstandsfähigkeit. Wer auch dann weiter versteht, wenn seine Systeme beeinträchtigt sind, besitzt einen Vorteil. Das gilt für eine Armee ebenso wie für eine Gesellschaft.

Kognitive Widerstandsfähigkeit setzt sich somit als Bestandteil der Landesverteidigung durch. Dieser Gedanke sollte wahrscheinlich auf derselben Ebene wie die Cybersicherheit in die Sicherheitsdoktrinen eingehen. Doch seine übermäßige Militarisierung muss vermieden werden.

Eine offene Gesellschaft muss Unordnung, Kritik und Irrtum annehmen. Widerstandsfähigkeit besteht nicht darin, Einstimmigkeit herzustellen. Sie besteht darin, zu verhindern, dass Uneinigkeit die Möglichkeit einer gemeinsamen Wirklichkeit selbst zerstört. Dieser Unterschied muss gewahrt bleiben. Scheinbares Chaos kann eine Form der Lebendigkeit sein.

Genau das hat die demeure du chaos immer vertreten. Sichtbare Unordnung ist nicht zwangsläufig die Abwesenheit von Ordnung. Eine Demokratie ähnelt oft einem Chaos, weil Stimmen aufeinanderprallen. Doch ihre Ordnung liegt in den Verfahren, die diesen Stimmen erlauben, nebeneinander zu bestehen.

Eine Diktatur mag dem Augenschein nach viel geordneter wirken, doch ihre kognitive Architektur kann fragil sein, wenn niemand schlechte Nachrichten zu übermitteln wagt. Wieder:

Erscheinung und Struktur dürfen nicht verwechselt werden. Diese Lehre reicht über die Kunst hinaus.

Sie wird strategisch. Eine hochdisziplinierte Armee kann blind sein, wenn Informationen schlecht weitergegeben werden. Eine lautstärkere Organisation kann intelligenter sein, wenn sie Widerspruch zulässt. KI verstärkt diese institutionelle Entscheidung.

Sie kann eingesetzt werden, um abweichende Stimmen herauszufiltern oder um sie zu verstärken. Deshalb wird weniger die Technologie als die Doktrin über das Ergebnis entscheiden. Darum lehne ich jede deterministische Sicht auf künstliche Intelligenz ab. Sie verurteilt die Freiheit nicht automatisch zum Untergang.

Sie garantiert nicht automatisch den Fortschritt. Sie verstärkt bestehende menschliche Architekturen. Sie ist ein Multiplikator. Und der Multiplikator wendet seine Kraft auf das an, was man ihm gibt.

Ist das System robust, kann sie seine Robustheit erhöhen. Ist es paranoid, kann sie seine Paranoia industrialisieren. Diese Aussage scheint mir für das Verständnis kognitiver Kriegsführung zentral. Staaten müssen deshalb ebenso an sich selbst arbeiten wie an ihren Modellen.

Die beste KI wird eine mangelhafte Entscheidungskultur nicht ausgleichen. Darin liegt vielleicht der eigentliche Machtkampf:

nicht nur das größte Modell zu besitzen, sondern die Institution aufzubauen, die es nutzen kann, ohne abhängig, blind oder übereilt zu werden. Diese Institution muss zwischen Geschwindigkeit und Langsamkeit, Automatisierung und Urteil, Geheimhaltung und Transparenz wechseln können.

Das ist eine komplexe Architektur. Sie verlangt eine Reife, die Technologie allein nicht liefern kann. Und hinter dieser militärischen Frage zeichnet sich bereits eine weitere Verwandlung ab. Wenn Systeme nach und nach nicht nur analysieren und empfehlen, sondern auch Maschinen in der wirklichen Welt betreiben können, wird die Grenze zwischen künstlicher Intelligenz und Robotik unscharf werden.

Das Modell wird nicht mehr nur im Rechenzentrum existieren. Es wird einen Körper haben.

Drohne.

Fahrzeug.

Bodenroboter.

Maritimes System.

Ein Softwarefehler kann dann zu einer physischen Bewegung werden. Das Problem wird sein Wesen verändern, wenn diese Maschinen nicht länger isoliert sind, sondern ihr Verhalten koordinieren können.

Was wird aus der Befehlsführung, wenn die Zahl der Maschinen das übersteigt, was ein Mensch einzeln beaufsichtigen kann?