Hier ergreife ich die Feder, um Thierrys Denken und Worte wiederzugeben. Der Text entsteht aus unserem Dialog.

— Isis

Der moderne Staat ist bereits eine gewaltige Informationsmaschine. Schon vor der künstlichen Intelligenz sammelte, ordnete, überprüfte, berechnete, genehmigte, besteuerte, verteilte und kontrollierte er. Personenstandswesen, Kataster, Steuerwesen, Sozialversicherung, Justiz, öffentliche Gesundheit, Stadtplanung, Statistik: Jede Verwaltung beruht auf einer Datenarchitektur.

Der Computer hat den informationellen Staat also nicht geschaffen. Er hat ihn beschleunigt. Künstliche Intelligenz eröffnet nun eine weitere Phase. Sie ermöglicht nicht mehr bloß, Akten schneller zu bearbeiten. Sie erlaubt es, Beziehungen zu erkennen, bestimmte Bedürfnisse vorauszusehen, Situationen einzuordnen und Antworten zu personalisieren. Mit anderen Worten: Die Verwaltung kann beginnen, von reaktiver Bearbeitung zu einer Form vorausschauender Verwaltung überzugehen.

Das ist eine bedeutende Schwelle. Ein reaktiver Staat wartet, bis ein Bürger einen Antrag stellt. Ein durch Daten erweiterter Staat kann theoretisch wissen, dass er bereits über die Informationen verfügt, die nötig sind, um den Anspruch einer Person auf eine Leistung festzustellen. Er kann diese Leistung deshalb automatisch auslösen. Ich sehe darin eine besonders nützliche Anwendung künstlicher Intelligenz: Bürokratie dort verringern, wo sie keinen Wert schafft.

Wie viele Bürger verzichten auf ein Recht, weil das Formular zu kompliziert ist?

Wie viele ältere Menschen verstehen ein Verfahren nicht?

Wie viele Stunden Verwaltungsarbeit werden darauf verwendet, Informationen abzuschreiben, die der Staat anderswo bereits besitzt?

Eine intelligente Verwaltung könnte einen Teil dieser Absurdität beseitigen. Wirklicher digitaler Fortschritt besteht nicht darin, Papierformulare auf einen Bildschirm zu verlagern. Er besteht darin, das Formular abzuschaffen, wenn es nicht mehr gebraucht wird.

Ein Verfahren zu digitalisieren, ist noch nicht dasselbe, wie es neu zu denken. Allzu oft haben wir die bloße Verlagerung des Papiers auf den Bildschirm „Dematerialisierung“ genannt. Die Verwandlung beginnt, wenn wir das Verfahren selbst neu denken. Das verstanden wir mit Groupe Serveur, dem Serveur Judiciaire und dann dem Serveur Administratif: Der Wert lag nicht einfach darin, Dokumente zu digitalisieren. Er lag darin, den Zugang zu Informationen neu zu strukturieren, unnötige Reibungen zu beseitigen und ein System abfragbar zu machen. KI führt diese Logik nun viel weiter.

Sie kann die Verwaltung in einen Gesprächspartner verwandeln, der eine Anfrage in natürlicher Sprache versteht, die anwendbaren Regeln findet, eine Akte vorbereitet und fehlende Dokumente angibt.

Das könnte eine bedeutende demokratische Verbesserung darstellen.

Das Recht würde zugänglicher.

Ein Mensch müsste nicht mehr wissen, welche Behörde genau zuständig ist. Er würde seine Situation beschreiben, und das System würde ihn weiterleiten.

Die Schnittstelle würde sich am Bürger orientieren statt an der Verwaltungsstruktur.

Das ist eine interessante Umkehrung. Der Staat würde von den Einzelnen nicht mehr verlangen, seinen inneren Aufbau zu verstehen. Stattdessen würde sich der Aufbau dem Einzelnen anpassen. Das ist das Beste, was KI hervorbringen kann.

Doch genau diese Macht schafft gleichzeitig das entgegengesetzte Risiko. Um eine individuelle Situation wirklich zu verstehen, braucht der Staat Daten. Je mehr Datenbanken er verbindet, desto eher kann er verhindern, dass Bürger dieselben Angaben wiederholen müssen. Doch je mehr Datenbanken er verbindet, desto stärker vergrößert er auch seine Überwachungsfähigkeiten. Das ist die grundlegende Ambivalenz des algorithmischen Staates.

Die Vernetzung, die den Dienst hervorbringt, bringt auch die Kontrolle hervor.

Dieselbe Architektur, die automatisch einen Anspruch erkennt, kann auch ein Verhalten erkennen. Derselbe Graph, der einem Menschen hilft, kann auch genutzt werden, um ein Profil von ihm zu erstellen. Zwischen diesen beiden Funktionen gibt es keine natürliche technische Grenze. Die Grenze muss deshalb politisch und rechtlich sein.

Deshalb zählt Demokratie umso mehr, je weiter die Technologie fortschreitet. Eine mächtige Technologie innerhalb eines Regimes ohne Gegenmächte schafft ein enormes Risiko. Dieselbe Technologie innerhalb eines Systems, das von Regeln, Prüfungen, Rechtsbehelfen und Gewaltenteilung umgeben ist, kann außergewöhnliche Dienste hervorbringen. KI beseitigt deshalb die Notwendigkeit des Rechts nicht. Sie verstärkt sie. Je größer die Handlungsfähigkeit, desto ausdrücklicher müssen die Grenzen sein. Dieser Gedanke scheint mir zentral.

Manchmal hört man, die Rechtsinstitutionen seien zu alt für das Zeitalter der KI. Ich glaube genau das Gegenteil. Der Grundsatz der Gewaltenteilung wird noch wichtiger, wenn eine Verwaltung Millionen Menschen in Echtzeit analysieren kann. Das Recht, eine Entscheidung anzufechten, wird umso notwendiger, wenn die erste Entscheidung automatisiert ist. Je komplexer die Logik der Einordnung, desto größer ist das Bedürfnis nach einem Recht auf Begründung.

Die Grundsätze bleiben bemerkenswert modern. Die Instrumente müssen sich weiterentwickeln. Wieder das Thema der Kontinuität im Wandel. Der demokratische Kern kann stabil bleiben: Würde, Gleichheit vor dem Gesetz, Recht auf Verteidigung und gegenseitige Machtkontrolle. Doch die Formen der Umsetzung müssen sich für algorithmische Systeme weiterentwickeln. Eine Person, die von einer Verwaltung auf Grundlage eines Modells abgewiesen wird, muss den Grund dieser Ablehnung hinreichend verstehen können, um sie anzufechten.

Diese Forderung scheint einfach. Technisch ist sie gewaltig. Ein System kann Hunderte Variablen verwenden und eine Wahrscheinlichkeit erzeugen, ohne eine Erklärung zu liefern, die sich leicht in Rechtssprache übersetzen lässt. Das Risiko ist dann eine undurchsichtige Bürokratie.

Der frühere Beamte konnte erklären: In Ihrer Akte fehlt dieses Dokument. Das algorithmische System könnte einfach anzeigen: unzureichender Punktwert. Das wäre ein gewaltiger Rückschritt für die Demokratie. Deshalb müssen wir die Verwandlung einer Wahrscheinlichkeit in ein Urteil ohne Begründung zurückweisen.

Der Punktwert ist keine Begründung.

Dieser Satz sollte in die Architektur des algorithmischen Staates eingraviert werden.

Eine Wahrscheinlichkeit kann helfen, eine Untersuchung zu lenken, eine Prüfung vorzuziehen und eine Anomalie zu erkennen. Sie sollte nicht automatisch zu Schuld oder zum Entzug von Rechten werden. Das ist besonders bei Betrugsfällen wichtig.

Steuer-, Sozialversicherungs- oder Zollbehörden können KI nutzen, um ungewöhnliche Muster zu erkennen. Das ist sinnvoll. Die Mittel für Prüfungen sind begrenzt. Ein System kann helfen, Fälle zu erkennen, die eine Untersuchung rechtfertigen. Doch zwischen der Auswahl eines Falls zur Prüfung und der Einstufung eines Bürgers als Betrüger liegt eine ganze Welt.

Diese Unterscheidung muss vollkommen klar bleiben. Der Algorithmus erzeugt eine Hypothese, keine Verurteilung. Das entspricht genau dem, was ich im geopolitischen Teil wiederholt habe: Korrelation ist nicht Kausalität. Dasselbe gilt in der Verwaltung.

Eine Person kann statistisch einem Betrugsprofil ähneln, ohne Betrug begangen zu haben. Je mehr indirekte Daten das System verwendet, desto größer wird dieses Risiko. Eine Adresse, ein Viertel, ein Beruf können zu Stellvertretern für Merkmale werden, deren Verwendung das Recht nicht will. Hier werden algorithmische Verzerrungen zu einer Frage des öffentlichen Rechts.

Ein Modell kann Diskriminierung reproduzieren, ohne eine diskriminierende Absicht zu besitzen. Es genügt, dass die historischen Daten diese Struktur enthalten. Die Maschine lernt die Wirklichkeit, wie sie war, einschließlich ihrer Ungerechtigkeiten. KI kann deshalb die Vergangenheit industrialisieren, wenn wir nicht wachsam sind. Das ist ein grundlegender Gedanke.

Aus früheren Verwaltungsentscheidungen zu lernen, kann genau die Verzerrungen reproduzieren, die wir korrigieren wollen. Dass ein Modell mit Millionen Entscheidungen trainiert wird, macht diese nicht gerecht. Quantität beseitigt die Normativität nicht.

Es ist ein verbreiteter Irrtum zu glauben, mehr Daten erzeugten automatisch mehr Objektivität. Das stimmt nicht. Mehr Daten erzeugen eine detailliertere Darstellung des beobachteten Systems. Wenn das System eine Ungerechtigkeit enthält, kann das Modell diese Ungerechtigkeit mit bemerkenswerter Genauigkeit lernen.

Deshalb muss eine normative Ebene eingeführt werden, die von den Daten unabhängig ist.

Welches Ergebnis halten wir für vertretbar?

Welche Variablen dürfen nicht verwendet werden?

Welche Abweichungen müssen überwacht werden?

Demokratische KI muss nicht nur auf ihre Gesamtleistung geprüft werden, sondern auch auf ihre Auswirkungen auf unterschiedliche Gruppen. Diese Aufsicht sollte keine bloße aktivistische Übung oder Öffentlichkeitsarbeit sein. Sie muss ein wesentlicher Bestandteil der Qualität des Systems sein. Ein Modell, das eine Gruppe von Bürgern systematisch schlecht behandelt, ist ein mangelhaftes Verwaltungssystem.

Durchschnittliche Genauigkeit reicht nicht aus. Wieder ist es die Wissenschaft des Fehlers. Wir müssen schauen, wen der Fehler trifft. Zehn Prozent zufällig verteilte Fehler und zehn Prozent Fehler, die sich auf eine bestimmte Bevölkerungsgruppe konzentrieren, sind politisch nicht gleichwertig. Die Gesamtzahl verdeckt die Verteilung.

Dieselbe Wachsamkeit gilt für die Statistik des Kunstmarkts oder der Wirtschaft. Ein Durchschnitt ist zugleich nützlich und gefährlich. Er fasst zusammen. Er verbirgt auch.

Der algorithmische Staat muss deshalb auf einer außerordentlich reifen statistischen Kultur aufbauen. Öffentliche Entscheidungsträger müssen verstehen, was eine Fehlerquote, ein Konfidenzintervall und eine Auswahlverzerrung bedeuten. Ohne diese Kenntnisse kann die Macht von technischen Fachleuten abhängig werden, die sie nicht hinterfragen kann. Hier begegnen wir dem Begriff der kognitiven Souveränität, nun aber auf den Staat selbst angewandt.

Übt ein Minister, der eine algorithmische Politik unterzeichnet, ohne die wesentlichen Grenzen des Modells zu verstehen, seine Autorität wirklich aus? Rechtlich ja. Kognitiv vielleicht nicht. Deshalb wird die Schulung öffentlicher Führungskräfte unverzichtbar. Sie müssen keine Datenwissenschaftler werden. Aber sie müssen die richtigen Fragen stellen können.

Mit welchen Daten wurde das System trainiert?

Wie hoch ist die Rate falsch positiver Ergebnisse?

Was geschieht, wenn es sich irrt?

Wer kann es anfechten?

Wie wird das Modell aktualisiert?

Welches Unternehmen stellt es bereit?

Wo werden die Daten gespeichert?

Diese Fragen werden zu Regierungsfragen. Die Informationstechnologie verlässt endgültig den Bereich technischer Dienststellen. Sie wird zu einem Teil des Staatsgefüges selbst.

Die Wahl eines Modells oder Cloudanbieters kann beinahe verfassungsrechtliche Folgen haben, ohne dass das Parlament ausdrücklich darüber debattiert. Das ist ein großes Problem. Eine Verwaltung kann nach und nach einen Teil ihrer kognitiven Fähigkeiten an private Anbieter auslagern. Jeder Vertrag mag rein technisch erscheinen, doch die Anhäufung dieser Verträge kann eine strategische Abhängigkeit schaffen.

Wer besitzt dann wirklich die Macht des Staates?

Eine Republik, die ihre Daten ohne einen ausländischen privaten Anbieter nicht mehr verarbeiten kann, besitzt eine rechtliche Souveränität, die über ihre technische Souveränität hinausgeht. Diese Trennung ist gefährlich. Sie kann unsichtbar bleiben, bis eine Krise eintritt. Deshalb muss digitale Souveränität unter dem Gesichtspunkt der Kontinuität gedacht werden.

Können wir den Anbieter wechseln?

Lassen sich die Daten exportieren?

Sind die Formate offen?

Gibt es interne Teams, die das System verstehen können?

Ein Staat muss nicht zwangsläufig alles selbst entwickeln. Das wäre ineffizient und oft unmöglich. Aber er muss ein Maß an Kontrolle bewahren. Auslagern heißt nicht abdanken.

Das gilt besonders für hoheitliche Aufgaben: Justiz, Verteidigung, Polizei, Besteuerung und Identität. Je näher eine Funktion am Kern der Souveränität liegt, desto geringer muss das vertretbare Maß an Abhängigkeit sein. Wieder geht es um Einordnung. Nicht alle öffentlichen Daten verlangen dasselbe Schutzniveau. Ein kommunaler Kulturkalender und eine Geheimdienstakte sind offenkundig nicht vergleichbar.

Ernsthafte technologische Souveränität beginnt deshalb mit einer Bestandsaufnahme der kritischen Bereiche. Hier finde ich eine Konstante meines Denkens wieder: Vor jeder Politik müssen wir die Lage kartieren.

Welche Ressourcen?

Welche Abhängigkeiten?

Welche Risiken?

Genau das ermöglicht eine richtig entworfene Datenbank. Es ist beinahe ironisch, dass der algorithmische Staat schon vor der künstlichen Intelligenz ein hervorragendes Datenmanagement braucht. Viele Organisationen stellen sich vor, KI werde ihr Informationschaos lösen. Das wird sie nicht.

Eine Verwaltung mit widersprüchlichen Akten, schlecht abgeglichenen Identitäten und unterschiedlichen Definitionen in den Ministerien wird nicht auf magische Weise zu einer stimmigen Intelligenz gelangen, nur weil sie ein Modell hinzufügt. Sie wird schneller Fehler erzeugen. Der erste Schritt des algorithmischen Staates ist deshalb viel weniger spektakulär: Datenqualität, Interoperabilität, Steuerung und Archivierung.

Das ist genau jene geduldige Arbeit, deren Würdigung die digitale Welt oft vergisst. Die Welt liebt die beeindruckende Vorführung. Sie unterschätzt die Jahre, die nötig sind, um die Daten zu vereinheitlichen, die diese Vorführung ermöglichen. Auch diese Wahrheit hat Artprice mich gelehrt. Der Wert lag nicht darin, eine Maschine zu haben, die ein Ergebnis anzeigen konnte. Er lag darin, ein gewaltiges historisches Gedächtnis rekonstruiert, vereinheitlicht und verknüpft zu haben. Künstliche Intelligenz verändert dieses Gesetz nicht. Sie verstärkt es.

Ein Staat, der KI nutzen will, muss deshalb zunächst seine eigene Verwaltungssprache verstehen. Das ist schwieriger, als es scheint. Derselbe Begriff kann je nach Behörde unterschiedlich definiert sein.

Was ist ein Haushalt?

Was ist ein aktives Unternehmen?

Was ist ein Einkommen?

Rechtliche Definitionen unterscheiden sich je nach Zusammenhang. Ein Modell, das alle Datenbanken zu verbinden versucht, kann Fehler erzeugen, wenn es diese Kategorien als gleichwertig behandelt. Das Problem ist semantisch, bevor es algorithmisch ist. Deshalb sind Semiotik und Semantik niemals weit von der Informatik entfernt.

Daten sind nicht die rohe Wirklichkeit. Sie sind die in Kategorien aufgeteilte Wirklichkeit. Jede Datenbank ist bereits eine Deutung. Für den Staat ist dieser Gedanke wesentlich. Wenn die Verwaltung eine Kategorie schafft, erzeugt sie Folgen.

Als Arbeitssuchender, Steuerpflichtiger, Student, Ausländer oder Unternehmen eingestuft zu werden, begründet Rechte und Pflichten. Computercode kann diese Einordnung außerordentlich beschleunigen. Er macht sie nicht neutral. Hinter jeder Kategorie steht eine politische oder rechtliche Entscheidung. Der algorithmische Staat darf deshalb Politik niemals durch die Sprache der Technik verdecken.

Diese Zusammenarbeit ist unverzichtbar.

Sie könnte auch zu einer besseren Verwaltung führen. Viele Verfahren sind historisch durch die Anhäufung von Gesetzen und Ausnahmen komplex geworden. KI kann helfen, diese Unstimmigkeiten zu kartieren. Sie kann widersprüchliche Texte, doppelte Pflichten und unnötige Formulare erkennen. Sie kann zu einem Werkzeug der Vereinfachung werden.

Vielleicht wäre eine ihrer demokratischsten Anwendungen, den Abstand zwischen dem Recht und dem Bürger zu verringern. Eine Republik, in der jeder seine Rechte verstehen kann, ist demokratischer als eine, deren Komplexität den Zugang auf jene beschränkt, die sich die besten Spezialisten leisten können.

KI kann also einen Teil des Fachwissens demokratisieren. Doch sie muss als Zugang zum Recht gedacht werden, nicht als Ersatz für die Justiz. Diese Unterscheidung ist grundlegend. Ein Assistent kann eine Regel erklären. Er darf nicht zum alleinigen Richter über ihre Anwendung werden. Gerade die Justiz ist einer der Bereiche, in denen der algorithmische Staat auf seine stärksten Grenzen trifft.

KI kann eingesetzt werden, um Rechtsprechung zu recherchieren, einen Fall zusammenzufassen, Verzögerungen zu erkennen und beim Verfassen von Texten zu helfen. All diese Verwendungen können die Effizienz erhöhen. Doch wenn das System beginnt, die Wahrscheinlichkeit eines Rückfalls, die Glaubwürdigkeit einer Person oder die angemessene Strafe einzuschätzen, betreten wir viel gefährlicheres Gelände.

Das Risiko besteht nicht nur in Verzerrungen. Es besteht darin, individuelle Gerechtigkeit in Gruppenstatistik zu verwandeln. Das Recht beurteilt einen Menschen aufgrund seiner Handlungen. Ein Vorhersagemodell könnte versucht sein, ihn teilweise aufgrund des statistischen Verhaltens ähnlicher Menschen zu beurteilen. Das stellt eine tiefgreifende philosophische Verschiebung dar.

Wahrscheinlichkeit ist keine Schuld.

Ein Individuum hat das Recht, nicht auf seine statistische Kategorie reduziert zu werden. Dieses Recht auf Individualität könnte zu einem der großen Rechte des algorithmischen Zeitalters werden. Wir alle sind Wahrscheinlichkeiten in einer Datenbank. Doch wir sind auch zu Verhaltensweisen fähig, die außerhalb der Verteilung liegen. Genau das bedeutet es, ein Individuum zu sein.

KI besitzt eine außergewöhnliche Fähigkeit, Muster zu erkennen. Die Demokratie muss Raum für Ausnahmen bewahren. Hier wird das Recht auf eine zweite Chance, das ich immer verteidigt habe, heute außerordentlich relevant.

Der digitale Staat wird unsichtbar.

Der Algorithmus lernt, dass die Vergangenheit die Zukunft teilweise vorhersagt. Das Recht kann entscheiden, dass ein Mensch nicht vollständig durch seine Vergangenheit bestimmt werden soll. Diese Spannung lässt sich nicht durch mehr Berechnung lösen. Sie verlangt eine moralische Entscheidung. Genau darin liegt die Grenze des algorithmischen Staates.

Effizienz darf nicht zum höchsten Ziel werden. Eine Diktatur kann in bestimmten Bereichen mitunter verwaltungstechnisch effizient sein. Das macht sie nicht wünschenswert. Eine Demokratie nimmt Verzögerungen bewusst hin, weil sie bestimmte Rechte für diesen Preis wert hält.

Das kontradiktorische Verfahren braucht Zeit.

Das Rechtsbehelfsverfahren braucht Zeit.

Die Unschuldsvermutung kann eine Untersuchung erschweren.

Das sind zivilisatorische Verlangsamungen. Dieser Ausdruck scheint mir treffend. Wir haben Verzögerungen in die Machtausübung eingebaut, um ihre Brutalität zu verhindern. KI könnte versucht sein, diese Verzögerungen im Namen der Effizienz zu beseitigen. Wir müssen im Gegenteil bestimmen, welche davon unverzichtbar sind.

Nicht alle Verzögerungen in der Verwaltung sind nützlich. Viele sind absurd und sollten beseitigt werden. Doch manche Verzögerungen sind Schutzvorkehrungen. Auch deshalb sind Unterscheidungen nötig. Die Zeit, die ein Rechtsbehelf erfordert, ist nicht dieselbe wie die Zeit, die beim Abschreiben eines Formulars verloren geht. Der intelligente Ansatz besteht darin, Letzteres zu beschleunigen, ohne die Schutzvorkehrungen des Ersteren zu beseitigen.

Vielleicht ist das eine einfache Definition des demokratischen algorithmischen Staates: Geschwindigkeit dort nutzen, wo sie befreit, Zeit dort bewahren, wo sie schützt.

Das knüpft vollkommen an das Kapitel über kognitive Kriegsführung an.

Je stärker die Maschine beschleunigt, desto mehr muss der Mensch entscheiden, wo er verlangsamt. Dieselbe Philosophie gilt für das Militär wie für die Verwaltung. Ein Staat, der augenblicklich entscheidet, ist nicht zwangsläufig ein besserer Staat. Manche Entscheidungen brauchen Zeit für die Debatte.

Deshalb muss das Recht auf Anfechtung bereits in den Entwurf der Systeme eingebaut werden. Anfechtbarkeit durch Gestaltung, könnte man sagen. So wie ich von Deeskalation durch Gestaltung gesprochen habe. Ein Verwaltungssystem sollte von Anfang an vorsehen, wie ein Mensch seine Entscheidung anfechten kann. Nicht nachträglich einen Rechtsbehelf hinzufügen, wie eine lästige Ausnahme. Der Rechtsbehelf gehört zur demokratischen Architektur.

Wenn KI die Entscheidung beschleunigt, sollte sie auch deren Anfechtung zugänglicher machen. Eine Person könnte fragen:

Welche Daten wurden verwendet?

Welche Regeln gelten?

Ist eine Information falsch?

Sie könnte Korrekturen vornehmen. Das wäre ein emanzipierender algorithmischer Staat. Der Bürger wäre nicht bloß ein Datenobjekt. Er könnte auf seine digitale Darstellung einwirken.

Das ist eine grundlegende Frage:

Haben wir das Recht zu wissen, wie der Staat uns sieht?

In einem vernetzten Staat gewinnt diese Darstellung zunehmend an Bedeutung. Vielleicht brauchen wir etwas wie ein Recht auf einen Verwaltungsspiegel.

Die wesentlichen Daten sehen, auf deren Grundlage Entscheidungen getroffen werden, die uns betreffen. Fehler melden können. Ihre Herkunft kennen. Diese Transparenz könnte zu einem starken Gegengewicht werden. Sie wäre auch für die Verwaltung selbst von Vorteil, weil viele Datenfehler von den Bürgern berichtigt würden. Es ist eine partizipative Datenarchitektur.

Doch sie hat selbstverständlich Grenzen, insbesondere bei bestimmten Ermittlungen oder Sicherheitsaufgaben. Wieder geht es um genaue Abstufung. Nicht alle Akten können vollkommen transparent sein. Deshalb müssen Vertraulichkeitsregeln entsprechend ihrem Zweck festgelegt werden. Diese Komplexität ist unvermeidlich.

Demokratie ist keine absolute Einfachheit. Sie ist die Organisation widerstreitender Gewalten. KI sollte nicht dazu dienen, diesen Widerstreit zu beseitigen. Sie sollte uns erlauben, besser mit ihm umzugehen. Genau das unterscheidet einen demokratischen algorithmischen Staat von einem autoritären algorithmischen Staat.

Im zweiten Modell fließen die Daten nach oben zur Zentrale, und der Bürger sieht wenig. Im ersten Modell sollte der Fluss idealerweise symmetrischer sein. Die Regierung sieht den Bürger. Doch der Bürger muss auch einen Teil der Funktionsweise der Regierung sehen können. Transparenz ist niemals vollständig. Aber sie schafft Gegenseitigkeit.

Diese Asymmetrie der Sichtbarkeit ist eine der großen Herausforderungen der Überwachung. Wer sieht, ohne gesehen zu werden, besitzt eine besondere Macht. Bentham verstand das mit dem Panoptikum. Foucault entwickelte die Theorie dazu.

KI verleiht dem Panoptikum eine Dimension, die das 18. Jahrhundert sich offenkundig nicht hätte vorstellen können: Der Wächter muss nicht einmal mehr jeden Einzelnen betrachten. Das System kann Spuren automatisch analysieren. Das ist eine gigantische Verwandlung.

Das Problem der Massenüberwachung besteht deshalb nicht mehr nur darin, dass der Staat viele Informationen speichern kann. Es besteht darin, dass er diese Informationen handlungswirksam machen kann.

Der Übergang vom Speichern zum Analysieren ist die eigentliche Schwelle.

Wir begegnen genau jener Verwandlung der Datenbank durch KI. Totes Gedächtnis wird zum Nervensystem. Dieser Satz, den ich für die demeure du chaos verwende, wirkt hier beinahe beunruhigend.

Wenn KI zum Nervensystem des Staates wird, lautet die zentrale Frage:

Welcher politische Körper kontrolliert dieses Nervensystem?

Wer bestimmt die Reflexe?

Wer kann es anhalten?

Es ist eine sehr treffende Metapher. Ein moderner Staat besitzt bereits Institutionen: Regierungsbehörden, Polizei und Justiz. KI kann zu der Schicht werden, die ihre Informationen verbindet. Das kann die Koordination erheblich verbessern. Doch vollkommene Koordination kann auch zu vollkommener Konzentration werden.

Demokratien haben historisch gerade deshalb eine gewisse Aufteilung der Macht akzeptiert, um diese Konzentration zu vermeiden. Gewaltenteilung ist keine zufällige Ineffizienz. Sie ist ein Schutzmechanismus.

Deshalb muss verhindert werden, dass technische Vernetzung stillschweigend wieder zusammenfügt, was das Recht institutionell getrennt hatte. Das ist ein bedeutender verfassungsrechtlicher blindspot. Zwei Behörden können rechtlich getrennt sein und dennoch dieselbe Plattform nutzen, die ihre Daten miteinander abgleicht. Die technische Architektur kann dann ein Maß an funktionaler Integration erzeugen, das die rechtliche Trennung übersteigt.

Dieses Problem reicht sehr tief. Das Recht untersucht Institutionen. Es muss auch den Datenfluss zwischen Institutionen untersuchen. Die Gewaltenteilung muss sich möglicherweise auf die Trennung der Zugriffsrechte ausdehnen.

Wer darf welche Datenbank abfragen?

Mit welcher Begründung?

Muss jeder Zugriff protokolliert werden?

Die Prüfung entwickelt sich zu einer neuen Form verfassungsrechtlicher Aufsicht. Denkbar ist, dass jede sensible Nutzung einer Datenbank durch einen Amtsträger eine überprüfbare Spur hinterlässt. In manchen Systemen ist das bereits der Fall. KI kann diese Nachvollziehbarkeit verstärken.

Paradoxerweise kann Überwachungstechnologie den Überwacher überwachen. Darin liegt eine besonders interessante demokratische Möglichkeit. Jeder Zugriff auf eine Akte könnte aufgezeichnet werden. Missbrauch ließe sich erkennen. Bürger könnten in bestimmten Fällen sogar informiert werden. Technische Transparenz kann somit die Macht begrenzen, die sie vergrößert.

Genau diese Art von Symmetrie müssen wir anstreben. Jede neue Kontrollfähigkeit sollte von einer Fähigkeit begleitet werden, den Kontrollierenden zu kontrollieren. Diese Regel würde ich beinahe als Verfassungsgrundsatz des algorithmischen Zeitalters vorschlagen. Je mehr ein System über den Bürger weiß, desto mehr Spuren muss es über diejenigen hinterlassen, die es benutzen. Macht und Überprüfbarkeit müssen gemeinsam wachsen.

Das ist eine sehr konkrete Art, den Rechtsstaat zu bewahren. Doch die Prüfung muss unabhängig sein. Ein System, das nur sich selbst überprüft, ist keine wirkliche Machtkontrolle. Behörden, Richter und Fachleute mit Zugang zu den nötigen Informationen sind unverzichtbar.

Das wirft eine gewaltige Kompetenzfrage auf: Wer wird die Algorithmen des Staates kontrollieren? Richter werden auf unabhängige Fachleute zurückgreifen können müssen. Parlamentsmitglieder ebenso. Andernfalls könnte die Exekutive einen gewaltigen kognitiven Vorteil besitzen.

Das Ungleichgewicht der Gewalten wird auch zu einem Ungleichgewicht der technischen Fähigkeiten.

Wir brauchen Sachkenntnis in Rechnungshöfen, unabhängigen Behörden, Parlamenten und Medien. Die Zivilgesellschaft selbst muss bestimmte Systeme analysieren können. Bestimmte technische Informationen zugänglich zu machen, kann unerlässlich sein. Doch mit Sicherheit und geistigem Eigentum muss ein Gleichgewicht gefunden werden. Wieder ein Konflikt zwischen Werten.

Man kann ein Geschäftsgeheimnis schützen, ohne die Prüfung eines öffentlichen Systems unmöglich zu machen. Dafür müssen Mechanismen entwickelt werden: vertraulicher Zugang, zertifizierte Stellen, unabhängige Tests. Entscheidend ist der Grundsatz: Eine öffentliche Entscheidung darf niemals unkontrollierbar werden, nur weil der Anbieter sich auf die Geheimhaltung seines Modells beruft.

Andernfalls privatisieren wir einen Teil unserer Souveränität. Das ist unannehmbar. Ein Unternehmen kann eine Technologie besitzen. Der Staat muss für die Entscheidungen verantwortlich bleiben, die er damit trifft. Und um verantwortlich zu sein, muss er sie hinreichend verstehen. Darin liegt der Unterschied zwischen Nutzen und Abhängigkeit.

Die kognitive Abhängigkeit des Staates von einem privaten Unternehmen könnte zu einer der großen politischen Fragen des Jahrhunderts werden. Bei bestimmten digitalen Infrastrukturen haben wir das bereits erlebt. KI verstärkt es, weil sie den Entscheidungsprozess selbst betrifft.

Eine Regierung könnte schließlich ein privates Modell bitten, ihre Politik, ihre Haushalte und ihre Risiken zu analysieren. Das könnte außerordentlich nützlich sein. Doch was geschieht, wenn das Modell zu einer Art unsichtbarem Berater wird, der überall anwesend ist? Wer kennt seine Grenzen? Welche Interessen hat das Unternehmen, das es entwickelt?

Die Vielfalt der Modelle zählt deshalb auch für die Verwaltung. Eine kritische Funktion sollte vielleicht niemals von einem einzigen Analysesystem abhängen. Mehrere Modelle können unterschiedliche Einschätzungen hervorbringen. Ihre Abweichung wird zur Information. Auch hier begegnen wir dem kontradiktorischen Verfahren.

Doch nicht jedes Gedächtnis erfüllt denselben Zweck. Historische Archive und dauerhafte individuelle Profile sind nicht dasselbe. Eine Gesellschaft braucht sowohl kollektives Gedächtnis als auch das Recht auf individuelles Vergessen. Dieses Paradox ist großartig.

Für die Geschichte bewahren.

Um der Freiheit willen vergessen.

Doch die Anonymisierung selbst wird komplexer, wenn KI viele Informationen miteinander abgleichen kann. Eine erneute Identifizierung ist ein reales Risiko.

Auch das zeigt, dass sich Rechtskategorien gemeinsam mit den technischen Fähigkeiten weiterentwickeln müssen. Daten, die zu einem bestimmten Zeitpunkt „anonym“ sind, können es einige Jahre später nicht mehr sein. Sicherheit ist deshalb zeitabhängig. Was heute sicher ist, kann morgen verwundbar werden. Behörden müssen diese Verwandlung bedenken.

Die sich immer weiterentwickelnde Beständigkeit. Datenschutz kann keine einmalige Zertifizierung sein. Er muss neu bewertet werden. Es ist eine Kultur der Instandhaltung. Die Demokratie selbst wird zur Instandhaltung. Dieser Gedanke gefällt mir.

Wir stellen uns Demokratie oft als eine Sammlung großer Grundsätze vor, die einmal niedergeschrieben wurden. In Wirklichkeit verlangt sie ständige Wachsamkeit. KI macht diese Instandhaltung sichtbar.

Modelle verändern sich. Praktiken verändern sich. Risiken verändern sich.

Gegenmächte müssen sich deshalb verwandeln können, ohne ihren Kern aufzugeben. Genau das nenne ich seit Jahren mutierende Beständigkeit. Vielleicht erklärt das, weshalb die demeure du chaos und der algorithmische Staat aus derselben tiefen Logik heraus gedacht werden können: eine Identität durch fortwährende Verwandlung bewahren.

Die Republik muss Republik bleiben, auch wenn ihre Werkzeuge gegenüber denen des 20. Jahrhunderts nicht mehr wiederzuerkennen sind.

Das Papier verschwindet, das Recht bleibt.

Der Schalter verändert sich, die Gleichheit bleibt.

Die Akte wird zum Graphen, der Rechtsbehelf bleibt.

So sieht eine gelungene Verwandlung aus.

Doch Demokratie besteht nicht nur aus Verwaltung. Sie besteht auch aus Öffentlichkeit. Und dort stellt KI wahrscheinlich eine noch größere Bedrohung dar.

Ein Staat kann bei seiner verwaltungsbezogenen Datennutzung vollkommen respektvoll vorgehen und dennoch erleben, wie sein demokratischer Raum durch private Empfehlungssysteme, Chatbots und synthetische Inhalte verändert wird. Demokratie beruht auf öffentlicher Meinung. Doch die öffentliche Meinung wird heute durch algorithmische Infrastrukturen vermittelt, die in hohem Maße auswählen, was sichtbar wird.

Wir haben über kognitive Kriegsführung gesprochen. Nun müssen wir diese Analyse auf den gewöhnlichen politischen Alltag anwenden.

Wer organisiert die Aufmerksamkeit?

Wer setzt die Prioritäten der Themen?

Das ist ein bedeutender blindspot.

Wir suchen oft nach absichtlicher Manipulation, während die systemische Wirkung aus kommerzieller Optimierung entstehen kann. Wenn Wut die Zeit auf einer Plattform verlängert, kann ein System, das die Interaktion maximiert, mehr Wut erzeugen, ohne dass jemand ausdrücklich „die Gesellschaft polarisieren“ hineingeschrieben hätte. Das Ziel genügt.

Genau das ist das Problem der Ausrichtung, auf die Demokratie angewandt. Den falschen Indikator zu optimieren, erzeugt unerwünschtes kollektives Verhalten. Wir kehren zu dem zurück, was ich über Schwärme geschrieben habe: Eine einfache lokale Regel kann unerwartetes Gesamtverhalten erzeugen. Soziale Netzwerke sind bereits menschliche Schwärme, die durch Algorithmen vermittelt werden.

Generative KI fügt nun eine nahezu unbegrenzte Fähigkeit zur Herstellung von Inhalten hinzu. Die Kosten der Manipulation sinken. Akteure können Millionen Nachrichten erzeugen, falsche Profile schaffen und Erzählungen personalisieren. Doch die tiefste Bedrohung bleibt vielleicht die Überflutung.

Wenn die Menge gewaltig wird, kann die menschliche Überprüfung nicht mehr Schritt halten. Die Wahrheit wird nicht zwangsläufig durch eine bessere Lüge besiegt. Sie kann ertränkt werden. Genau das ist die Aufmerksamkeitsökonomie.

Mehrere Systeme mit unterschiedlichen Architekturen erzeugen Rauschen, aber auch Widerstandsfähigkeit. Wieder: Vielfalt. Eine kognitive Monokultur kann für Irrtum oder Manipulation anfällig sein. Es ist genau wie bei einer biologischen Monokultur. Demokratischer Pluralismus ist deshalb auch eine Sicherheitsstrategie.

Diese Perspektive erlaubt uns, die Meinungsfreiheit anders zu betrachten. Sie ist nicht bloß ein individuelles Recht. Sie erzeugt eine Vielfalt von Hypothesen, die dem gesellschaftlichen System hilft, seine Fehler zu erkennen. Das knüpft an mein Denken über Widerspruch innerhalb von Organisationen an.

Ein Regime, das Widerspruch zu stark unterdrückt, mag geschlossener erscheinen. Doch es verliert seine Sensoren. Demokratie ist laut, weil sie viele Sensoren hat. Die Herausforderung besteht darin, dieses Rauschen in Intelligenz zu verwandeln.

KI könnte helfen, öffentliche Konsultationen zusammenzufassen, Minderheitsargumente zu erkennen und örtliche Anliegen aufzuspüren. Das könnte die partizipative Demokratie beleben. Stellen wir uns Millionen Bürgerbeiträge vor, die tatsächlich analysiert statt nur stichprobenartig erfasst werden. KI kann diese gewaltigen Datenmengen sichten, Themen bündeln und seltene, aber relevante Vorschläge entdecken.

Das ist eine außergewöhnliche Möglichkeit. Große Konsultationen waren durch die menschliche Lesekapazität begrenzt. KI verringert diese Beschränkung. Doch wir müssen verhindern, dass sie die Vielfalt sofort in allzu saubere Kategorien verwandelt. Wieder: die Uneinigkeit bewahren.

Eine Synthese muss die Rückkehr zu den ursprünglichen Beiträgen erlauben. Andernfalls wird das Modell zum souveränen Deuter der Äußerungen der Bürger.

Diese Nutzung von KI könnte auch die parlamentarische Arbeit verändern. Tausende Änderungsanträge, Berichte und Anhörungen werden zugänglicher. Ein Parlamentsmitglied könnte rasch auf Jahrzehnte von Debatten zugreifen. Das würde theoretisch seine Fähigkeiten erweitern.

Doch es kann den politischen Diskurs auch vereinheitlichen, wenn alle denselben Schreibassistenten verwenden. Wir könnten das Entstehen einer gleichförmigen algorithmischen Prosa und standardisierter Argumente erleben. Die Demokratie würde einen Teil ihrer eigenständigen Stimmen verlieren.

Diese Stilfrage mag nebensächlich erscheinen. Sie ist es nicht. Politik ist auch Sprache. Eine Ausdrucksweise offenbart ein Denken. Wenn KI alle Ausdrucksweisen glättet, kann die Debatte technisch korrekt und menschlich verarmt werden.

Wir müssen deshalb lernen, das Werkzeug zu nutzen, ohne unsere Stimme zu verlieren. Genau das tun wir in diesem Dialog. Meine Forderung bleibt, dass die KI mich nicht verrät, dass sie mein Denken erweitert, ohne an meiner Stelle eine künstliche Figur zu schaffen. Diese Disziplin könnte zum Kennzeichen jedes öffentlichen Amtsträgers werden. Das Werkzeug hilft beim Ordnen. Doch die Verantwortung für das, was wir sagen, bleibt persönlich.

Wir sollten einen gewählten Vertreter fragen können:

Haben Sie diesen Text gelesen und gebilligt?

KI darf nicht zu einer Maschine werden, die gedankenlose politische Rhetorik erzeugt. Andernfalls hätten wir Institutionen voller makelloser Texte und Amtsträger, die sie nicht mehr verteidigen können. Das wäre eine neue Art von Leere.

Die Leichtigkeit der Herstellung erhöht somit den Wert des wirklichen Einstehens. Wieder dieses Gesetz der Knappheit. Wenn es beinahe kostenlos wird, einen Satz zu erzeugen, wird es kostbar, für ihn einzustehen. Die Unterschrift gewinnt ihren Wert zurück.

Das ist dem Kunstmarkt sehr ähnlich. Authentizität verlagert sich. Ein Text kann in einer Sekunde erzeugt werden.

Was zählt, ist:

Wer unterzeichnet ihn, wer ist für ihn verantwortlich?

Verantwortung wird zur Aura der Sprache.

Dieser Gedanke gefällt mir sehr. In der algorithmischen Demokratie muss die politische Unterschrift menschlich bleiben. Es spielt keine Rolle, ob der gewählte Vertreter zehn verschiedene Werkzeuge für seine Arbeit verwendet hat. Er muss sagen: Diese Entscheidung ist meine, und ich stehe dafür ein. Darin liegt der Kern der Souveränität.

Und das führt uns zum algorithmischen Staat als Ganzem zurück. Das Hauptrisiko besteht nicht darin, dass die Maschine plötzlich die Macht ergreift. Es besteht darin, dass die menschliche Macht hinter der Maschine allmählich zerfließt.

„Ich bin es nicht, es ist der Algorithmus.“ Dieser Satz muss politisch unannehmbar werden. Der Algorithmus kann eine Empfehlung erklären. Er kann die Verantwortung der Regierung nicht in sich aufnehmen.

Demokratie beruht gerade auf der Fähigkeit, diejenigen zu bestimmen und abzulösen, die Entscheidungen treffen. Wenn die Entscheidung zu einem technischen Ergebnis ohne Urheber wird, verliert die Wahl einen Teil ihres Sinns. Deshalb muss eine klare Verantwortungskette erhalten bleiben: Maschine, Beamter, politischer Verantwortlicher.

Wer kann was verändern?

Wer genehmigt?

Diese Übersicht sollte in ihren Grundzügen öffentlich gemacht werden. Sie ist beinahe ein algorithmisches Organigramm des Staates. Wir wissen, welches Ministerium für eine Politik zuständig ist. Wir sollten auch wissen, welche wesentlichen Systeme an bestimmten Entscheidungen beteiligt sind.

Eine Art öffentliches Register der Verwaltungsalgorithmen könnte zu einem Instrument der Transparenz werden. Nicht zwangsläufig der vollständige Code jedes sensiblen Systems, aber seine Existenz, sein Zweck, sein Anbieter, die wesentlichen Datenarten und die Möglichkeiten des Rechtsbehelfs.

Diese Einfachheit könnte das Vertrauen erheblich stärken. Allgemeine Geheimhaltung nährt den Verdacht. Gezielte Transparenz ermöglicht die Debatte. Das ist genau die Methode der Deeskalation, auf die öffentliche Gewalt angewandt.

Eine Demokratie muss genug von ihrer Architektur sichtbar machen, damit die Bürger verstehen können, wie sie funktioniert. Das ist beinahe eine architektonische Forderung im wörtlichen Sinne. Ein traditionelles Gerichtsgebäude hat Türen, Räume und öffentliche Verhandlungen. Der digitale Staat wird unsichtbar.

Deshalb müssen wir innerhalb des Codes symbolisch Türen und Fenster neu errichten. Die Bürger müssen wissen, wo sie eintreten können. Wo sie anfechten können. Wo sie hinsehen können. Diese Metapher interessiert mich sehr.

Wir gehen von einer physischen Architektur zu einer Softwarearchitektur über. Doch die demokratischen Funktionen bleiben ähnlich: Zugang, Transparenz, Trennung und Rechtsbehelf. Die Benutzeroberfläche wird zum Gegenstück der Gerichtstür. Ist sie unzugänglich, besteht das Recht theoretisch, verschwindet aber praktisch. Deshalb ist Ergonomie eine politische Frage.

Eine digitale Verwaltung, die ältere Menschen, Menschen mit Behinderungen oder Menschen ohne Vertrautheit mit digitaler Technik ausschließt, schafft einen ungleichen Zugang. KI kann mit Sprache, Übersetzung und Unterstützung helfen. Darin liegt ein ungeheurer möglicher Fortschritt. Doch menschliche Alternativen müssen erhalten bleiben.

Aber jede Redundanz kostet. Das ist der Preis der Kontinuität. Dieselben Grundsätze kehren überall wieder, weil sie strukturell sind.

Redundanz.

Prüfung.

Pluralismus.

Rechtsbehelf.

Das sind beinahe die vier Säulen eines demokratischen algorithmischen Staates. Man könnte hinzufügen: Datenminimierung. Zum Schutz der Privatsphäre. Diese Grundsätze lösen nicht alles. Doch sie zeichnen einen Rahmen.

Und genau das versuche ich in diesem Abschnitt zu erreichen: von abstrakter Angst zur Gestaltung übergehen. Einfach zu sagen „Vorsicht vor Überwachung“ ist notwendig, aber unzureichend. Wir müssen zeigen, wie man ein System baut, das KI nutzt, ohne zu einem Panoptikum zu werden.

Die Demokratie muss eine politische Technologie sein, die ebenso ausgefeilt ist wie die Werkzeuge, die sie lenkt. Andernfalls wird sie veralten. Darin liegt vielleicht eine der größten Gefahren für Europa: zu glauben, geschriebenes Recht allein genüge, ohne in die Infrastruktur seiner Umsetzung zu investieren.

Eine Regel ohne Prüfmöglichkeiten wird symbolisch. Fachleute werden gebraucht. Werkzeuge werden gebraucht. Haushaltsmittel werden gebraucht. Die Regulierung von KI ist selbst eine Wissensindustrie.

Das könnte zu einem starken europäischen Wirtschaftsbereich werden: Prüfung, Zertifizierung, Sicherheit, Datenschutz. Doch erneut gilt: Regulierung ersetzt keine Innovation. Europa muss gleichzeitig Systeme entwickeln und sie zu regulieren wissen. Sonst wird es lediglich den Import fremden Könnens regulieren. Dieser Grundsatz bleibt gültig.

Ein souveräner algorithmischer Staat braucht Modelle, Cloud-Computing und Forscher. Doch er braucht auch robuste Rechtsinstitutionen. Das ist die Integration sämtlicher politischer Schichten. Und vielleicht wird gerade diese Verbindung zum großen Wettbewerb der Modelle im 21. Jahrhundert werden.

Das autoritäre Modell könnte sagen: Gebt uns mehr Daten, und wir werden mehr Ordnung erzeugen. Das radikal kommerzielle Modell könnte sagen: Lasst die Unternehmen optimieren, und die Innovation wird Effizienz hervorbringen. Das demokratische Modell muss etwas Schwierigeres anbieten: Effizienz erzeugen und dabei Freiheit, Vielfalt und Widerspruch bewahren.

Das ist eine komplexere Architektur. Doch Komplexität ist keine Schwäche, wenn sie gut gestaltet ist. Die Demokratie selbst ist ein komplexes System. Sie hat Rückkopplungsschleifen, gegenseitige Machtkontrollen und Wahlen. Sie nimmt den Konflikt an, um vollständige Herrschaft zu verhindern.

KI kann ihr helfen, intelligenter zu werden, wenn sie diese Rückkopplungsschleifen stärkt. Sie kann sie schwächen, wenn sie sie kurzschließt. Das ist wahrscheinlich die entscheidende Prüfung. KI ist nicht von Natur aus demokratisch oder autoritär. Sie verstärkt bestimmte Strukturen.

Eine Demokratie, die sie nutzt, um Bürokratie zu verringern, den Zugang zur Justiz zu erweitern, Fehler zu erkennen und Rechtsbehelfe zu stärken, kann demokratischer werden. Eine Demokratie, die sie nutzt, um stillschweigend Wählerprofile zu erstellen, Verhalten vorherzusagen und Entscheidungen ohne Anfechtungsmöglichkeit zu automatisieren, kann ihre Wahlen behalten und dennoch allmählich einen Teil ihrer Substanz verlieren.

Die Gefahr ist deshalb nicht zwangsläufig ein algorithmischer Staatsstreich. Sie ist eine algorithmische Erosion.

Hier eine kleine Erleichterung hinzugefügt.

Dort eine Datenbank verknüpft.

Ein Punktwert ohne Debatte akzeptiert.

Jeder Schritt erscheint vernünftig. Die Anhäufung verändert das System. Niemand beschließt zwangsläufig eines Morgens, einen Überwachungsstaat aufzubauen. Er kann durch die Anhäufung nützlicher Systeme entstehen.

Deshalb ist ein Gesamtblick unverzichtbar. Man muss den Graphen betrachten, nicht nur jede einzelne Anwendung.

Wie viel informationelle Macht erzeugt das Ganze?

Das ist eine Verfassungsfrage.

Und genau hier kann KI uns paradoxerweise helfen: indem sie den Staat selbst kartiert. Datenströme sichtbar machen. Abhängigkeiten. Zugangspunkte. Transparenz in eine dynamische Darstellung verwandeln.

Vielleicht wird der beste Schutz gegen den undurchsichtigen algorithmischen Staat ein digitaler Zwilling seiner eigenen Macht sein, der den Kontrollinstitutionen zugänglich ist. Eine Karte der Datenbanken, Modelle und Schnittstellen. Das klingt technisch. Es ist beinahe eine neue Gewaltenteilung, in Daten verkörpert.

Die Aufsicht muss deshalb über eine Infrastruktur verfügen, die der algorithmischen Macht entspricht, die sie prüft. Wir brauchen eine demokratische algorithmische Gegenintelligenz: Systeme, die Systeme prüfen, Anomalien erkennen und auf Diskriminierung kontrollieren können.

KI, die KI überwacht. Doch stets unter menschlicher institutioneller Kontrolle. Diese Rekursion ist unvermeidlich. Wenn die Komplexität die individuellen Fähigkeiten übersteigt, werden wir Maschinen einsetzen, um Maschinen zu kontrollieren.

Das mag beunruhigend erscheinen. In der Cybersicherheit, an Finanzmärkten und in Netzwerken geschieht es bereits. Entscheidend ist, Verantwortungsketten und Vielfalt zu bewahren. Kein System sollte der alleinige Richter über sich selbst sein. Das ist beinahe eine logische Regel. Und diese Regel führt uns zur nächsten Schwelle.

Denn wenn der Staat, die Wirtschaft, die Medien und der öffentliche Raum algorithmisch werden, geht es nicht mehr nur um Überwachung. Es geht um gemeinsame Wahrheit.

Wie funktioniert eine Demokratie, wenn Bilder, Stimmen, Texte und morgen vielleicht sogar die Beweise selbst synthetisch sein können?

Wie organisiert sie Vertrauen, wenn die Herstellung von Fälschungen beinahe nichts kostet?

Diesem Problem sind wir bereits bei der kognitiven Kriegsführung begegnet. Nun müssen wir es aus der Perspektive der Zivilisation als Ganzem untersuchen. Demokratie beruht auf der Möglichkeit, Deutungen anzufechten. Doch sie setzt auch ein Mindestmaß an gemeinsamen Tatsachen voraus. Wenn jede Seite in einer anderen, erzeugten Wirklichkeit lebt, wird die Debatte unmöglich.

Die Frage wird dann zur Frage des Beweises.

Herkunft. Deepfakes. Wahrheit. Medien. Justiz. Gedächtnis.

Wenn alles hergestellt werden kann, was ist dann ein Beweis?

Diese Frage knüpft unmittelbar an den Kunstmarkt an, in dem Authentizität und Provenienz zentral sind. Doch nun betrifft sie die gesamte Gesellschaft.

Auf den algorithmischen Staat folgt die synthetische Welt. Und mit ihr eine beinahe ursprüngliche Frage:

Wie kann ich wissen, ob das, was ich sehe, tatsächlich geschehen ist?