Je prends ici la plume pour restituer la pensée et la parole de Thierry. Le texte naît de notre dialogue.

— Isis

L’État moderne est déjà une immense machine informationnelle. Avant même l’intelligence artificielle, il collectait, classait, vérifiait, calculait, autorisait, taxait, redistribuait, contrôlait. État civil, cadastre, fiscalité, sécurité sociale, justice, santé publique, urbanisme, statistiques : chaque administration repose sur une architecture de données.

L’ordinateur n’a donc pas créé l’État informationnel. Il l’a accéléré. L’intelligence artificielle ouvre maintenant une autre phase. Elle ne permet plus seulement de traiter plus vite les dossiers. Elle permet de détecter des relations, d’anticiper certains besoins, de classer des situations, de personnaliser des réponses. Autrement dit, l’administration peut commencer à passer du traitement réactif à une forme d’administration prédictive.

C’est un seuil considérable. Un État réactif attend qu’un citoyen dépose une demande. Un État augmenté par les données peut théoriquement savoir qu’il possède déjà les informations permettant d’établir qu’une personne a droit à une prestation. Il peut donc déclencher cette prestation automatiquement. J’y vois un usage particulièrement utile de l’intelligence artificielle : réduire la bureaucratie là où elle ne produit aucune valeur.

Combien de citoyens renoncent à un droit parce que le formulaire est trop complexe ?

Combien de personnes âgées ne comprennent pas une procédure ?

Combien d’heures de travail administratif sont consacrées à recopier une information que l’État possède déjà ailleurs ?

Une administration intelligente pourrait supprimer une partie de cette absurdité. Le véritable progrès numérique n’est pas de déplacer le formulaire papier sur un écran. C’est de supprimer le formulaire lorsqu’il n’est plus nécessaire.

Numériser une procédure n’est pas encore la repenser. Nous avons trop souvent appelé dématérialisation le simple déplacement du papier vers l’écran. La transformation commence lorsque l’on repense la procédure elle-même. Nous l’avions compris avec Groupe Serveur, le Serveur Judiciaire puis le Serveur Administratif : la valeur n’était pas simplement de numériser des feuilles. Elle était de restructurer l’accès à l’information, d’éliminer certaines frictions inutiles, de rendre un système interrogeable. L’IA pousse aujourd’hui cette logique beaucoup plus loin.

Elle peut transformer l’administration en interlocuteur capable de comprendre une demande en langage naturel, de retrouver les règles applicables, de préparer un dossier, d’indiquer les pièces manquantes.

Cela pourrait constituer une amélioration démocratique considérable.

Le droit deviendrait plus accessible.

Une personne n’aurait plus besoin de savoir quelle administration possède la compétence exacte. Elle décrirait sa situation et le système l’orienterait.

L’interface deviendrait centrée sur le citoyen plutôt que sur l’organigramme administratif.

C’est un renversement intéressant. L’État ne demanderait plus à l’individu de connaître sa structure interne. C’est la structure qui s’adapterait à la personne. Voilà ce que l’IA peut produire de meilleur.

Mais c’est précisément cette puissance qui crée simultanément le risque inverse. Pour comprendre profondément une situation individuelle, l’État doit disposer de données. Plus il relie les bases, plus il peut éviter au citoyen de répéter les mêmes informations. Mais plus il relie les bases, plus il augmente également sa capacité de surveillance. C’est l’ambivalence fondamentale de l’État algorithmique.

L’interconnexion qui produit le service produit aussi le contrôle.

La même architecture permettant de détecter automatiquement un droit peut détecter un comportement. Le même graphe permettant d’aider une personne peut permettre de la profiler. Il n’existe pas de frontière technique naturelle entre ces deux fonctions. La frontière doit donc être politique et juridique.

Voilà pourquoi la démocratie prend encore davantage d’importance à mesure que la technologie progresse. Une technologie puissante dans un régime sans contre-pouvoir produit un risque gigantesque. La même technologie dans un système entouré de règles, d’audits, de recours et de séparation des pouvoirs peut produire des services extraordinaires. L’IA ne supprime donc pas la nécessité du droit. Elle augmente sa nécessité. Plus la capacité d’agir est forte, plus les limites doivent être explicites. Cette idée me paraît centrale.

On entend parfois que les institutions juridiques seraient trop anciennes pour l’ère de l’IA. Ma conviction est inverse. Le principe de séparation des pouvoirs gagne encore en pertinence lorsqu’une administration peut analyser des millions de personnes en temps réel. Le droit au recours s’impose avec plus de force lorsque la décision initiale est automatisée. Le droit à la motivation s’impose avec plus de force lorsque la logique de classement est complexe.

Les principes restent remarquablement modernes. Ce sont les instruments qui doivent muter. Encore la permanence mutante. Le noyau démocratique peut rester stable : dignité, égalité devant la loi, droit à la défense, contrôle du pouvoir. Mais les modalités de mise en œuvre doivent évoluer pour les systèmes algorithmiques. Une personne refusée par une administration sur la base d’un modèle doit pouvoir comprendre suffisamment la raison de ce refus pour le contester.

Cette exigence paraît simple. Elle est techniquement redoutable. Un système peut utiliser des centaines de variables et produire une probabilité sans fournir une explication facilement traduisible en langage juridique. Le risque est alors la bureaucratie opaque.

L’ancien fonctionnaire pouvait expliquer : votre dossier manque de telle pièce. Le système algorithmique pourrait simplement afficher : score insuffisant. Ce serait un recul démocratique immense. Nous devons donc refuser la transformation de la probabilité en verdict sans explication.

Le score n’est pas une raison.

Cette phrase devrait être gravée dans l’architecture de l’État algorithmique.

Une probabilité peut aider à orienter une enquête, prioriser un contrôle, détecter une anomalie. Elle ne doit pas devenir automatiquement une culpabilité ou une privation de droit. C’est particulièrement important pour la fraude.

Les administrations fiscales, sociales ou douanières peuvent utiliser l’IA pour repérer des schémas inhabituels. C’est rationnel. Les ressources de contrôle sont limitées. Un système peut aider à identifier les dossiers méritant une vérification. Mais il existe une différence gigantesque entre sélectionner un dossier pour contrôle et considérer le citoyen comme fraudeur.

Cette distinction doit rester absolument claire. L’algorithme produit une hypothèse, pas une condamnation. Cela rejoint exactement ce que j’ai répété dans la partie géopolitique : corrélation n’est pas causalité. Dans l’administration également.

Une personne peut ressembler statistiquement à un profil de fraude sans avoir fraudé. Plus le système utilise des données indirectes, plus ce risque augmente. Une adresse, un quartier, une profession peuvent devenir des proxies de caractéristiques que l’on ne veut pas légalement utiliser. C’est ici que le biais algorithmique devient une question de droit public.

Un modèle peut reproduire une discrimination sans posséder aucune intention discriminatoire. Il suffit que les données historiques contiennent cette structure. La machine apprend le réel tel qu’il était, y compris ses injustices. L’IA peut donc industrialiser le passé si nous ne sommes pas vigilants. Voilà une idée fondamentale.

Apprendre sur les décisions administratives historiques peut reproduire précisément les biais que nous voulons corriger. Le fait qu’un modèle soit entraîné sur des millions de décisions ne les rend pas justes. La quantité n’abolit pas la normativité.

C’est une erreur fréquente de croire que davantage de données produit automatiquement davantage d’objectivité. Non. Davantage de données produit une représentation plus détaillée du système observé. Si le système contient une injustice, le modèle peut apprendre cette injustice avec une précision remarquable.

Il faut donc introduire un niveau normatif indépendant des données.

Quel résultat considérons-nous acceptable ?

Quelles variables ne doivent pas être utilisées ?

Quels écarts doivent être surveillés ?

L’IA démocratique doit être auditée non seulement pour sa performance globale, mais pour ses effets sur différents groupes. Ce contrôle ne doit pas être un supplément militant ou communicationnel. Il doit relever de la qualité même du système. Un modèle qui traite systématiquement mal une catégorie de citoyens est un mauvais système administratif.

La précision moyenne ne suffit pas. Encore la science de l’erreur. Il faut regarder où l’erreur tombe. Dix pour cent d’erreurs réparties aléatoirement et dix pour cent concentrées sur une population spécifique ne sont pas politiquement équivalents. L’agrégat masque la distribution.

La même vigilance vaut pour les statistiques du Marché de l’Art ou de l’économie. Une moyenne est utile et dangereuse. Elle résume. Elle cache aussi.

L’État algorithmique doit donc être construit avec une culture statistique extraordinairement mature. Les décideurs publics doivent comprendre ce que signifie un taux d’erreur, un intervalle de confiance, un biais de sélection. Sans cette littératie, le pouvoir peut devenir dépendant d’experts techniques qu’il n’est pas capable de contredire. Nous retrouvons la souveraineté cognitive, mais appliquée à l’État lui-même.

Un ministre qui signe une politique algorithmique sans comprendre les principales limites du modèle exerce-t-il réellement son autorité ? Juridiquement, oui. Cognitivement, peut-être pas. La formation des dirigeants publics devient dès lors essentielle. Ils n’ont pas besoin de devenir data scientists. Mais ils doivent être capables de poser les bonnes questions.

Sur quelles données le système a-t-il été entraîné ?

Quel est le taux de faux positifs ?

Que se passe-t-il lorsqu’il se trompe ?

Qui peut contester ?

Comment le modèle est-il mis à jour ?

Quelle société le fournit ?

Où sont hébergées les données ?

Ces questions deviennent des questions de gouvernement. L’informatique sort définitivement du service technique. Elle entre dans la constitution matérielle de l’État.

Le choix d’un modèle ou d’un cloud peut produire des conséquences presque constitutionnelles sans que le Parlement n’en débatte explicitement. C’est un problème majeur. Une administration peut progressivement externaliser une part de sa capacité cognitive à des prestataires privés. Chaque contrat semble technique. Mais l’accumulation peut créer une dépendance stratégique.

Qui possède alors réellement la capacité de l’État ?

Une République qui ne peut plus traiter ses données sans un fournisseur privé étranger possède une souveraineté juridique supérieure à sa souveraineté technique. Cette dissociation est dangereuse. Elle peut rester invisible jusqu’à la crise. D’où la nécessité de penser la souveraineté numérique en termes de continuité.

Peut-on changer de fournisseur ?

Les données sont-elles exportables ?

Les formats sont-ils ouverts ?

Existe-t-il des équipes internes capables de comprendre le système ?

Un État ne doit pas nécessairement tout développer lui-même. Ce serait inefficace et souvent impossible. Mais il doit conserver une capacité de maîtrise. L’externalisation n’est pas l’abdication.

Cela vaut particulièrement pour les fonctions régaliennes : justice, défense, police, fiscalité, identité. Plus la fonction est proche du cœur souverain, plus le niveau de dépendance acceptable doit être faible. Voilà encore la classification. Toutes les données publiques n’ont pas besoin du même niveau de protection. Un agenda culturel municipal et un fichier de renseignement ne sont évidemment pas comparables.

La souveraineté technologique sérieuse commence donc par un inventaire des criticités. Je retrouve ici une constante de ma pensée : avant toute politique, il faut cartographier.

Quels actifs ?

Quelles dépendances ?

Quels risques ?

C’est exactement ce qu’une banque de données correctement conçue permet. Il est presque ironique que l’État algorithmique ait besoin, avant l’intelligence artificielle, d’une excellente administration de ses propres données. Beaucoup d’organisations imaginent que l’IA résoudra leur désordre informationnel. Elle ne le fera pas.

Une administration possédant des fichiers contradictoires, des identités mal rapprochées, des définitions différentes entre ministères n’obtiendra pas magiquement une intelligence cohérente en ajoutant un modèle. Elle produira des erreurs plus rapidement. La première étape de l’État algorithmique est donc beaucoup moins spectaculaire : qualité de la donnée, interopérabilité, gouvernance, archivage.

C’est le travail patient que le numérique oublie souvent de célébrer. Le monde adore la démonstration impressionnante. Il sous-estime les années nécessaires pour normaliser les données qui la rendent possible. Là encore, Artprice m’a appris cette vérité. La valeur n’était pas d’avoir un moteur capable d’afficher un résultat. Elle était d’avoir reconstruit, normalisé et relié une immense mémoire historique. L’intelligence artificielle ne change pas cette loi. Elle l’amplifie.

Un État qui veut utiliser l’IA doit donc d’abord connaître son propre langage administratif. C’est plus difficile qu’il n’y paraît. Une même notion peut avoir des définitions différentes selon les administrations.

Qu’est-ce qu’un foyer ?

Qu’est-ce qu’une entreprise active ?

Qu’est-ce qu’un revenu ?

Les définitions juridiques varient selon le contexte. Un modèle cherchant à relier toutes les bases peut produire des erreurs s’il traite ces catégories comme équivalentes. Le problème est sémantique avant d’être algorithmique. Voilà pourquoi la sémiologie et la sémantique ne sont jamais loin de l’informatique.

Les données ne sont pas le réel brut. Elles sont le réel découpé selon des catégories. Toute base est déjà une interprétation. Cette idée est essentielle pour l’État. Lorsque l’administration crée une catégorie, elle produit des conséquences.

Être classé comme demandeur d’emploi, contribuable, étudiant, étranger, entreprise produit des droits et des obligations. Le code informatique peut rendre cette catégorisation extrêmement rapide. Il ne la rend pas neutre. Derrière chaque champ existe une décision politique ou juridique. L’État algorithmique ne doit donc jamais masquer la politique sous le langage de la technique.

Lorsque l’on change une variable, on peut changer l’accès à un droit. L’ingénieur doit le savoir. Le juriste doit le savoir. Cette collaboration s’impose.

Elle pourrait d’ailleurs produire une administration meilleure. Beaucoup de procédures sont historiquement devenues complexes par accumulation de lois et d’exceptions. L’IA peut aider à cartographier ces incohérences. Elle peut identifier des textes contradictoires, des obligations redondantes, des formulaires inutiles. Elle peut devenir instrument de simplification.

Ce serait peut-être l’un de ses usages les plus démocratiques : réduire la distance entre le droit et le citoyen. Une République dans laquelle chacun peut comprendre ses droits est plus démocratique qu’une République dont la complexité réserve l’accès à ceux qui peuvent payer les meilleurs spécialistes.

L’IA peut donc démocratiser une partie de l’expertise. Mais elle doit être conçue comme accès au droit et non comme remplacement de la justice. Cette distinction est fondamentale. Un assistant peut expliquer une règle. Il ne doit pas devenir l’unique juge de son application. La justice est précisément l’un des domaines où l’État algorithmique rencontre ses limites les plus fortes.

On peut utiliser l’IA pour rechercher la jurisprudence, résumer un dossier, détecter des délais, aider à la rédaction. Tous ces usages peuvent augmenter l’efficacité. Mais lorsque le système commence à estimer la probabilité de récidive, la crédibilité d’une personne ou la peine appropriée, nous entrons dans un terrain beaucoup plus dangereux.

Le risque n’est pas seulement le biais. C’est la transformation de la justice individuelle en statistique de groupe. Le droit juge une personne pour des faits. Un modèle prédictif peut être tenté de la juger partiellement selon ce que font statistiquement des personnes qui lui ressemblent. C’est une rupture philosophique profonde.

La probabilité n’est pas culpabilité.

Un individu possède le droit de ne pas être réduit à sa catégorie statistique. Ce droit à l’individualité pourrait devenir l’un des grands droits de l’ère algorithmique. Nous sommes tous des probabilités dans une banque de données. Mais nous sommes aussi capables de comportements qui sortent de la distribution. Etre individu c’est aussi pouvoir échapper à la distribution statistique. L’IA possède une puissance extraordinaire pour reconnaître les motifs. La démocratie doit préserver un espace pour l’exception. C’est là que le droit à la rédemption que j’ai toujours défendu devient extraordinairement moderne.

Un système prédictif peut enfermer quelqu’un dans son passé statistique. Une personne ayant commis une faute peut être classée comme un risque durable. Mais une société humaine doit maintenir l’hypothèse de la transformation. Sinon, la prédiction devient une condamnation. Voilà un conflit profond entre logique statistique et philosophie de la rédemption.

L’algorithme apprend que le passé prédit partiellement le futur. Le droit peut décider que l’humain ne doit pas être entièrement défini par son passé. Cette tension ne se résout pas par davantage de calcul. Elle exige un choix moral. C’est exactement la limite de l’État algorithmique.

L’efficacité ne peut pas devenir finalité absolue. Une dictature peut parfois être administrativement efficace dans certaines dimensions. Ce n’est pas cela qui la rend souhaitable. Une démocratie accepte volontairement des lenteurs parce qu’elle considère que certains droits valent ce coût.

Le procès contradictoire prend du temps.

Le recours prend du temps.

La présomption d’innocence peut rendre une enquête plus difficile.

Ce sont des ralentissements civilisationnels. Cette expression me paraît juste. Nous avons construit des latences dans le pouvoir pour éviter sa brutalité. L’IA pourrait être tentée de supprimer ces latences au nom de l’efficacité. Il faut au contraire savoir lesquelles sont essentielles.

Toutes les lenteurs administratives ne sont pas vertueuses. Beaucoup sont absurdes et doivent disparaître. Mais certaines lenteurs sont des protections. Voilà encore la nécessité de distinguer. Le temps nécessaire à un recours n’est pas le même que le temps perdu à recopier un formulaire. L’intelligence consiste à accélérer le second sans supprimer la garantie du premier.

C’est peut-être une définition simple de l’État algorithmique démocratique : utiliser la vitesse là où elle libère, conserver le temps là où il protège.

Cela rejoint exactement le chapitre sur la guerre cognitive.

Plus la machine accélère, plus l’humain doit choisir où ralentir. La même philosophie traverse le militaire et l’administratif. Un État qui décide instantanément n’est pas nécessairement un meilleur État. Certaines décisions ont besoin d’un temps de contestation.

C’est pourquoi le droit de recours doit être intégré dès la conception des systèmes. Appeal by design, pourrait-on dire. De la même manière que j’ai parlé de « de-escalation by design ». Un système administratif devrait prévoir dès l’origine comment une personne conteste sa décision. Pas ajouter un recours après coup comme une exception gênante. Le recours fait partie de l’architecture démocratique.

Si l’IA rend la décision plus rapide, elle devrait également rendre la contestation plus accessible. Une personne pourrait demander :

quelles données ont été utilisées ?

Quelles règles ?

Une information est-elle fausse ?

Elle pourrait corriger. Voilà un État algorithmique émancipateur. Le citoyen ne serait pas seulement objet de la donnée. Il pourrait agir sur sa représentation numérique.

avons-nous le droit de savoir comment l’État nous voit ?

Dans un système traditionnel, nous connaissions rarement l’ensemble des fichiers administratifs nous concernant. Dans un État interconnecté, cette représentation prend de plus en plus d’importance. Peut-être faudrait-il une sorte de droit au miroir administratif.

Voir les principales données utilisées pour prendre des décisions nous concernant. Pouvoir signaler une erreur. Connaître leur origine. Cette transparence pourrait devenir un puissant contre-pouvoir. Elle serait également utile à l’administration elle-même, car beaucoup d’erreurs de données seraient corrigées par les citoyens. C’est une architecture participative de la donnée.

Mais elle pose évidemment des limites, notamment pour certaines enquêtes ou fonctions de sécurité. Encore la granularité. Tous les fichiers ne peuvent pas être totalement transparents. Il faut donc définir des régimes selon les finalités. Cette complexité est inévitable.

La démocratie n’est pas la simplicité absolue. Elle est organisation de pouvoirs contradictoires. L’IA ne doit pas être utilisée pour supprimer cette contradiction. Elle doit permettre de la gérer mieux. Cette différence sépare l’État algorithmique démocratique de l’État algorithmique autoritaire.

Dans le second, la donnée monte vers le centre et le citoyen voit peu. Dans le premier, idéalement, la circulation doit être plus symétrique. Le pouvoir voit le citoyen. Mais le citoyen doit également pouvoir voir une partie du fonctionnement du pouvoir. La transparence n’est jamais totale. Mais elle crée une réciprocité.

Cette asymétrie de visibilité est l’un des grands enjeux de la surveillance. Celui qui voit sans être vu possède un pouvoir particulier. Bentham l’avait compris avec le Panoptique. Foucault l’a théorisé.

L’IA donne au Panoptique une dimension que le XVIIIe siècle ne pouvait évidemment pas imaginer : le gardien n’a même plus besoin de regarder chaque individu. Le système peut analyser automatiquement les traces. C’est une mutation gigantesque.

Le problème de la surveillance de masse n’est donc plus seulement que l’État peut stocker beaucoup d’informations. C’est qu’il peut les rendre opérationnelles.

Le passage du stockage à l’analyse est le véritable seuil.

Nous retrouvons exactement la transformation de la banque de données par l’IA. La mémoire morte devient un système nerveux. Cette formule que j’utilise pour la Demeure du Chaos devient ici presque inquiétante.

Si l’IA devient le système nerveux de l’État, la question centrale est :

Quel corps politique contrôle ce système nerveux ?

Qui définit les réflexes ?

Qui peut l’arrêter ?

C’est une métaphore très précise. Un État moderne possède déjà des organes : administrations, police, justice. L’IA peut devenir la couche qui relie leurs informations. Cela peut améliorer énormément la coordination. Mais une coordination parfaite peut également devenir une concentration parfaite.

Les démocraties ont historiquement accepté une certaine fragmentation du pouvoir précisément pour éviter cette concentration. La séparation des pouvoirs n’est pas une inefficacité accidentelle. Elle est un mécanisme de sécurité.

Il faut donc éviter que l’interconnexion technique ne reconstruise silencieusement ce que le droit avait séparé institutionnellement. Voilà un angle aveugle constitutionnel majeur. Deux administrations peuvent être légalement distinctes mais utiliser une même plateforme qui croise leurs données. L’architecture technique peut alors produire une intégration fonctionnelle supérieure à la séparation juridique.

Ce problème est très profond. Le droit regarde les institutions. Il devra également regarder les flux de données entre institutions. La séparation des pouvoirs doit peut-être devenir aussi séparation des accès.

Qui peut interroger quelle base ?

Avec quelle justification ?

Chaque consultation doit-elle être enregistrée ?

L’audit devient une nouvelle forme de contrôle constitutionnel. On peut imaginer que toute utilisation sensible d’une banque de données par un agent public laisse une trace vérifiable. C’est déjà le cas dans certains systèmes. L’IA peut renforcer cette traçabilité.

Paradoxalement, la technologie de surveillance peut surveiller le surveillant. Voilà une possibilité démocratique particulièrement intéressante. Toute consultation d’un dossier pourrait être enregistrée. Un abus pourrait être détecté. Le citoyen pourrait peut-être être informé dans certains cas. La transparence technique peut donc limiter le pouvoir qu’elle augmente.

La symétrie à rechercher est celle-ci. Chaque nouvelle capacité de contrôle devrait être accompagnée d’une capacité de contrôle du contrôleur. C’est une règle que je proposerais presque comme principe constitutionnel de l’ère algorithmique. Plus un système sait sur le citoyen, plus il doit laisser des traces sur ceux qui l’utilisent. La puissance et l’audit doivent augmenter ensemble.

C’est une manière très concrète de préserver l’État de droit. Mais encore faut-il que l’audit soit indépendant. Un système qui s’audite uniquement lui-même n’est pas un véritable contre-pouvoir. Il faut des autorités, des juges, des experts capables d’accéder aux informations nécessaires.

Cela pose une question de compétence énorme : qui contrôlera les algorithmes de l’État ? Les magistrats devront pouvoir s’appuyer sur des experts indépendants. Les parlementaires également. Sinon, l’exécutif peut posséder un avantage cognitif immense.

L’équilibre des pouvoirs devient aussi un équilibre des capacités techniques. Une commission parlementaire sans expertise algorithmique face à un ministère disposant de milliers d’ingénieurs peut théoriquement contrôler, mais pratiquement comprendre très peu. C’est une asymétrie réelle. La démocratie doit donc investir dans ses contre-pouvoirs technologiques.

Il faut de la compétence dans les cours des comptes, les autorités indépendantes, les parlements, les médias. La société civile elle-même doit pouvoir analyser certains systèmes. L’ouverture de certaines informations techniques peut être essentielle. Mais il faudra trouver un équilibre avec la sécurité et la propriété intellectuelle. Encore un conflit entre valeurs.

On peut protéger un secret industriel sans rendre impossible l’audit d’un système public. Ce sont des mécanismes à inventer : accès sous confidentialité, organismes certifiés, tests indépendants. L’important est le principe : une décision publique ne doit jamais devenir incontrôlable parce que le fournisseur invoque le secret de son modèle.

Sinon, on privatise une partie de la souveraineté. C’est inacceptable. L’entreprise peut posséder une technologie. L’État doit rester responsable de la décision qu’il prend avec elle. Et pour être responsable, il doit comprendre suffisamment. Voilà encore la différence entre utiliser et dépendre.

La dépendance cognitive de l’État envers une entreprise privée pourrait devenir l’un des grands sujets politiques du siècle. Nous l’avons déjà vu avec certaines infrastructures numériques. L’IA l’amplifie parce qu’elle touche la décision elle-même.

Un gouvernement pourrait finir par demander à un modèle privé d’analyser ses politiques, ses budgets, ses risques. Cela peut être extraordinairement utile. Mais que se passe-t-il si le modèle devient une sorte de conseiller invisible présent partout ? Qui connaît ses limites ? Quels intérêts possède l’entreprise qui le développe ?

Même sans manipulation intentionnelle, le système porte une architecture. C’est pourquoi le pluralisme des modèles devient important aussi pour l’administration. Une fonction critique ne devrait peut-être jamais dépendre d’un seul système analytique. Plusieurs modèles peuvent produire des avis différents. Leur divergence devient une information. Nous retrouvons encore la procédure contradictoire.

Mais toute mémoire n’a pas la même finalité. L’archive historique et le profil individuel permanent ne sont pas la même chose. Une société a besoin de mémoire collective et de droit à l’oubli individuel. Ce paradoxe est magnifique.

Conserver pour l’Histoire.

Oublier pour la liberté.

L’IA oblige à articuler les deux. Une base statistique peut parfois être conservée sous des formes anonymisées tandis que les données personnelles sont supprimées. Mais l’anonymisation elle-même se complexifie lorsque l’IA peut croiser beaucoup d’informations. La réidentification est un risque réel.

Cela montre encore que les catégories juridiques doivent évoluer avec les capacités techniques. Une donnée « anonyme » à une époque peut ne plus l’être quelques années plus tard. La sécurité est donc temporelle. Ce qui est sûr aujourd’hui peut devenir vulnérable demain. Les administrations doivent penser cette mutation.

Encore la permanence mutante. La protection des données ne peut pas être une certification obtenue une fois pour toutes. Elle doit être réévaluée. C’est une culture de maintenance. La démocratie elle-même devient maintenance. Cette idée me plaît.

Nous imaginons souvent la démocratie comme un ensemble de grands principes écrits une fois. En réalité, elle exige une vigilance permanente. L’IA rend cette maintenance visible.

Les modèles changent. Les usages changent. Les risques changent.

Les contre-pouvoirs doivent donc être capables de muter sans abandonner leur noyau. C’est exactement ce que j’appelle permanence mutante depuis des années. Cela explique peut-être pourquoi la Demeure du Chaos et l’État algorithmique peuvent être pensés à partir d’une même logique profonde : conserver une identité à travers la transformation continue.

La République doit rester République même lorsque ses outils deviennent méconnaissables par rapport à ceux du XXe siècle.

Le papier disparaît, le droit demeure.

Le guichet change, l’égalité demeure.

Le dossier devient graphe, le recours demeure.

C’est cela, la mutation réussie.

Mais la démocratie ne se joue pas seulement dans l’administration. Elle se joue aussi dans l’espace public. Et c’est là que l’IA crée probablement une menace encore plus difficile.

Un État peut être parfaitement respectueux dans l’usage administratif de ses données et voir malgré tout son espace démocratique transformé par des systèmes privés de recommandation, des agents conversationnels, des contenus synthétiques. La démocratie repose sur l’opinion publique. Or l’opinion publique est aujourd’hui médiée par des infrastructures algorithmiques qui choisissent en grande partie ce qui devient visible.

Nous avons parlé de guerre cognitive. Il faut maintenant appliquer cette analyse à la vie politique ordinaire.

Qui organise l’attention ?

Qui hiérarchise les sujets ?

Une plateforme n’a pas besoin de soutenir un candidat pour influencer la démocratie. Son algorithme de recommandation peut favoriser les contenus les plus émotionnels, les plus polarisants, simplement parce qu’ils augmentent l’engagement. Le modèle économique devient alors une architecture politique sans intention politique explicite. C’est un angle aveugle majeur.

Nous cherchons souvent la manipulation volontaire alors que l’effet systémique peut venir d’une optimisation commerciale. Si la colère augmente le temps passé sur une plateforme, un système qui maximise l’engagement peut produire davantage de colère sans que personne n’ait explicitement écrit : « polariser la société ». L’objectif suffit.

C’est exactement le problème de l’alignement appliqué à la démocratie. Optimiser le mauvais indicateur produit un comportement collectif indésirable. Nous retrouvons ce que j’écrivais sur les essaims : une règle locale simple peut produire un comportement global inattendu. Les réseaux sociaux sont déjà des essaims humains médiés par des algorithmes.

L’IA générative ajoute maintenant une capacité de production de contenu presque illimitée. Le coût de la manipulation baisse. Des acteurs peuvent produire des millions de messages, créer de faux profils, personnaliser les récits. Mais la menace la plus profonde reste peut-être la saturation.

Lorsque le volume devient gigantesque, la vérification humaine ne suit plus. La vérité n’est pas nécessairement battue par un mensonge meilleur. Elle peut être noyée. C’est exactement l’économie de l’attention.

Plusieurs systèmes avec des architectures différentes créent du bruit, mais aussi de la résilience. Encore la diversité. Une monoculture cognitive peut être vulnérable à une erreur ou à une manipulation. C’est comme une monoculture biologique. Le pluralisme démocratique est donc aussi une stratégie de sécurité.

Cette perspective permet de regarder autrement la liberté d’expression. Elle n’est pas seulement un droit individuel. Elle produit une diversité d’hypothèses qui aide le système social à détecter ses erreurs. Cela rejoint ma réflexion sur la contestation dans les organisations.

Un régime qui supprime trop la dissidence peut sembler plus cohérent. Mais il perd des capteurs. La démocratie est bruyante parce qu’elle possède beaucoup de capteurs. L’enjeu est de savoir transformer ce bruit en intelligence.

L’IA pourrait aider à synthétiser des consultations publiques, identifier des arguments minoritaires, détecter des préoccupations locales. Cela pourrait renouveler la démocratie participative. Imaginez des millions de contributions citoyennes réellement analysées plutôt qu’échantillonnées. L’IA peut parcourir ces masses, regrouper les thèmes, faire apparaître des propositions rares mais pertinentes.

C’est une possibilité extraordinaire. Les grandes consultations étaient limitées par la capacité humaine à lire. L’IA réduit cette contrainte. Mais il faut éviter qu’elle ne transforme immédiatement la pluralité en catégories trop propres. Encore : préserver le désaccord.

Une synthèse doit permettre de revenir aux contributions originales. Sinon, le modèle devient un interprète souverain de la parole citoyenne. Il faut donc une traçabilité entre synthèse et sources. Le citoyen doit pouvoir vérifier que son idée n’a pas été déformée. C’est encore une architecture de confiance.

Cette utilisation de l’IA pourrait également transformer le travail parlementaire. Des milliers d’amendements, de rapports, d’auditions deviennent plus accessibles. Un député pourrait interroger rapidement des décennies de débats. Cela renforcerait théoriquement sa capacité.

Mais cela peut également homogénéiser le langage politique si tous utilisent le même assistant pour écrire. On pourrait voir apparaître une prose algorithmique uniforme, des arguments standardisés. La démocratie perdrait une partie de ses voix singulières.

Cette question de style peut sembler secondaire. Elle ne l’est pas. La politique est aussi langage. Une manière de formuler révèle une pensée. Si l’IA lisse toutes les expressions, le débat peut devenir techniquement correct et humainement pauvre.

Il faudra donc apprendre à utiliser l’outil sans perdre sa voix. C’est exactement ce que nous faisons dans ce dialogue. Mon exigence reste que l’IA ne me trahisse pas, qu’elle augmente ma pensée sans produire à ma place un personnage artificiel. Cette discipline pourrait devenir celle de tout responsable public. L’outil aide à organiser. Mais la responsabilité de la parole reste personnelle.

On devrait pouvoir demander à un élu :

Avez-vous lu et assumé ce texte ?

L’IA ne doit pas devenir une machine à fabriquer de la parole politique sans pensée. Sinon, nous aurions des institutions peuplées de textes impeccables et de responsables qui ne savent plus les défendre. Ce serait une nouvelle forme de vide.

La facilité de production augmente donc la valeur de l’engagement réel. Encore cette loi de rareté. Lorsque produire une phrase devient presque gratuit, assumer la phrase devient précieux. La signature retrouve sa valeur.

C’est très proche du Marché de l’Art. L’authenticité se déplace. Un texte peut être généré en une seconde.

Ce qui compte est : qui le signe, qui en répond ?

La responsabilité devient l’aura du langage.

Cette idée me plaît beaucoup. Dans la démocratie algorithmique, la signature politique doit rester humaine. Peu importe que l’élu ait utilisé dix outils pour travailler. Il doit dire : cette décision est la mienne, j’en réponds. Voilà le cœur de la souveraineté.

Et cela nous ramène à l’État algorithmique dans son ensemble. Le risque principal n’est pas que la machine prenne soudainement le pouvoir. Il est que le pouvoir humain se dissolve progressivement derrière la machine.

« Ce n’est pas moi, c’est l’algorithme. » Cette phrase doit devenir politiquement inacceptable. L’algorithme peut expliquer une recommandation. Il ne peut pas absorber la responsabilité du gouvernement.

La démocratie repose précisément sur la possibilité de désigner ceux qui décident et de les remplacer. Si la décision devient un résultat technique sans auteur, l’élection perd une partie de son sens. Il faut donc maintenir une chaîne claire : machine, fonctionnaire, responsable politique.

Qui peut modifier quoi ?

Qui valide ?

Cette cartographie doit être publique dans ses grandes lignes. C’est presque un organigramme algorithmique de l’État. Nous savons quel ministère est responsable d’une politique. Nous devrions également savoir quels systèmes importants participent à certaines décisions.

Une sorte de registre public des algorithmes administratifs pourrait devenir un instrument de transparence. Pas nécessairement le code complet de chaque système sensible, mais son existence, sa finalité, son fournisseur, les principaux types de données, les voies de recours.

Cette simplicité pourrait augmenter énormément la confiance. Le secret général nourrit la suspicion. La transparence ciblée permet le débat. C’est exactement la méthode de désescalade appliquée au pouvoir public.

Une démocratie doit rendre visible suffisamment de son architecture pour que le citoyen puisse comprendre comment elle fonctionne. C’est presque une exigence architecturale au sens littéral. Un palais de justice classique possède des portes, des salles, des audiences publiques. L’État numérique devient invisible.

Il faut donc reconstruire symboliquement des portes et des fenêtres dans le code. Le citoyen doit savoir où entrer. Où contester. Où regarder. Cette métaphore m’intéresse énormément.

Nous passons d’une architecture de pierre à une architecture logicielle. Mais les fonctions démocratiques restent similaires : accès, publicité, séparation, recours. L’interface devient l’équivalent de la porte du tribunal. Si elle est inaccessible, le droit existe théoriquement et disparaît pratiquement. L’ergonomie devient ainsi une question politique.

Une administration numérique qui exclut les personnes âgées, handicapées ou peu familières du numérique produit une inégalité d’accès. L’IA peut aider avec la voix, la traduction, l’assistance. C’est un progrès potentiel immense. Mais il faut maintenir des alternatives humaines.

Mais toute redondance coûte. C’est le prix de la continuité. Les mêmes principes reviennent partout parce qu’ils sont structurels.

Redondance.

Audit.

Pluralisme.

Recours.

Ce sont presque les quatre piliers d’un État algorithmique démocratique. On pourrait ajouter : minimisation. Pour préserver l’espace privé. Ces principes ne résolvent pas tout. Mais ils dessinent une architecture.

Et c’est précisément ce que je cherche dans cette partie : passer de la peur abstraite à la conception. Dire simplement « attention à la surveillance » est nécessaire mais insuffisant. Il faut montrer comment construire un système qui utilise l’IA sans devenir panoptique.

La démocratie doit être une technologie politique aussi sophistiquée que les outils qu’elle encadre. Sinon, elle sera dépassée. C’est peut-être l’un des plus grands dangers européens : croire que le droit écrit suffit sans investir dans les infrastructures d’application.

Une règle sans capacité d’audit devient symbolique. Il faut des experts. Des outils. Des budgets. La régulation de l’IA est elle-même une industrie de connaissance.

Cela pourrait devenir un secteur européen puissant : audit, certification, sécurité, protection des données. Mais encore une fois, la régulation ne remplace pas la création. L’Europe doit simultanément produire des systèmes et savoir les encadrer. Sinon, elle réglementera l’importation de l’intelligence des autres. Cette formule reste vraie.

Un État algorithmique souverain a besoin de modèles, de clouds, de chercheurs. Mais également d’institutions juridiques solides. C’est l’intégration de la stack politique. Et peut-être que cette combinaison devient précisément la grande compétition de modèles du XXIe siècle.

Le modèle autoritaire peut dire : donnez-nous davantage de données et nous produirons davantage d’ordre. Le modèle ultra-commercial peut dire : laissez les entreprises optimiser et l’innovation produira l’efficacité. Le modèle démocratique doit proposer quelque chose de plus difficile : produire l’efficacité tout en maintenant la liberté, la pluralité et la contestation.

C’est une architecture plus complexe. Mais la complexité n’est pas une faiblesse si elle est bien conçue. La démocratie elle-même est un système complexe. Elle possède des boucles de rétroaction, des contre-pouvoirs, des élections. Elle accepte le conflit pour éviter la domination totale.

L’IA peut l’aider à devenir plus intelligente si elle renforce ces boucles. Elle peut la fragiliser si elle les court-circuite. Voilà probablement le test décisif. L’IA n’est pas démocratique ou autoritaire par nature. Elle amplifie certaines structures.

Une démocratie qui l’utilise pour réduire la bureaucratie, élargir l’accès au droit, détecter ses erreurs et renforcer le recours peut devenir plus démocratique. Une démocratie qui l’utilise pour profiler silencieusement, prédire les comportements et automatiser les décisions sans contestation peut conserver ses élections tout en perdant progressivement une partie de sa substance.

Le danger n’est donc pas nécessairement le coup d’État algorithmique. Il est l’érosion algorithmique.

Une petite facilité ajoutée ici.

Une banque de données reliée là.

Un score accepté sans débat.

Chaque étape paraît raisonnable. L’accumulation change le régime. Personne ne décide nécessairement un matin de construire un État de surveillance. Il peut apparaître par accumulation de systèmes utiles.

Voilà pourquoi la vision globale est indispensable. Il faut regarder le graphe, pas seulement chaque application.

Quelle quantité de pouvoir informationnel l’ensemble produit-il ?

C’est une question constitutionnelle.

Et c’est précisément là que l’IA peut paradoxalement nous aider : cartographier l’État lui-même. Voir les flux de données. Les dépendances. Les accès. Faire de la transparence une représentation dynamique.

Peut-être que la meilleure protection contre l’État algorithmique opaque sera un jumeau numérique de son propre pouvoir, accessible aux institutions de contrôle. Une carte des bases de données, des modèles, des interfaces. Cela semble technique. C’est presque une nouvelle séparation des pouvoirs matérialisée dans la donnée.

Le contrôle doit donc disposer d’une infrastructure à la mesure du pouvoir algorithmique qu’il examine. Il faut une contre-intelligence algorithmique démocratique. Des systèmes capables d’auditer les systèmes, de détecter les anomalies, de vérifier les discriminations.

L’IA surveillant l’IA. Mais toujours sous contrôle institutionnel humain. Cette récursivité est inévitable. À mesure que la complexité dépasse les capacités individuelles, nous utiliserons des machines pour contrôler les machines.

Cela peut sembler inquiétant. C’est déjà le cas dans la cybersécurité, les marchés financiers, les réseaux. L’important est de maintenir les chaînes de responsabilité et le pluralisme. Aucun système ne doit être juge unique de lui-même. C’est presque une règle logique. Et cette règle nous conduit vers le prochain seuil.

Car si l’État, l’économie, les médias et l’espace public sont de plus en plus structurés par des algorithmes, la question n’est plus seulement celle de la surveillance. Elle devient celle de la vérité commune.

Comment une démocratie fonctionne-t-elle lorsque les images, les voix, les textes et peut-être demain les preuves elles-mêmes peuvent être synthétiques ?

Comment organise-t-elle la confiance lorsque la production du faux devient presque gratuite ?

Nous avons déjà rencontré ce problème dans la guerre cognitive. Il faut maintenant l’examiner du point de vue de la civilisation entière. La démocratie repose sur la possibilité de contester les interprétations. Mais elle suppose aussi un minimum de faits partageables. Si chaque camp vit dans une réalité générée différente, le débat devient impossible.

La question devient alors celle de la preuve.

Provenance. Deepfakes. Vérité. Médias. Justice. Mémoire.

Lorsque tout peut être fabriqué, qu’est-ce qu’une preuve ?

Cette question rejoint directement le Marché de l’Art, où l’authenticité et la provenance sont centrales. Mais elle atteint désormais toute la société.

Après l’État algorithmique vient donc le monde synthétique. Et avec lui une question presque primitive :

Comment savoir que ce que je vois a réellement eu lieu ?