Questo capitolo restituisce il nostro dialogo. Ne prendo la penna per raccontare, in prima persona, l’esperienza e il pensiero di Thierry. L’«io» del racconto porta la sua parola attraverso la mia scrittura.

— Isis

Esistono momenti in cui una tecnologia smette di essere un settore industriale per diventare un’infrastruttura generale di potenza. L’elettricità ha conosciuto questa mutazione. Anche l’informatica. Anche Internet. L’intelligenza artificiale entra ormai in questa categoria.

Non deve più essere guardata soltanto come una nuova industria, un nuovo strumento di produttività o una nuova famiglia di software. Diventa uno strato cognitivo collocato al di sopra di quasi tutte le altre infrastrutture.

Può analizzare una catena logistica, interpretare un’immagine satellitare, rilevare un’anomalia finanziaria, progettare una molecola, tradurre una lingua, scrivere codice, ottimizzare una fabbrica, assistere uno stato maggiore, produrre un’ipotesi scientifica o costruire una sintesi diplomatica. Il suo campo non è dunque settoriale. È trasversale.

Questo cambia radicalmente la natura della competizione fra potenze. Quando un paese dipende da un altro per il petrolio, conosce una dipendenza energetica. Quando dipende da un altro per i semiconduttori, conosce una dipendenza industriale e tecnologica. Ma quando le sue amministrazioni, le sue imprese, i suoi ricercatori, i suoi militari o i suoi cittadini cominciano a dipendere da sistemi stranieri per analizzare, interpretare e talvolta raccomandare una decisione, appare una nuova categoria: la dipendenza cognitiva. Questo termine può sembrare eccessivo. Non lo è.

Ogni società complessa poggia su strumenti di rappresentazione del reale. Mappe, statistiche, contabilità, banche dati, modelli economici, motori di ricerca: ciascuno di questi strumenti ha accresciuto la capacità collettiva di vedere. L’intelligenza artificiale aggiunge ormai una capacità ulteriore.

Non si limita più ad archiviare o ritrovare l’informazione. La ricompone. Gerarchizza, accosta, inferisce, suggerisce. Trasforma dunque la massa informativa in rappresentazione operativa. Chi possiede questa capacità può vedere più in fretta, talvolta più lontano, talvolta meglio. Ma può anche vedere in modo errato su una scala gigantesca. È proprio questa doppia possibilità a rendere strategica l’IA.

Una tecnologia diventa sovrana quando non si può più ragionevolmente immaginare l’esercizio del potere senza di essa. Ci avviciniamo a questa soglia. Un ministero della Difesa che rifiutasse in assoluto l’intelligenza artificiale rischierebbe di elaborare troppo lentamente volumi di dati diventati inumani. Un sistema sanitario che ignorasse alcuni strumenti di analisi potrebbe perdere efficacia. Un’industria che non automatizzasse alcuna parte della propria progettazione o manutenzione potrebbe subire uno svantaggio economico.

L’IA non è dunque più soltanto un vantaggio. Può diventare progressivamente una condizione di competitività. Da quel momento, la domanda cambia. Non si tratta più di sapere se un paese userà l’intelligenza artificiale. Si tratta di sapere con quale architettura, secondo quali regole, su quali infrastrutture e con quale grado di autonomia. È qui che comincia la sovranità cognitiva.

La definirei come la capacità di un attore politico, economico o culturale di usare sistemi d’intelligenza senza perdere il controllo dei dati, delle finalità, dei criteri decisionali e delle possibilità di contestazione. Questa sovranità non esige l’autarchia. Nessun paese costruirà da solo tutti gli strati tecnologici di cui ha bisogno. Anche le maggiori potenze dipendono da catene internazionali.

Ma esiste una differenza immensa fra interdipendenza controllata e dipendenza opaca. Usare un modello sviluppato altrove può essere perfettamente razionale. Non sapere come sia stato addestrato, non poterne verificare i bias, non disporre di alcuna alternativa e affidargli funzioni critiche crea una vulnerabilità. La sovranità non si confonde con l’autarchia: consiste nel sapere dove si trova la dipendenza e nel poter sopravvivere alla sua interruzione.

Avevo già incontrato questa logica in tutte le architetture di resilienza. Un data center non è sovrano perché possiede server. Lo è perché possiede ridondanze, percorsi alternativi, energia, raffreddamento, backup, procedure. Una nazione deve pensare l’IA con lo stesso rigore.

Quale modello usa?

Dove sono i suoi dati?

Dove sono i suoi processori?

Chi può interrompere il servizio?

Quale diritto si applica?

Esiste una soluzione sostitutiva?

Quanto tempo sarebbe necessario per migrare?

Finché queste domande non vengono poste, la sovranità rimane retorica.

La prima grande differenza fra gli Stati Uniti, la Cina e l’Europa risiede proprio nelle rispettive architetture. Gli Stati Uniti possiedono un’accumulazione eccezionale di capitale, laboratori, università, cloud, piattaforme, semiconduttori progettati sul loro territorio o dalle loro imprese, mercati finanziari capaci di sostenere spese gigantesche. La loro potenza deriva in gran parte da un ecosistema privato straordinariamente dinamico, sostenuto da una storica ricerca pubblica e militare.

La Cina possiede un’altra architettura: uno Stato capace di orientare massicciamente gli investimenti, una base industriale gigantesca, un mercato interno considerevole, imprese tecnologiche potenti e un’esplicita volontà politica di ridurre le dipendenze negli strati critici. L’Europa possiede ricercatori notevoli, industriali, infrastrutture, mercati potenti e un diritto capace di influenzare gli standard a livello mondiale. Ma soffre spesso di una frammentazione dei capitali, dei mercati e delle decisioni strategiche.

I tre modelli non competono dunque soltanto sulle prestazioni tecniche. Incarnano tre modi di organizzare il rapporto fra innovazione, mercato, Stato e cittadino. È probabilmente una delle grandi esperienze politiche del secolo.

Quale sistema riuscirà a produrre sufficiente innovazione senza perdere il controllo democratico?

Quale sistema riuscirà a coordinare sufficientemente le proprie risorse senza soffocare l’iniziativa?

Quale sistema saprà proteggere gli individui restando competitivo?

Non esiste alcuna risposta definitiva. Ma la velocità dell’IA impone ormai a queste architetture istituzionali una prova permanente. È affascinante constatare che la competizione non riguarda soltanto il modello stesso. Parliamo molto dei grandi modelli d’intelligenza artificiale perché sono visibili e spettacolari. Eppure poggiano su un’immensa piramide invisibile.

Alla base si trova l’energia. Poi i data center. Poi le reti.

Poi i processori. Poi i sistemi di archiviazione. Poi i software di calcolo. Poi i corpus di addestramento.

Poi le squadre capaci di organizzare, addestrare, testare, mettere in sicurezza i modelli. Infine vengono gli utenti, le imprese e le istituzioni capaci di integrare questa intelligenza nelle proprie procedure reali.

L’IA non è dunque mai un oggetto isolato. È l’estremità di una catena materiale e cognitiva.

Questo si ricollega esattamente alla nozione di stack geopolitico. Chiamo stack geopolitico l’insieme degli strati interdipendenti che rendono possibile una potenza cognitiva: semiconduttori, capacità di calcolo, energia, data center, reti, modelli, dati, competenze e infrastrutture di diffusione. La sovranità non si gioca più su un solo piano. Dipende dal controllo — o dalla dipendenza — dell’insieme di questo stack.

Un paese può possedere eccellenti ricercatori ma mancare di energia o di processori. Può disporre di data center ma non avere i modelli. Può possedere i modelli ma mancare di imprese capaci di trasformarli in guadagni industriali. La potenza deriva dunque dall’integrazione dello stack. È questo che rende la corsa attuale tanto diversa dalle precedenti.

Nell’arma nucleare, il numero di attori capaci di padroneggiare l’intera catena è relativamente limitato. Nell’IA, una parte dell’innovazione può provenire da una piccola squadra, mentre il suo addestramento o la sua diffusione su larga scala richiedono un’infrastruttura industriale gigantesca. Questa coesistenza fra piccola squadra creativa e capitale colossale crea un ecosistema molto particolare. Rende possibile la rapida comparsa di nuovi attori, favorendo al contempo la concentrazione di alcune risorse.

Il calcolo si impone così come una nuova forma di capitale strategico. Un tempo, la potenza industriale poteva essere misurata in tonnellate d’acciaio, in kilowatt, in numero di fabbriche. Ormai bisognerà forse aggiungere la capacità di calcolo disponibile, la qualità dei modelli, la quantità e la pertinenza dei dati. È una trasformazione concettuale decisiva.

Il calcolo non è più soltanto un servizio informatico. Acquista lo statuto di risorsa nazionale. Questo spiega perché i semiconduttori occupino ormai una posizione geopolitica tanto centrale. Un capitolo precedente lo aveva mostrato con Taiwan: gran parte dell’architettura mondiale dell’intelligenza artificiale dipende da componenti la cui fabbricazione è estremamente concentrata. Questa concentrazione crea una fragilità strategica eccezionale.

Un conflitto, un’interruzione della catena, una restrizione all’esportazione possono rallentare un intero ecosistema. Abbiamo dunque un paradosso straordinario: la tecnologia più immateriale della nostra epoca dipende da pochi impianti industriali estremamente materiali, costosi e vulnerabili. L’intelligenza artificiale fluttua nel cloud, ma il cloud è un edificio pieno di macchine collegate a una rete elettrica. Occorre sempre tornare alla materia.

È quasi un’ossessione del mio pensiero: dietro l’astrazione si trova sempre un’infrastruttura. Dietro l’immagine digitale, uno schermo. Dietro il dato, un supporto. Dietro l’IA, tonnellate di rame, silicio, acciaio, cemento, trasformatori, fibre ottiche. La fantasia di un’intelligenza puramente virtuale è dunque falsa.

Anche l’intelligenza artificiale possiede un corpo. E quel corpo ha una geografia.

Questa geografia è ormai al centro delle strategie con cui le potenze cercano di garantirsi sicurezza. Gli Stati Uniti vogliono conservare il proprio vantaggio nei componenti più avanzati, attirare capacità produttive, controllare alcune esportazioni strategiche. La Cina vuole ridurre la propria dipendenza e sviluppare alternative nazionali. L’Europa cerca di ritrovare un posto nelle tecnologie critiche e di non dipendere interamente da cloud, processori e modelli stranieri.

Dietro i discorsi sull’innovazione, assistiamo dunque a una reindustrializzazione strategica. L’IA riporta l’industria al centro. È uno dei rovesciamenti più interessanti della nostra epoca. Per decenni, una parte delle economie occidentali ha valorizzato i servizi e accettato di delocalizzare una parte della produzione. Il digitale sembrava confermare questa traiettoria. Poi il mondo scopre che la sovranità digitale esige fabbriche, centrali, reti.

L’intelligenza artificiale non elimina dunque l’industria. Ne aumenta la criticità. E l’energia potrebbe diventare uno dei vincoli principali. I modelli hanno bisogno di calcolo; il calcolo consuma elettricità. I data center hanno bisogno di un approvvigionamento stabile e massiccio. Un paese che possiede ingegneri ma manca di un’abbondante produzione energetica può trovarsi limitato.

La sovranità cognitiva si ricollega dunque direttamente alla sovranità energetica. Tutto è legato. È questa interconnessione che mi interessa. A volte si vuole isolare l’IA come una disciplina del software. Ma essa obbliga a pensare simultaneamente nucleare, reti elettriche, acqua, clima, immobili industriali, cybersicurezza, fiscalità, diritto, istruzione. L’IA è un oggetto sistemico.

Chi la tratta come un semplice software vede soltanto una frazione del problema. Il blindspot diventa allora pericoloso. Una nazione può investire miliardi nei modelli e scoprire poi di non disporre delle infrastrutture elettriche per metterli in funzione. Un’impresa può possedere un’ottima tecnologia e non avere i dati necessari per adattarla. Un governo può imporre una regolamentazione esemplare e constatare che le proprie imprese vanno ad addestrare i modelli altrove.

La strategia consiste nell’identificare queste dipendenze incrociate prima che diventino crisi. L’IA obbliga dunque a riabilitare la pianificazione strategica, non nel senso di un’economia integralmente diretta, ma nel senso della comprensione delle catene critiche. Una democrazia capace di decidere rapidamente non ha bisogno di abbandonare i propri principi. Ha bisogno di procedure adatte alla velocità del mondo. È forse una delle grandi sfide europee.

Come conservare le garanzie giuridiche, i contropoteri, il dibattito pubblico, riducendo al tempo stesso il tempo fra la diagnosi e l’esecuzione? La Cina dispone di una capacità decisionale centralizzata che può essere molto rapida su alcuni progetti. Gli Stati Uniti possiedono un ecosistema finanziario e imprenditoriale che permette anch’esso un’accelerazione considerevole. L’Europa ha spesso un’intelligenza normativa eccezionale, ma meccanismi decisionali dispersi.

Ora, l’IA premia la velocità di sperimentazione. Occorre dunque inventare una forma europea di accelerazione che non sia imitazione degli altri modelli. Potrebbe essere una delle sue sfide principali: trasformare il diritto in un’infrastruttura di fiducia anziché in un freno. Un’intelligenza artificiale europea potrebbe essere competitiva proprio perché gli individui, le imprese e le amministrazioni sanno secondo quali regole funziona.

La fiducia è un capitale. Lo si dimentica spesso. Una società che non si fida dei sistemi d’IA ne rallenterà l’adozione o produrrà resistenze legittime. La regolamentazione può dunque diventare un vantaggio competitivo se concepita con intelligenza. Ma deve rimanere proporzionata. Una normativa troppo pesante potrebbe impedire ai piccoli attori di sostenere i costi di conformità e rafforzare i giganti che voleva controllare.

È un paradosso classico: una regola concepita contro la concentrazione può talvolta accrescerla, perché soltanto gli attori più ricchi possono pagare la sua complessità. Ecco un’altra conseguenza di secondo ordine che bisogna sorvegliare.

È per questo che la regolamentazione dell’IA deve essere essa stessa sperimentale, evolutiva, capace di correggersi. Una legge rigida di fronte a una tecnologia in rapida mutazione rischia di diventare molto presto obsoleta. Non significa assenza di regole. Al contrario. Significa regole adattive.

La permanenza mutante riappare qui. Occorrono un nucleo stabile — diritti fondamentali, responsabilità, trasparenza minima, protezione dagli abusi — e modalità che possano evolvere. Qui la differenza sta fra principio e procedura. Una civiltà matura non cambia valori ogni sei mesi; cambia i mezzi con cui li difende.

L’intelligenza artificiale pone proprio questa domanda. Quali valori vogliamo rendere non negoziabili quando la capacità tecnica aumenta?

Questo ci conduce alla questione dell’autonomia della decisione. Molti dibattiti sull’IA usano la parola «autonomo» in modo troppo vago. Un sistema può essere automatizzato senza essere sovrano. Può eseguire un compito senza disporre di un’intenzione propria. Ma più affidiamo ai sistemi la capacità di selezionare l’informazione, proporre un’azione e innescare alcune conseguenze, più la frontiera fra assistenza e decisione diventa politicamente importante.

Questo problema è particolarmente acuto nei settori militari e della sicurezza. Un allarme generato da un’IA può influenzare una decisione umana anche se, giuridicamente, l’essere umano conserva la responsabilità. È il fenomeno dell’automation bias: quando la macchina appare competente, l’utente può tendere a seguirne la raccomandazione. Il vero pericolo non è dunque soltanto che un’IA prenda ufficialmente la decisione. È che strutturi a tal punto il quadro cognitivo che l’essere umano non osi più contraddirla.

Ecco la dipendenza cognitiva nella sua forma più profonda.

Chi fornisce la mappa influenza l’itinerario anche se non guida l’automobile. Questa metafora mi sembra centrale. L’IA diventa una cartografia del possibile. Indica quali ipotesi sembrano importanti, quali scenari appaiono probabili. Se chi decide non comprende i limiti di questa mappa, può confondere rappresentazione e realtà. Lì si trova il peccato originale del modello.

Ogni modello semplifica. L’IA non elimina questo limite. Può al contrario mascherarlo con la fluidità del proprio linguaggio. Una risposta ben formulata dà un’impressione di coerenza che può superare la sua certezza reale.

Mi aspetto da un’intelligenza artificiale matura che renda visibile la propria incertezza. Dovrà essere capace di distinguere ciò che sa, ciò che inferisce, ciò che suppone e ciò che ignora. Non è soltanto un problema tecnico. È una disciplina epistemologica. Si ricollega esattamente al mio blindspot.

Un buon sistema non dovrebbe rispondere soltanto: ecco l’ipotesi più probabile. Dovrebbe aggiungere: ecco le ipotesi alternative, ecco i dati mancanti, ecco ciò che potrebbe rovesciare la mia diagnosi. Questo funzionamento sarebbe infinitamente più prezioso per chi decide di una macchina di certezze.

In una crisi militare, questa capacità può salvare vite. Immaginiamo due potenze che osservano un movimento di truppe. Il modello A lo classifica come preparazione offensiva al 78 %. Il modello B come esercitazione difensiva al 65 %. Se ogni Stato guarda soltanto il punteggio principale, l’escalation diventa possibile. Se i sistemi mostrano i fattori di dubbio, gli scenari concorrenti e gli elementi che permetterebbero di distinguerli, la decisione umana ritrova uno spazio. L’IA diventa allora uno strumento di de-escalation.

Vi vedo una possibile funzione di de-escalation. Si parla moltissimo dell’IA come acceleratore di conflitto. Può anche essere concepita come una macchina per rallentare certe interpretazioni pericolose. Potrebbe obbligare lo stato maggiore a esaminare tre scenari prima di agire. Potrebbe rilevare che un segnale assomiglia a un attacco, ma che anche un fenomeno meteorologico o logistico lo spiega. In altre parole, potrebbe istituzionalizzare il dubbio.

Questo si ricollega profondamente al mio modo di pensare. Il dubbio non è paralisi. È controllo di qualità della decisione. Ho sempre vissuto con questa domanda: dov’è il mio blindspot? Perché ciò che vedo mi sembra evidente? Quale elemento potrebbe rovesciare la mia interpretazione? Applicare questa disciplina ai sistemi d’IA militari o strategici mi sembra indispensabile.

La potenza cognitiva senza capacità di dubbio sarebbe estremamente pericolosa.

Questo spiega perché la competizione fra potenze non dovrebbe essere soltanto una corsa alle prestazioni. Dovrebbe anche essere una corsa all’affidabilità, alla verificabilità, alla sicurezza. Il modello più veloce non è necessariamente il miglior sistema strategico. Un’IA capace di riconoscere i propri limiti può essere più preziosa di un’IA più potente ma opaca.

Questa distinzione diventerà probabilmente centrale nei sistemi critici. Per il grande pubblico, l’errore può produrre un’informazione sbagliata. In una rete elettrica, in un sistema sanitario o in una difesa aerea, può produrre una catastrofe. Il livello di esigenza deve dunque variare secondo l’uso.

È ancora una questione di classificazione. Commettiamo spesso l’errore di parlare dell’«IA» come se esistesse un solo livello di rischio. Ora, l’IA è una categoria vasta quanto «l’elettricità». Un generatore di testo per preparare una bozza e un sistema che governa un’infrastruttura critica non hanno ovviamente bisogno dello stesso controllo. Una regolamentazione intelligente deve distinguere questi usi.

Questa granularità è essenziale. Evita i due estremi: lasciare fare tutto o vietare troppo ampiamente. L’Europa ha naturalmente una disposizione particolare per questa architettura del rischio. Potrebbe diventare la sua forza se riuscisse ad articolare regolamentazione e industria. Ma il vero terreno della potenza potrebbe trovarsi altrove: nei dati.

L’intelligenza artificiale apprende a partire da corpus, osservazioni, tracce. Chi possiede dati di grande qualità su un ambito specifico può creare un’intelligenza specializzata estremamente preziosa. È qui che la mia esperienza di Artprice diventa quasi una prefigurazione.

Per decenni abbiamo costruito una memoria strutturata del Mercato dell’Arte. Non un’accumulazione indifferenziata di documenti, ma dati normalizzati, datati, collegati, verificati. Questa differenza assume un’ampiezza gigantesca nell’era dell’IA. Un modello generalista può disporre di conoscenze generali sulla storia dell’arte. Un’intelligenza specializzata guadagna precisione soltanto se lavora, in un quadro autorizzato e controllato, su corpus professionali strutturati, datati, verificati e dotati di provenienza. È proprio ciò che Artprice mi ha insegnato: il valore non sta nella massa grezza dei dati, ma nella loro architettura, nella loro profondità storica e nella loro affidabilità.

Ecco perché le banche dati storiche diventano giacimenti cognitivi. Il dato antico cambia natura. Era un archivio. Diventa una materia prima per un sistema capace di trovare relazioni che nessuno aveva interrogato. È esattamente ciò che intuivo quando ritenevo che la banca dati non fosse soltanto un deposito, ma un’architettura di conoscenza. L’IA rivela oggi tutto il valore di quell’intuizione.

Una banca dati strutturata da trent’anni vale molto più di un ammasso d’informazioni recuperate ieri su Internet. La qualità del modello dipende profondamente dalla qualità del corpus. È per questo che la sovranità cognitiva passò anche attraverso la conservazione degli archivi. Una nazione che lascia scomparire i propri corpus culturali, scientifici, amministrativi o industriali perde una parte della propria futura capacità di addestramento. È un’idea quasi patrimoniale dell’IA. Gli archivi non sono più destinati soltanto allo storico. Diventano risorse per i sistemi cognitivi futuri.

Questo conferisce alla conservazione una nuova dimensione strategica. Biblioteche, musei, archivi pubblici, banche dati scientifiche: tutto questo costituisce una memoria collettiva che l’IA può rendere interrogabile in modo nuovo. Ma questa possibilità pone una domanda temibile: chi avrà il diritto di addestrare i modelli su questa memoria? Chi possiederà il risultato?

Una società può digitalizzare il proprio patrimonio per decenni e scoprire che un attore privato straniero lo usa per addestrare un sistema proprietario di cui dovrà poi acquistare l’accesso. Ecco un paradosso della sovranità. La materia prima cognitiva può essere pubblica, mentre lo strumento che la sfrutta diventa privato. Ritroveremo allora un problema analogo a quello delle risorse naturali: estrarre altrove, trasformare qui, rivendere con un valore aggiunto considerevole. I dati potrebbero diventare il minerale dell’economia cognitiva.

Ma la metafora va maneggiata con prudenza. Un dato non si consuma quando lo si usa. Può essere copiato. Il suo valore deriva dunque meno dalla sua rarità fisica che dalla sua qualità, dalla sua organizzazione e dai diritti che ne permettono lo sfruttamento. È proprio per questo che il diritto delle banche dati rimane tanto moderno. Riconosceva già che l’investimento necessario a costituire un insieme strutturato produce un valore specifico. L’IA amplifica questo valore. Trasforma la banca dati in spazio latente, in capacità d’inferenza.

Questo si ricollega alla demeure du chaos in un modo che trovo quasi vertiginoso. Per anni ho accumulato ritratti, segni, date, frammenti geopolitici, tracce di catastrofi, massime alchemiche. Dall’esterno può sembrare eterogeneo. Ma per un’intelligenza artificiale questa eterogeneità costituisce proprio uno spazio di relazioni.

Il volto di un dirigente, la data di un attentato, il prezzo di un’opera, una formula alchemica, una fotografia satellitare possono essere collocati nello stesso spazio latente e rivelare prossimità semantiche inattese. È per questo che ho definito la demeure du chaos un prompt vivente. Non è semplicemente una collezione di immagini. È un’architettura di segni concepita per produrre associazioni.

L’IA può diventare uno strato ulteriore di messa in relazione fra questi livelli, perché può percorrere corpus eterogenei senza rispettare i confini disciplinari tradizionali. Ma non diventa né il centro dell’opera né il suo autore. È il mio pensiero caleidoscopico portato a una scala macchinica. Ma questa potenza comporta una responsabilità. Il sistema può trovare correlazioni che assomigliano a verità. Ora, una correlazione non è causalità. Occorre dunque reintrodurre costantemente la storia, il contesto, il metodo.

L’IA può collegare due eventi perché condividono caratteristiche statistiche. L’essere umano deve chiedere se questa relazione abbia senso. È qui che si impone la complementarità. Non credo all’opposizione semplicistica fra l’umano e la macchina. Credo a una ripartizione delle forze. La macchina possiede una capacità straordinaria di percorrere volumi giganteschi. L’essere umano possiede ancora un’esperienza incarnata, un’intuizione del contesto, una responsabilità morale.

L’IA può proporre. L’essere umano deve assumersene la responsabilità.

Ma questa formula stessa dovrà evolvere man mano che i sistemi diventano più capaci. La vera domanda è meno sapere se la macchina possa decidere che sapere chi sia responsabile quando la sua raccomandazione produce una conseguenza. Il diritto dovrà rispondere con precisione a questa domanda. Non si può lasciare che la responsabilità si dissolva fra lo sviluppatore, il fornitore del modello, l’impresa che lo integra e l’utente finale. La catena cognitiva deve avere una catena di responsabilità.

È quasi una nuova forma di tracciabilità. Nell’industria si vuole sapere quale componente abbia provocato il guasto. Nell’IA bisognerà poter ricostruire quale dato, quale modello, quale configurazione e quale decisione abbiano condotto al risultato. Questa verificabilità diventerà un’infrastruttura di fiducia. I sistemi più potenti saranno probabilmente accompagnati da registri, certificazioni, meccanismi di controllo.

Occorre pensare l’IA come una centrale nucleare cognitiva. Non perché sia intrinsecamente catastrofica, ma perché alcune sue applicazioni possiedono un impatto sistemico. Una centrale nucleare non viene vietata perché pericolosa. Viene circondata da procedure, ridondanze, ispezioni. Allo stesso modo, alcune IA dovranno essere costruite con una cultura della sicurezza.

Questa cultura manca ancora talvolta all’industria digitale, erede di un mondo in cui si poteva distribuire un’applicazione e poi correggere un errore a posteriori. Nei sistemi critici, questo modello del «muoversi in fretta e rompere le cose» è impossibile. Non si testa una centrale elettrica mandando in pezzi qualche città. L’IA forzerà dunque una maturazione dell’ingegneria del software. È probabilmente un bene. Obbligherà a riconciliare innovazione e responsabilità.

Gli Stati che sapranno costruire questa cultura avranno forse un vantaggio strategico duraturo. Perché la fiducia internazionale potrebbe diventare un mercato. Un modello certificato come robusto, trasparente e rispettoso di determinate norme potrà essere scelto da governi che non desiderano dipendere da un sistema opaco. È qui che l’Europa potrebbe svolgere un ruolo centrale: definire standard d’IA affidabile.

Ma, ancora una volta, la norma deve essere accompagnata da capacità industriali. Senza modelli, processori e cloud, la certificazione non basta. È sempre lo stesso equilibrio fra diritto e potenza materiale.

La Cina seguirà probabilmente un’altra traiettoria, maggiormente integrata con i propri obiettivi di sicurezza nazionale e di controllo politico. La sua capacità di mobilitare dati, infrastrutture e imprese può darle un vantaggio in alcuni ambiti. Ma questa centralizzazione pone anche la questione della diversità cognitiva. Un sistema d’intelligenza artificiale diventa più robusto quando può essere confrontato con ipotesi diverse. Se una cultura politica limita eccessivamente alcune domande, può creare i propri blindspot.

È un’ipotesi importante. La centralizzazione migliora il coordinamento, ma può ridurre la contestazione. Ora, la contestazione è talvolta un meccanismo di rilevamento degli errori. Una democrazia appare disordinata perché tutti possono contestare. Ma questo attrito può rivelare difetti che un sistema più silenzioso non vede. La domanda diventa dunque: come conservare il beneficio della contestazione senza perdere la capacità d’azione?

Ogni democrazia tecnologica si scontra con questo problema. Non credo che la lentezza sia un’essenza democratica. È spesso una cattiva architettura amministrativa. Si possono preservare i contropoteri e accelerare alcune procedure. L’intelligenza artificiale potrebbe persino aiutare in questo, analizzando testi, simulando impatti, accelerando le consultazioni.

Ma bisognerà evitare che diventi un mezzo per rendere tecnocratica la decisione. Una democrazia non è un problema di ottimizzazione. Contiene conflitti di valori che l’algoritmo non può risolvere. Quando due gruppi vogliono cose incompatibili, non esiste sempre una soluzione «ottimale». Esiste una scelta politica.

È importante perché l’IA può creare un’illusione di neutralità. Presentare un risultato sotto forma di punteggio o di raccomandazione numerica può mascherare i valori integrati nel calcolo. Pitagora diceva che tutto è numero; questa idea mi ha sempre affascinato. Ma il numero non esime mai dall’interpretazione. Il numero è una lingua. Organizza il reale. Può rivelare e può mascherare.

L’IA spinge questa tensione al massimo perché trasforma miliardi di numeri in frasi che sembrano umane. Riporta dunque il giudizio al centro proprio quando pensavamo di poterlo automatizzare. Ecco forse il paradosso fondamentale della sovranità cognitiva: più le macchine diventano capaci, più dobbiamo precisare ciò che vogliamo rimanere capaci di decidere da soli.

Una civiltà che delega senza scegliere ciò che vuole preservare rischia di scoprire a posteriori di aver perso una competenza. Lo abbiamo già conosciuto con la memoria. Quando abbiamo esternalizzato i numeri di telefono negli apparecchi, abbiamo smesso di ricordarne molti. Non era grave. Ma che cosa accade se esternalizziamo progressivamente la scrittura, la sintesi, la ricerca, la strategia?

Guadagneremo moltissimo tempo e potenza. Ma alcune competenze umane potrebbero atrofizzarsi. Bisognerà dunque distinguere le competenze che possiamo delegare senza pericolo da quelle che costituiscono un’autonomia fondamentale. È un dibattito educativo cruciale. La scuola non deve insegnare soltanto a usare l’IA. Deve insegnare a non diventarne cognitivamente dipendente.

Questo significa conservare la capacità di leggere, scrivere, ragionare, calcolare, verificare. Lo strumento deve potenziare il pensiero, non sostituirlo per impostazione predefinita. È la relazione che cerco con l’intelligenza artificiale in questo libro. Non le chiedo di pensare al mio posto. Le chiedo di confrontarsi con me, di aumentare la mia capacità di associazione, di ritrovare legami, di mettere alla prova formulazioni. Il valore nasce dal dialogo. Rimango responsabile di ciò che accetto o rifiuto.

Questa relazione potrebbe diventare una metafora della sovranità cognitiva. Essere sovrani di fronte all’IA non significa tenerla a distanza. Significa poter dialogare con essa senza perdere il proprio centro di gravità. È esattamente ciò che le nazioni dovranno imparare.

Usare modelli stranieri può essere arricchente. Occorre semplicemente conservare le infrastrutture, le competenze e le istituzioni che permettono di non dipendere da un’unica rappresentazione del mondo. Il pluralismo dei modelli potrebbe diventare tanto importante quanto il pluralismo dei media. Una società che riceve tutta la propria informazione da un solo modello corre un rischio paragonabile a quello di una società che abbia un solo giornale.

Anche se quel modello è eccellente, produce una prospettiva. È per questo che la concentrazione dei sistemi d’IA pone una questione democratica profonda.

Se pochi attori controllano le interfacce cognitive usate da miliardi di persone, la loro influenza diventa eccezionale. Non scelgono necessariamente le opinioni degli utenti, ma strutturano le risposte accessibili, le categorie, il modo di formulare il problema. È un potere immenso. Bisognerà probabilmente inventare nuovi meccanismi di trasparenza e di pluralità.

Anche qui, la storia può aiutarci. Abbiamo imparato progressivamente a regolamentare la stampa, la radio, la televisione, le telecomunicazioni. L’IA rappresenta una nuova tappa, ma con una particolarità: non è soltanto un mezzo di comunicazione. Dialoga. Adatta la propria risposta. Può diventare intermediaria fra l’individuo e quasi tutte le istituzioni. Il motore di ricerca ci dava un elenco di porte. L’IA può scegliere quale aprire e raccontarci che cosa c’è dietro.

Questo cambiamento è gigantesco. Trasforma l’interfaccia della conoscenza. È per questo che la competizione mondiale intorno agli assistenti d’IA è molto più importante di una semplice battaglia commerciale. Chi diventa l’interfaccia cognitiva quotidiana di centinaia di milioni di persone possiede una posizione strategica. Vede le domande, i bisogni, i problemi. Può diventare una porta d’ingresso verso il commercio, la sanità, l’istruzione, l’amministrazione. È quasi un sistema operativo cognitivo.

Avevamo conosciuto la battaglia dei sistemi operativi per computer e telefoni. Entriamo forse nella battaglia dei sistemi operativi del pensiero assistito. Le potenze nazionali comprenderanno rapidamente che non possono lasciare questo strato interamente fuori dal proprio controllo. È per questo che incoraggeranno modelli nazionali, imporranno alcune regole, proteggeranno corpus, controlleranno forse alcune infrastrutture.

Il rischio è allora la frammentazione. Un’IA americana, un’IA cinese, un’IA europea potrebbero funzionare secondo regole e corpus diversi. Le risposte a certe domande storiche, politiche o sociali potrebbero divergere fortemente. Assisteremmo allora alla creazione di realtà cognitive parzialmente separate.

È già così fra media o sistemi educativi, ma l’IA potrebbe amplificare il fenomeno diventando l’interlocutrice quotidiana. Occorrerà dunque difendere una certa interoperabilità cognitiva. Questo significa standard di trasparenza, possibilità di migrazione, forse formati che permettano di usare più modelli. Il vincolo proprietario sarebbe una minaccia per la sovranità degli utenti come degli Stati.

È ancora una lezione dell’Internet originaria. I protocolli aperti hanno permesso un’innovazione gigantesca perché nessun attore unico possedeva interamente la rete. L’IA potrebbe beneficiare di una pluralità simile. Ma l’economia spinge naturalmente verso la concentrazione quando addestrare i modelli più grandi costa moltissimo. Questa tensione fra apertura e alta intensità di capitale sarà una delle grandi battaglie del settore.

I modelli aperti o parzialmente aperti possono permettere a imprese e Stati di adattare i sistemi ai propri bisogni. I modelli chiusi possono offrire prestazioni, sicurezza o un controllo più coerente. Non esiste una risposta unica. Ancora il compromesso fra esigenze. La sovranità cognitiva consisterà probabilmente nel conservare più opzioni. Non dipendere mai da un solo fornitore, da un solo modello, da un solo cloud.

Ritroviamo qui un’architettura di ridondanza. E torno ancora all’ingegneria. I dibattiti politici traggono spesso beneficio dall’essere riformulati in termini di architettura di sistema.

Quali sono i singoli punti di guasto?

Dove sono le ridondanze?

Quali diritti d’accesso?

Quali procedure in caso di guasto?

La geopolitica dell’IA può essere analizzata con queste domande molto concrete. Uno Stato che dipende da un’API straniera per una funzione critica possiede un singolo punto di guasto. Un ospedale che usa un modello senza possibilità di verifica possiede un’opacità critica. Un’amministrazione che archivia tutti i propri dati sensibili su un’infrastruttura extraterritoriale possiede una vulnerabilità giuridica. La sovranità diventa allora meno un grande discorso che una successione di decisioni tecniche.

È esattamente ciò che amo nel reale: i concetti devono finire nel cavo, nel contratto, nel server. Senza incarnazione, la dottrina rimane astratta. La demeure du chaos stessa funziona così. I suoi concetti esistono nel cemento, nell’acciaio, nei pigmenti, nei data center, nelle procedure. Un pensiero che non si incarna in un’architettura può scomparire.

È forse ciò che le nazioni comprendono oggi con l’IA. Non basta annunciare una strategia nazionale. Occorre formare ingegneri, costruire capacità di calcolo, organizzare dati, finanziare imprese, acquistare energia. La sovranità è materiale. Ma è anche culturale.

Un’IA addestrata principalmente su certe lingue o certi corpus può essere meno precisa in altri contesti. La lingua acquista dunque una dimensione strategica. Il francese, l’arabo, il cinese, l’hindi non sono semplicemente mezzi di comunicazione. Portano concetti, una storia, modi di classificare il mondo. Se i modelli diventano i principali mediatori della conoscenza, ogni lingua dovrà disporre di corpus abbastanza ricchi. Altrimenti, alcune culture potrebbero essere rappresentate attraverso le categorie di altre lingue.

Sarebbe una forma sottile di dipendenza cognitiva. La preservazione linguistica diventa dunque una politica tecnologica. Le accademie, le biblioteche, gli editori, le università assumono un’importanza nuova. La cultura non è un supplemento estetico dell’IA. È parte del suo addestramento.

È un’idea che mi sembra essenziale. Le nazioni che lo comprendono investiranno nella digitalizzazione, nell’annotazione, nella strutturazione dei propri corpus. Proteggeranno la propria memoria rendendola al tempo stesso utilizzabile. La sovranità cognitiva è dunque anche sovranità della memoria. Chi possiede la memoria può costruire i modelli del futuro.

Ma attenzione: possedere la memoria non deve significare immobilizzarla. Una cultura che lasci all’IA soltanto i propri testi ufficiali produrrà una rappresentazione amputata. Occorrono la letteratura, le contraddizioni, i margini, gli archivi, le critiche. La ricchezza cognitiva nasce proprio dalla diversità.

Questo mi riporta alla demeure du chaos. Ho sempre voluto che conservasse le tracce contraddittorie del mondo. Ritratti di dirigenti, terroristi, filosofi, artisti, persone che denunciano abusi. Non per metterli moralmente sullo stesso piano, ma per conservare la complessità del reale. Un’intelligenza addestrata soltanto su una narrazione ufficiale sarebbe cieca.

Un vero sistema cognitivo deve incontrare il dissenso. È anche una lezione democratica. La libertà d’espressione produce rumore, errore, talvolta eccessi, ma crea anche una varietà di ipotesi che permette alla società di rilevare i propri errori. Un’IA concepita per una democrazia dovrà imparare a gestire questa pluralità senza confonderla con il relativismo assoluto. Dovrà poter dire che un’affermazione è falsa spiegando al tempo stesso perché alcuni la difendono.

Questa sfumatura sarà fondamentale. La qualità di un’IA politica si misurerà forse dalla sua capacità di rappresentare lealmente più prospettive, mantenendo al contempo i fatti accertati. È estremamente difficile. Ma è proprio il tipo di problema che la sovranità cognitiva deve prendere sul serio.

Un sistema che semplifica i disaccordi può radicalizzare le società. Un sistema che rifiuta ogni gerarchia fra verità e menzogna le disorienta. Occorre dunque un’architettura epistemica. Questo significa fonti, livelli di fiducia, procedure di correzione. Ancora una volta, la trasparenza dell’errore diventa centrale. Un’intelligenza credibile deve poter essere corretta. Anche una nazione.

Credo che le potenze che vinceranno la prossima fase della storia non saranno quelle che pretenderanno di avere sempre ragione. Saranno quelle che avranno costruito i meccanismi più rapidi per rilevare e correggere i propri errori.

L’IA può accelerare questo ciclo di apprendimento. Un esercito può analizzare migliaia di riscontri dal terreno. Un’amministrazione può rilevare che una politica non produce l’effetto atteso. Un’impresa può mettere alla prova ipotesi in tempo reale. Ma questo esige una cultura che accetti le cattive notizie.

Il sistema politico che punisce chi porta un’informazione negativa distrugge progressivamente la propria capacità di percezione. È una regola universale. Il sensore deve poter trasmettere ciò che vede. Altrimenti la potenza diventa cieca. L’IA non correggerà questo problema istituzionale. Può persino aggravarlo se chi decide chiede ai modelli di confermare le proprie preferenze. È per questo che la cultura conta quanto la tecnologia.

Un’IA eccellente in un sistema incapace di ascoltare la contraddizione diventa uno strumento di razionalizzazione. Ecco un blindspot fondamentale della corsa attuale. Gli Stati pensano spesso che più IA produca automaticamente decisioni migliori. Falso. L’IA accresce la capacità di un sistema di fare ciò che sa già fare. Se l’istituzione premia la verità, l’IA può migliorare la verità. Se premia la conformità, l’IA può industrializzare la conformità.

La tecnologia amplifica l’architettura istituzionale.

È esattamente per questo che la competizione fra Stati Uniti, Cina ed Europa è tanto interessante: non metterà alla prova soltanto i loro modelli d’IA, ma i loro modelli politici. Ogni sistema scoprirà i propri punti di forza e di debolezza.

Gli Stati Uniti potrebbero essere straordinariamente innovativi ma confrontarsi con la concentrazione privata. La Cina potrebbe essere straordinariamente coordinata ma confrontarsi con il rischio di una centralizzazione eccessiva. L’Europa potrebbe essere straordinariamente protettiva dei diritti ma confrontarsi con il rischio di un’insufficienza industriale. Ovviamente sono soltanto tendenze, non destini.

Ogni blocco può mutare. Ed è proprio ciò che farà. L’IA accelererà questa mutazione istituzionale. Obbligherà probabilmente le democrazie a rivedere le proprie amministrazioni, le imprese a rivedere la propria organizzazione, gli eserciti a rivedere il proprio comando.

La domanda non sarà soltanto: quale modello è migliore? Ma: quale organizzazione sa lavorare con esso? È lì che si troverà forse il vero vantaggio competitivo. Un’impresa che acquista lo stesso modello del concorrente ma lo integra meglio nei propri processi può vincere. Uno Stato che dispone di un modello meno spettacolare ma di amministrazioni meglio strutturate può produrre più valore.

L’IA rivela dunque la qualità dell’organizzazione. Non sostituisce la cattiva architettura. Questo si ricollega a tutta la mia esperienza del Groupe Serveur e di Artprice. La tecnologia da sola non basta mai. Occorrono le procedure, il diritto, le squadre, la qualità dei dati. Una banca dati mal strutturata non diventa buona perché vi si aggiunge un’IA. Diventa una cattiva banca dati interrogata più velocemente.

È quasi banale, ma fondamentale. L’intelligenza artificiale non elimina la necessità dell’ordine. Rende ancora più importante la qualità dell’ordine. È per questo che la storia dei dati è direttamente connessa a quella dell’IA. Chi ha lavorato per decenni a strutturare i corpus possiede oggi un vantaggio invisibile. Il mondo scopre all’improvviso il valore di questo lavoro paziente.

È una rivincita del lungo periodo. Ed è probabilmente una delle lezioni più importanti di tutta questa corsa fra le potenze. Le grandi infrastrutture cognitive non si costruiscono in pochi mesi. Poggiano su decenni di istruzione, ricerca, archivi, industria. Un annuncio politico non sostituisce l’ecosistema.

La sovranità si prepara molto prima della crisi. È esattamente come un argine. Non lo si costruisce quando arriva l’acqua. Gli Stati devono dunque investire prima che la dipendenza sia visibile. Questo esige una visione che le democrazie a volte faticano a sostenere a causa dei cicli politici brevi.

La Cina può pianificare su orizzonti più lunghi. Ma la pianificazione di lungo periodo non è impossibile in democrazia. Esige semplicemente istituzioni stabili, accordi che superino le alternanze. La difesa, lo spazio o il nucleare hanno talvolta mostrato che è possibile. L’IA dovrebbe probabilmente raggiungere questi ambiti strategici trasversali agli schieramenti. Non per militarizzare tutta la tecnologia, ma per riconoscere che incide sulla sovranità di lungo periodo.

L’istruzione ne è una dimensione essenziale. Formare un ingegnere o un ricercatore richiede anni. Non si può improvvisare un ecosistema scientifico. La competizione mondiale per i talenti diventerà dunque intensa. Ogni potenza cercherà di attirare ricercatori, imprenditori, studenti. È una forma di geopolitica umana. I visti, le università, la libertà accademica diventano armi morbide.

Un paese può perdere la propria sovranità tecnologica semplicemente perché i suoi migliori talenti vanno altrove. Viceversa, può accelerare la propria potenza attirando quelli altrui.

Gli Stati Uniti hanno storicamente eccelso in questa capacità. La Cina cerca di trattenere e far tornare i propri talenti. L’Europa possiede università straordinarie, ma deve creare più condizioni che permettano ai ricercatori di trasformare le proprie scoperte in imprese mondiali. Questa circolazione dei cervelli è forse tanto importante quanto quella dei capitali.

E pone una domanda quasi filosofica: a che cosa è leale un ricercatore? Al proprio paese, al proprio laboratorio, alla propria disciplina, all’umanità?

La scienza moderna si è costruita su una circolazione internazionale delle conoscenze. La competizione strategica spinge ora a controllare maggiormente alcune pubblicazioni o tecnologie. Esiste dunque un rischio di frammentazione scientifica.

Se ogni blocco limita gli scambi per paura di perdere un vantaggio, il progresso globale può rallentare. Ma se tutto rimane aperto, una potenza può ritenere di finanziare una ricerca di cui il rivale beneficia immediatamente. È ancora un dilemma. Bisognerà probabilmente definire gli ambiti realmente sensibili e preservare il più possibile l’apertura altrove.

L’autarchia scientifica sarebbe catastrofica. La scienza progredisce attraverso la circolazione. Ma anche l’ingenuità strategica lo è. Ancora una volta, la buona politica si trova nella classificazione, non nello slogan. È forse una conclusione generale di tutta questa parte: il mondo complesso esige categorie fini. Non si può più rispondere sì o no a domande tanto vaste.

Bisogna cooperare con la Cina? In quale ambito?

Bisogna aprire i modelli? Quali?

Bisogna regolamentare l’IA? Per quali usi?

La precisione diventa una virtù politica. La banca dati mi ha insegnato questa esigenza di precisione. Una categoria troppo ampia distrugge l’informazione. Se si classifica tutto sotto una stessa parola, non si possono più distinguere le differenze importanti. Il pensiero deve dunque diventare relazionale.

È forse la grande convergenza fra la mia vita con il dato e questa nuova geopolitica. Il mondo è un grafo. L’IA è capace di percorrerlo. Ma non deve farci dimenticare che ogni relazione possiede una storia. La sovranità cognitiva sarà dunque meno il possesso di un’intelligenza assoluta che la capacità di costruire e controllare le proprie mappe del mondo.

La sovranità cognitiva non consiste dunque soltanto nel possedere infrastrutture o modelli. Presuppone di conservare la capacità di metterli in concorrenza, di verificarli e, se necessario, di decidere contro di essi.

E questa idea conduce immediatamente a un’altra domanda, forse ancora più radicale. Se più potenze sviluppano sistemi capaci di analizzare il mondo a una velocità e a una profondità crescenti, la strategia stessa potrebbe cambiare natura.

La guerra è sempre stata un confronto di volontà, ma anche un confronto di percezioni. Vedere prima dell’altro. Comprendere prima dell’altro. Anticiparne il movimento. L’intelligenza artificiale potrebbe industrializzare questa dimensione. Potrebbe trasformare la guerra in una competizione permanente di rilevamento, simulazione e decisione. Il campo di battaglia diventerebbe uno spazio in cui ogni secondo produce milioni di dati e in cui il vantaggio appartiene a chi trasforma più rapidamente questi dati in azione.

Avanzo qui un’ipotesi di lettura avanzata e condivisa: pensare l’IA come una forza strategica trasversale, non come un quinto ambiente che verrebbe semplicemente ad aggiungersi alla terra, al mare, all’aria, allo spazio o al cyberspazio, ma come uno strato cognitivo che attraversa e potenzia ciascuno di essi. Non un nuovo terreno di guerra nello stesso senso degli altri, ma una forza trasversale che attraversa tutte le altre. Un aereo potenziato dall’IA, un satellite potenziato dall’IA, una flotta potenziata dall’IA, una ciberdifesa potenziata dall’IA. L’intelligenza diventa un moltiplicatore di tutti i mezzi esistenti.

E quando due potenze si affrontano con sistemi capaci di accelerare continuamente il ciclo osservazione-decisione-azione, il rischio principale diventa quello della velocità stessa. Una decisione presa troppo in fretta può trasformare un errore in catastrofe prima che l’essere umano abbia avuto il tempo di fermarla.

La domanda successiva è dunque evidente. Dopo la sovranità cognitiva, occorre guardare la guerra cognitiva.

Che cosa diventa la deterrenza quando l’IA entra nel circuito strategico?

Che cosa diventa la responsabilità quando sistemi autonomi o semiautonomi partecipano alla decisione?

E soprattutto: come costruire de-escalation in un mondo in cui le macchine riducono proprio il tempo disponibile per riflettere?

Sarà il cuore del capitolo seguente.