L’aumento dell’informazione non si accompagna a un aumento equivalente del tempo per interpretarla. È da questa compressione che nasce il problema strategico. Tutta la storia militare moderna potrebbe quasi essere riletta a partire da questa tensione. Il telegrafo aveva accelerato il comando. La radio aveva accorciato ancora di più l’intervallo fra l’osservazione e l’ordine. Il radar aveva dato qualche minuto in più di fronte a una minaccia aerea. I satelliti avevano esteso la profondità dello sguardo. Le reti digitali hanno poi quasi eliminato alcune distanze. L’intelligenza artificiale aggiunge ormai una mutazione diversa:

Non si limita più ad accelerare la trasmissione del segnale.

Ne accelera l’interpretazione. È qui che comincia, ai miei occhi, il vero cambiamento. Quando la macchina può rilevare, classificare, confrontare, stabilire priorità e proporre un’azione prima ancora che un operatore umano abbia esaminato tutti i dati, il problema strategico si sposta verso il tempo stesso della decisione. La guerra cognitiva comincia proprio qui. Non consiste soltanto nel manipolare le menti attraverso la propaganda o la disinformazione, anche se ovviamente queste ne fanno parte. Designa più ampiamente la lotta per controllare la percezione, l’attenzione, l’interpretazione e il ritmo decisionale dell’avversario.

Far vedere qualcosa.

Impedire di vedere qualcos’altro.

Saturare il sistema di informazioni contraddittorie.

La guerra cognitiva agisce anche sul tempo.

Produrre una falsa urgenza.

Ritardare una decisione.

Accelerarne un’altra.

La guerra cognitiva attacca dunque meno direttamente il corpo che il modello del mondo usato dall’avversario per agire. È una forma di guerra particolarmente profonda, perché ogni azione militare comincia da una rappresentazione.

Prima di sparare, occorre aver identificato un bersaglio.

Prima di mobilitare, occorre aver interpretato un’intenzione.

Prima di rispondere, occorre aver deciso che un attacco è reale.

Se la rappresentazione è falsa, tutta la potenza disponibile può essere usata contro un’illusione. Questa idea è antica. Gli strateghi hanno sempre usato l’inganno, il camuffamento, la diversione. Oggi cambia la scala. Un’intelligenza artificiale può produrre, rilevare e analizzare segnali a una velocità che nessuna squadra umana potrebbe sostenere.

Questo trasforma l’inganno in industria. Migliaia di account falsi, milioni di contenuti, immagini sintetiche, voci clonate, documenti credibili possono essere prodotti quasi istantaneamente. Ma sarebbe riduttivo limitare la guerra cognitiva ai deepfake. Il vero problema è molto più vasto:

Come fa un sistema a sapere che cosa deve credere? Questa domanda vale per un’intelligenza artificiale come per una società. La differenza è che l’IA può elaborare una quantità gigantesca di informazioni e dunque assorbire anche una quantità gigantesca di manipolazioni. Diventa simultaneamente uno strumento di rilevamento e una nuova superficie d’attacco.

Si può cercare di ingannare un operatore umano. Ormai si può anche cercare di ingannare il modello che assiste quell’operatore. È qui che appare una nuova profondità del conflitto. L’avversario non cerca più soltanto di nascondere un veicolo. Può cercare di produrre una firma che spinga l’algoritmo a classificarlo in una categoria sbagliata.

Non cerca più soltanto di disturbare un radar. Può tentare di perturbare la catena di dati che alimenta l’intelligenza artificiale. Questa guerra contro la percezione algoritmica mi sembra centrale. Entriamo in un mondo in cui i sistemi dovranno imparare a chiedersi non soltanto:

Che cosa vedo?

Ma anche:

Qualcuno sta cercando di farmi vedere questo?

Il blindspot, il punto cieco, si prolunga qui nel campo strategico. Ogni intelligenza possiede limiti di percezione. Ma quando un avversario li conosce, può cercare di sfruttarli. Un bias smette allora di essere un semplice difetto. Diventa una vulnerabilità strategica. Ecco perché i bias algoritmici devono essere guardati anche dal punto di vista della sicurezza.

Un modello che attribuisce un peso eccessivo ad alcuni segnali, classifica male certe situazioni o generalizza troppo in fretta può essere manipolato da un attore che ne ha compreso la logica. Questo produce una dinamica quasi biologica: l’avversarialità. Nel vivente, il predatore e la preda coevolvono. L’uno sviluppa un camuffamento, l’altra una percezione migliore. L’uno accelera, l’altra diventa più veloce. I sistemi d’IA militari entreranno probabilmente in questa coevoluzione permanente. Ogni miglioramento del rilevamento produrrà un miglioramento del camuffamento. Ogni nuovo sistema d’identificazione susciterà un metodo per ingannarlo.

La corsa dunque non si ferma mai. È esattamente la logica del mutante. Solo i mutanti sopravvivono, perché l’ambiente stesso impara. Una tecnologia immobile in un conflitto adattivo diventa rapidamente obsoleta.

Questa dinamica è particolarmente inquietante quando raggiunge il ciclo decisionale. Nella dottrina militare si parla spesso del ciclo osservazione, orientamento, decisione, azione. Chi lo completa più rapidamente può imporre il proprio ritmo all’avversario. L’intelligenza artificiale accelera ciascuna di queste fasi. Può osservare più sensori, orientare confrontando più scenari, aiutare a decidere e talvolta innescare un’azione automatizzata.

La tentazione è allora immensa: eliminare progressivamente i tempi umani per guadagnare qualche secondo. Il pericolo comincia in quell’istante. Un secondo guadagnato può costituire un vantaggio tattico.

Ma eliminare troppi secondi può anche eliminare il tempo necessario per riconoscere un errore. La velocità è dunque un’arma e un rischio. È uno dei paradossi fondamentali dell’era dell’IA militare. Per molto tempo, il vantaggio strategico apparteneva a chi poteva decidere più in fretta.

Ormai potrebbe appartenere anche a chi sa dove rallentare. Questa idea mi sembra essenziale. L’intelligenza non è sempre accelerazione. A volte consiste nell’introdurre volontariamente una latenza.

Un sistema critico deve poter segnalare: questo segnale è abbastanza ambiguo da esigere una seconda verifica. Questo rallentamento può sembrare inefficiente in una logica puramente competitiva. Ma può impedire un’escalation irreversibile. È qui che l’ingegneria della de-escalation diventa una vera architettura tecnica.

Troppo spesso abbiamo immaginato la de-escalation come un problema diplomatico separato dalla tecnologia. Non è più possibile. Il sistema stesso deve contenere meccanismi di frenata. Esattamente come una macchina industriale contiene arresti d’emergenza.

Nessuno considera il pulsante d’arresto una debolezza della macchina. Al contrario. È una condizione della sua sicurezza. Bisognerebbe pensare nello stesso modo i sistemi militari potenziati dall’IA.

Qual è il pulsante d’arresto?

Chi può riprendere il controllo?

In quali situazioni il sistema deve rifiutarsi di agire automaticamente?

Quali segnali richiedono due fonti indipendenti?

Quale grado d’incertezza impone un intervento umano?

Sono domande di architettura, non soltanto di etica. Una dottrina di sicurezza che non diventa codice, procedure, interfacce e catene di comando rimane un’intenzione. Questo si ricollega esattamente a tutto ciò che ho imparato nel mondo industriale.

La sicurezza non si proclama. Si progetta. Un dispositivo pericoloso deve essere pensato in termini di possibili difetti.

Che cosa accade se questo sensore si guasta?

Se questo dato è falso?

Se questo operatore interpreta male l’allarme?

Se due sistemi danno risposte contraddittorie?

L’IA militare deve essere sottoposta allo stesso rigore. Non si può considerare affidabile un modello semplicemente perché ottiene un’eccellente prestazione media. In un sistema strategico, la media non basta. Conta anche la natura dell’errore estremo. Un modello può essere corretto nel 99,9 % dei casi e catastrofico nel millesimo rimanente, se quel millesimo innesca una risposta irreversibile.

È la differenza fra ottimizzazione commerciale e sicurezza critica. Una raccomandazione pubblicitaria errata costa poco. Una classificazione errata in una catena di difesa può produrre morti o una guerra. Occorre dunque cambiare cultura delle metriche.

Gli ingegneri dovranno imparare a misurare non soltanto la precisione, ma la gravità dei falsi positivi, dei falsi negativi, l’incertezza e la robustezza sotto attacco. È una scienza dell’errore prima di essere una scienza della prestazione. Questa espressione mi sembra giusta. La sicurezza consiste anzitutto nel comprendere come il sistema possa sbagliare.

Lo stesso vale per l’essere umano. La grande forza di un decisore esperto non è non sbagliare mai. È conoscere alcune forme dei propri errori. Ecco ancora il blindspot.

Se l’intelligenza artificiale vuole diventare davvero strategica, dovrà poter mappare le proprie zone d’incertezza. Sarebbe una mutazione importante rispetto alla fantasia del computer infallibile. Un’IA realmente utile non dovrebbe soltanto rispondere. Dovrebbe produrre una topografia della fiducia.

Ecco ciò che considero altamente probabile.

Ecco ciò che lo è meno.

Ecco i dati assenti.

Ecco le ipotesi concorrenti.

Ecco ciò che, se fosse vero, invaliderebbe il mio scenario.

Quest’ultima capacità mi sembra essenziale: sapere che cosa potrebbe invalidare la propria lettura. Una macchina capace di organizzare la contraddizione sarebbe molto più preziosa di una macchina che accumula soltanto conferme. E questo si ricollega a una questione militare molto concreta. In una situazione di crisi, l’organizzazione cerca naturalmente segnali compatibili con la minaccia che teme.

È un bias umano ben noto. L’IA può correggerlo oppure amplificarlo. Se viene addestrata a cercare soltanto ciò che lo stato maggiore le chiede, può produrre una gigantesca potenza di conferma. Ogni nuovo segnale viene allora interpretato nel senso dello scenario dominante. Il sistema si chiude.

È quasi una paranoia algoritmica. Tutto diventa prova. Ecco un pericolo fondamentale. Un’architettura sana dovrebbe obbligare il sistema a produrre un dossier di contraddittorio.

Se lo scenario principale è l’attacco, quali dati sostengono lo scenario di un’esercitazione, di un errore o di una diversione?

Se aumenta la probabilità di un’azione ostile, quali elementi la riducono?

Questa controanalisi potrebbe essere automatizzata. Si potrebbero quasi immaginare due modelli contrapposti: l’uno incaricato di costruire l’ipotesi principale, l’altro di tentare di distruggerla. Una sorta di procedura di contraddittorio algoritmico. Corrisponde profondamente alla mia concezione del diritto. Il contraddittorio non è un ostacolo alla verità.

È un metodo per ridurre l’errore. Una decisione importante deve poter sopravvivere all’attacco dell’argomento contrario. Applicare questa filosofia all’IA militare mi sembra particolarmente fecondo. Si eviterebbe così che un solo modello diventasse un’autorità cognitiva assoluta.

Questo si ricollega alla nozione di pluralismo dei modelli. In un sistema critico, dipendere da un’unica architettura d’intelligenza crea un singolo punto di guasto. Due sistemi addestrati diversamente possono vedere cose diverse. Il loro disaccordo diventa un’informazione.

È un principio estremamente importante. Si considera spesso il disaccordo un problema da risolvere. Può diventare un sensore. Se più modelli davvero indipendenti convergono, la fiducia aumenta.

Se divergono fortemente, occorre rallentare. La divergenza diventa un segnale d’incertezza. Ritroviamo esattamente la logica della diagnosi medica o scientifica. Una misura isolata può essere falsa.

Più misure indipendenti riducono il rischio. Ma l’indipendenza è essenziale. Tre modelli addestrati sugli stessi dati e costruiti secondo la stessa logica possono riprodurre lo stesso bias. La ridondanza non è dunque soltanto duplicazione.

Esige diversità. È qui che ritroviamo una lezione biologica. Le monocolture sono fragili. Un parassita adattato può distruggere l’insieme.

La diversità produce resilienza. Lo stesso principio potrebbe diventare centrale nei sistemi cognitivi militari: diversità di sensori, di modelli, di dottrine, di squadre umane. Il sistema più omogeneo può essere il più veloce. Può anche essere il più vulnerabile a un errore comune.

Questa tensione fra velocità e diversità sarà probabilmente una delle grandi scelte progettuali. Gli stessi regimi politici potrebbero esserne investiti in modo diverso. Un sistema centralizzato può distribuire rapidamente un’architettura comune a tutte le proprie forze. Questo produce un coordinamento eccezionale. Ma se quell’architettura possiede una vulnerabilità profonda, essa si propaga ovunque.

Un sistema più distribuito è più difficile da coordinare, ma può resistere meglio a un guasto locale. Le reti obbediscono alla stessa logica. Il comando militare del futuro dovrà dunque bilanciare centralizzazione e autonomia locale. L’intelligenza artificiale potrebbe permettere a unità lontane di funzionare anche quando le comunicazioni sono degradate.

Dal punto di vista tattico è molto potente. Un drone, un veicolo, un’unità robotizzata potrebbero proseguire alcune missioni senza un collegamento costante con il centro. Ma questa autonomia aumenta anche la difficoltà del controllo. Fino a che punto autorizzare una macchina ad agire senza convalida?

È qui che il dibattito sulle armi autonome passa in primo piano. Occorre anzitutto essere precisi. La parola «autonomo» copre realtà molto diverse. Un sistema può navigare da solo, selezionare una traiettoria, evitare un ostacolo, identificare un oggetto.

Può anche essere autorizzato a selezionare un bersaglio e a intraprendere un’azione letale. Questi livelli non devono mai essere confusi.

Autonomia di navigazione non significa autonomia di decisione letale. Autonomia d’identificazione non significa autonomia d’ingaggio.

La granularità del vocabolario si impone qui come una necessità morale e strategica. Dire «arma autonoma» senza precisare la funzione autonoma distrugge l’analisi. La questione critica appare quando la catena di responsabilità umana diventa troppo distante. Un ufficiale può definire una missione, una zona e criteri, poi un sistema può agire per diverse ore senza comunicazioni.

Chi è allora responsabile di un errore?

Chi ha concepito l’algoritmo?

Chi ha fornito i parametri?

Chi ha autorizzato l’impiego?

La responsabilità diventa distribuita. Ora, una responsabilità troppo distribuita può finire per non appartenere chiaramente più a nessuno. È un pericolo giuridico fondamentale. La macchina non può diventare un buco nero di responsabilità. Occorrerà dunque mantenere una tracciabilità precisa delle decisioni.

Quali parametri sono stati usati?

Quale versione del modello?

Quali dati erano disponibili?

Quale soglia di fiducia?

Quale essere umano ha convalidato che cosa?

Queste tracce dovranno essere conservate come scatole nere aeronautiche. L’analogia con l’aviazione mi sembra molto forte. L’aviazione ha costruito una cultura della sicurezza analizzando ogni incidente, ogni inconveniente, ogni catena causale. Ha compreso che l’errore è raramente il prodotto di una sola colpa. Deriva spesso da una successione di piccole anomalie che si allineano.

L’IA militare dovrà sviluppare la stessa cultura. Non cercare soltanto il colpevole. Comprendere l’architettura che ha reso possibile l’errore. Questo approccio è politicamente molto più difficile, perché le organizzazioni preferiscono spesso personalizzare la colpa.

Ma una cultura della sicurezza matura cerca la causa sistemica. È esattamente ciò che dovrebbe poter fare un’intelligenza artificiale stessa: non soltanto dire che cosa è accaduto, ma ricostruire la catena delle decisioni. Questa capacità di ricostruire retrospettivamente la causalità diventerà essenziale. Siamo già entrati in un’epoca in cui molti sistemi complessi sono parzialmente incomprensibili per un solo individuo.

Una rete militare potenziata dall’IA può combinare satelliti, droni, sensori a terra, intelligence informatica, dati umani. Una decisione può derivare dall’interazione di decine di sistemi. Chi comprende allora davvero la totalità? Forse nessuno.

È qui che aumenta il rischio sistemico. Possiamo costruire architetture delle quali nessun essere umano possiede una rappresentazione completa. Esiste già nella finanza o in Internet. Ma la guerra aggiunge l’irreversibilità.

Un mercato può essere chiuso.

Una transazione può talvolta essere annullata.

Un attacco non può essere richiamato dopo l’impatto.

L’irreversibilità deve dunque diventare una variabile centrale del controllo umano. Più un’azione è irreversibile e pericolosa, più la soglia dell’autonomia dovrebbe, ai miei occhi, essere esigente. Autorizzare un’IA a regolare la temperatura di un edificio non è la stessa cosa che permetterle di identificare un bersaglio. L’autonomia dovrebbe essere pensata in funzione della reversibilità.

Questa formulazione mi sembra fondamentale. Il diritto potrebbe ispirarvisi. Più una decisione può pregiudicare una vita, una libertà o un equilibrio strategico, più dovrebbe esigere livelli elevati di controllo, tracciabilità e contestazione. Questo non elimina l’IA.

Ne definisce il ruolo. Ma il problema militare è proprio che l’avversario può non accettare questa prudenza. Se uno schieramento costruisce sistemi ultrarapidi e accetta maggiore autonomia, l’altro può temere di essere superato. La prudenza viene allora percepita come uno svantaggio.

È il meccanismo classico della corsa agli armamenti. Ciascuno adotta una tecnologia non perché la consideri ideale, ma perché teme che la adotti l’altro. Questa corsa rende necessaria una governance internazionale. Senza regole comuni minime, la logica competitiva spinge verso la velocità massima.

Ora, una corsa alla velocità cognitiva può essere più pericolosa di una corsa al numero di armi. Se ogni potenza pensa di dover rispondere prima di aver verificato pienamente, il sistema globale diventa estremamente instabile. Il parallelo con i mercati finanziari ad alta frequenza è illuminante: gli algoritmi vi reagiscono già agli algoritmi. Abbiamo già visto come interazioni automatizzate possano produrre movimenti estremamente rapidi e difficili da comprendere.

Trasporre questa logica a un confronto militare darebbe le vertigini. Due sistemi potrebbero interpretare reciprocamente le proprie azioni e accelerare l’escalation senza che alcun decisore umano abbia coscientemente voluto superare determinate soglie. È una forma di flash crash geopolitico. Questa immagine mi sembra importante.

Un flash crash finanziario può correggersi in pochi minuti. Un flash crash nucleare non esiste. Non si torna alla quotazione precedente. Ecco perché alcune categorie di armi devono rimanere circondate da tempi di attesa e controlli umani particolarmente forti.

La riduzione del tempo decisionale è dunque forse il rischio centrale dell’IA strategica. Si parla spesso della superintelligenza come di un futuro astratto. Ma il pericolo immediato può essere molto più semplice:

Un’intelligenza abbastanza veloce da spingere gli esseri umani ad agire troppo in fretta.

La velocità percepita dell’avversario modifica il comportamento. Se credo che possa rilevare e colpire in pochi secondi, posso essere tentato di delegare di più ai miei sistemi. Entriamo allora in un circuito in cui ogni automatizzazione giustifica quella avversaria. È il problema classico del dilemma della sicurezza.

La difesa dell’uno diventa una minaccia per l’altro. Un sistema decisionale più rapido può essere presentato come difensivo, ma l’avversario può percepirlo come capacità di primo attacco. L’ambiguità aumenta. Occorre dunque pensare non soltanto a ciò che fa la tecnologia, ma al modo in cui viene interpretata dall’altro schieramento.

La stabilità strategica dipende enormemente dalla percezione. Una capacità concepita come difensiva nell’intenzione può diventare destabilizzante se modifica l’equilibrio della deterrenza. È qui che diventano importanti la trasparenza e le dottrine dichiaratorie. Gli Stati dovranno probabilmente spiegare alcuni limiti che impongono ai propri sistemi.

Non rivelare i propri segreti operativi. Ma costruire una fiducia minima. Per esempio: dichiarare che un certo tipo di decisione rimarrà sotto controllo umano. Occorre però che questa dichiarazione sia credibile.

La credibilità esige procedure, forse meccanismi di verifica. Ritroviamo il vecchio problema del controllo degli armamenti, ma applicato a un oggetto software. Come verificare che un sistema d’IA non abbia determinate capacità? È infinitamente più difficile che contare missili.

Un missile è visibile. Un software può essere modificato rapidamente. Il controllo degli armamenti algoritmici sarà dunque probabilmente uno dei problemi diplomatici più complessi del secolo. Non si potrà semplicemente ispezionare un magazzino.

Bisognerà forse certificare architetture, esaminare registri, controllare alcuni usi. E questo pone ovviamente problemi di sovranità e di segreto. Abbiamo qui un terreno quasi vergine. Ma non significa che sia impossibile creare norme.

Gli Stati possono cominciare da regole d’uso anziché da un divieto totale di determinate tecnologie. Possono convenire che alcune decisioni rimarranno umane. Possono mantenere canali di comunicazione sugli incidenti che coinvolgono sistemi autonomi. Possono scambiare informazioni dopo alcune anomalie per evitare interpretazioni sbagliate.

La de-escalation comincia spesso da procedure modeste. È proprio l’errore di chi aspetta un grande trattato perfetto. L’architettura della fiducia può costruirsi per strati.

Un protocollo di notifica.

Una linea diretta.

Un meccanismo d’indagine congiunta.

Una terminologia condivisa.

Tutto questo sembra amministrativo fino al giorno in cui impedisce una guerra. I dettagli a volte salvano il mondo. Amo questa idea perché si ricollega alla mia ossessione per le infrastrutture invisibili. Il grande racconto storico celebra i dirigenti e le battaglie. Ma la stabilità dipende spesso da funzionari, ingegneri, procedure e tabelle che non saranno mai fotografati.

Il caos apparente poggia talvolta su un ordine estremamente rigoroso. È esattamente ciò che Nicolas Detry ha dimostrato a proposito della demeure du chaos: l’apparenza del disordine non significa assenza di struttura. La geopolitica a volte funziona allo stesso modo. Il mondo sembra caotico perché guardiamo gli eventi visibili.

Al di sotto esistono migliaia di protocolli, convenzioni e procedure che rendono possibili le interazioni. Quando queste strutture scompaiono, appare il caos reale. È per questo che la distruzione dei canali diplomatici è sempre pericolosa. Anche fra nemici, occorre conservare un’architettura minima.

Con l’IA, questa necessità aumenta perché il tempo si accorcia. Un incidente che un tempo lasciava diverse ore di analisi può lasciarne soltanto pochi minuti. La comunicazione deve dunque diventare più rapida e più diretta. Si può immaginare che in futuro alcune linee dirette saranno esse stesse assistite da IA capaci di tradurre, confrontare i segnali, identificare le incomprensioni.

Ma occorrerà essere estremamente prudenti. La macchina non deve diventare un nuovo filtro che deforma il messaggio. Anche qui, l’essere umano deve poter tornare alla fonte. La tracciabilità linguistica sarà importante.

Una traduzione automatica può modificare sottilmente un’intenzione. In una crisi, una parola conta. Questo mostra quanto lontano dal campo di battaglia cominci la guerra cognitiva. Comincia nelle interfacce.

Quale allarme vede il presidente?

Quali parole usa il sistema?

Rosso lampeggiante o giallo prudente?

Una probabilità visualizzata all’80 % o la frase «attacco probabile» non producono lo stesso effetto psicologico.

Il design dell’interfaccia acquista dunque una dimensione strategica. È un tema immenso e tuttavia spesso sottovalutato. L’interfaccia non è neutra. Struttura l’attenzione. Un operatore circondato da decine di allarmi rossi smette di distinguere l’urgenza.

Un sistema che nasconde troppo l’incertezza crea un’illusione di certezza. Il modo di presentare il dato può dunque salvare o condannare una decisione. Ritroviamo qui l’ergonomia dei sistemi critici. I piloti d’aereo, i controllori del traffico aereo, gli operatori delle centrali conoscono già questo problema. La guerra potenziata dall’IA dovrà imparare da questi ambiti.

Come evitare la saturazione cognitiva?

Come gerarchizzare senza nascondere?

Come rappresentare l’incertezza?

Come impedire che un operatore segua meccanicamente una raccomandazione?

Sono domande quasi artistiche quanto tecniche, perché riguardano la percezione. La forma organizza il senso. Ritrovo ancora il mio lavoro di artista plastico. Un’immagine non trasmette soltanto un’informazione.

Organizza lo sguardo. La posizione, la scala, il contrasto modificano la percezione. Un’interfaccia militare fa esattamente la stessa cosa. È una messa in scena del reale.

E ogni messa in scena possiede una responsabilità. È una dimensione particolarmente interessante dell’IA: avvicina discipline che avevamo artificialmente separato. Informatica, psicologia, design, diritto, strategia diventano una sola architettura. La guerra cognitiva obbliga a pensare l’essere umano nel circuito non come una semplice firma finale, ma come un organismo con i propri limiti.

Stress.

Stanchezza.

Paura.

Bias.

Una procedura che funziona perfettamente a freddo può fallire in una crisi. L’addestramento deve dunque includere situazioni in cui l’IA sbaglia. Se gli operatori non vedono mai fallire la macchina durante la formazione, rischiano di fidarsene troppo. Occorre imparare a disobbedire all’algoritmo quando le circostanze lo esigono. È una competenza nuova.

Abbiamo insegnato ai soldati a usare le armi. Bisognerà insegnare loro a contestare un’intelligenza artificiale. La sovranità umana passa attraverso la capacità di dire no al sistema. Ma per poter dire no, occorre comprenderne sufficientemente il funzionamento. Questo implica una cultura tecnica più elevata all’interno delle istituzioni.

L’IA non può essere una scatola nera affidata a pochi specialisti mentre chi decide ne usa semplicemente le conclusioni. Il comando deve possedere un’alfabetizzazione algoritmica. Non ha bisogno di programmare il modello. Ma deve sapere che cosa significano una probabilità, un bias dei dati, un’allucinazione, un attacco avversario.

Altrimenti non può esercitare realmente la propria autorità. La sovranità cognitiva esige dunque un’educazione di chi decide. Vale per i militari, i ministri, i giudici, i dirigenti d’impresa. Entriamo in un periodo in cui l’analfabetismo algoritmico potrebbe diventare una forma di vulnerabilità del potere.

Un dirigente che non comprende la tecnologia da cui dipende la propria decisione assomiglia a un sovrano che non sappia leggere le proprie mappe. Diventa dipendente da chi le interpreta per lui. È esattamente la storia del potere:

Chi controlla l’informazione controlla spesso una parte della decisione.

L’IA amplifica questo fenomeno. Gli ingegneri, i data scientist e i fornitori di modelli diventano potenzialmente attori strategici. Questo pone una nuova questione fra civile e militare. Fino a che punto le forze armate dipenderanno da imprese private per le proprie capacità cognitive?

Una piattaforma privata può diventare indispensabile alla difesa nazionale. Questo crea una relazione molto particolare fra capitale e sovranità. Gli Stati hanno sempre lavorato con le industrie della difesa. Ma un’IA generale può essere usata simultaneamente in ambito civile e militare.

La frontiera diventa più porosa. Imprese che si pensano come tecnologiche possono ritrovarsi al cuore di grandi questioni strategiche. Dovranno allora definire le proprie linee etiche, mentre gli Stati cercheranno di garantirsene l’accesso. La tensione è inevitabile.

Il cloud, i satelliti, l’IA appartengono spesso ad attori privati. Il potere pubblico non controlla più necessariamente tutte le infrastrutture critiche che usa. È un’altra caratteristica del XXI secolo. Lo Stato rimane sovrano giuridicamente, ma una parte della sua capacità operativa poggia su infrastrutture private.

La guerra cognitiva rende ancora più visibile questa dipendenza. Un conflitto potrebbe prendere di mira non soltanto basi militari, ma data center commerciali, reti di comunicazione, costellazioni satellitari. La distinzione fra civile e militare diventa estremamente complessa. Questo pone questioni di diritto internazionale, ma anche di resilienza.

Un paese deve poter continuare a funzionare se un fornitore privato interrompe il servizio? Ancora una volta: ridondanza. Per me, la sovranità è anche l’arte di non avere un solo interruttore che qualcun altro possa spegnere. E l’IA crea nuovi interruttori.

Accesso al modello.

Al cloud.

Ai processori.

Agli aggiornamenti.

Ogni dipendenza è potenzialmente una leva. Questo spiega perché la Cina, gli Stati Uniti e l’Europa cerchino ciascuno di mettere al sicuro i propri strati. Ma questa frammentazione crea a sua volta un altro rischio: se i sistemi avversari diventano totalmente opachi gli uni agli altri, le interpretazioni sbagliate aumentano. Abbiamo dunque una contraddizione straordinaria.

La sovranità spinge alla separazione. La stabilità spinge a un minimo di comprensione reciproca. Occorrerà conservare ponti sopra le architetture separate. È forse qui che le istituzioni internazionali devono mutare.

Sono state costruite per armi fisiche, frontiere, Stati. Dovranno imparare a parlare di modelli, dati, sistemi autonomi. Questo vocabolario è ancora troppo nuovo. Ma il tempo stringe.

Perché la tecnologia avanza più in fretta delle istituzioni. È quasi sempre così. La legge arriva dopo l’invenzione. Anche la dottrina militare.

Eppure, alcune decisioni prese oggi creeranno architetture difficili da modificare in seguito. Una volta che un esercito avrà integrato profondamente sistemi autonomi nella propria catena di comando, tornare indietro sarà costoso. L’effetto di vincolo esiste anche nella difesa. Ecco perché le scelte iniziali contano enormemente.

Diventano norme per accumulazione. Ritroviamo ancora l’infrastruttura. Il primo protocollo sembra tecnico. Dieci anni dopo è diventato dottrina.

Occorre dunque integrare la sicurezza e il controllo umano fin dalla progettazione, non come correzione successiva. È esattamente il principio della sicurezza fin dalla progettazione. Bisognerebbe parlare anche di «de-escalation fin dalla progettazione». Concepire i sistemi per evitare che un’ambiguità produca automaticamente un’escalation.

Per esempio: esigere una conferma indipendente prima di alcune azioni, introdurre tempi di attesa variabili secondo la gravità, mantenere spazi d’intervento umano, registrare le ragioni della raccomandazione, permettere l’annullamento. Non sono freni all’innovazione. Sono le condizioni del suo uso responsabile. Credo profondamente che la prossima grande innovazione militare forse non sarà semplicemente un’arma più veloce.

Potrebbe essere un sistema capace di essere rapido quando occorre e lento quando occorre. Un’intelligenza capace di cambiare temporalità. Sembra quasi filosofico. Ma è una questione d’ingegneria.

L’IA può calcolare in microsecondi. Nulla la obbliga ad agire immediatamente. L’azione può essere condizionata da soglie. Occorre separare la velocità di calcolo dalla velocità decisionale.

È qui che la memoria esterna diventa architettura cognitiva. Commettiamo spesso l’errore di credere che un sistema capace di calcolare in fretta debba agire in fretta. Non lo credo. Può usare la propria velocità proprio per esaminare più ipotesi prima dell’azione.

La potenza di calcolo può essere trasformata in prudenza. Ecco un’idea essenziale. Un sistema più potente potrebbe rallentare la decisione umana dandole più prospettive nello stesso tempo. Se un tempo l’essere umano disponeva di due minuti per analizzare tre scenari, l’IA potrebbe permettergli di esaminarne cinquanta in quei due minuti.

L’accelerazione cognitiva può dunque produrre una decelerazione strategica. Questa inversione mi sembra particolarmente interessante. Mostra che la tecnologia non ha un destino unico. Tutto dipende dall’architettura politica che le costruiamo intorno.

L’IA può essere una macchina per precipitare o una macchina per temporeggiare.

Una macchina per confermare o una macchina per contraddire.

Una macchina per prendere di mira o una macchina per escludere un bersaglio dubbio.

La tecnologia non impone automaticamente il proprio uso. Lo concepiamo noi. L’etica non può dunque intervenire a posteriori. Deve partecipare alla definizione dei requisiti. Il giurista, il filosofo, il militare, lo psicologo, lo specialista dell’interfaccia devono lavorare con l’ingegnere fin dall’origine.

Questo si ricollega alla mia concezione profondamente transdisciplinare. Le grandi questioni non rispettano i confini amministrativi. La demeure du chaos stessa non ha mai separato l’arte, la tecnologia, il diritto, la storia, la materia. L’IA conferma oggi che queste separazioni erano spesso artificiali.

La guerra cognitiva è una guerra di dati.

Ma anche di racconti.

Di percezione.

Di psicologia.

Attraversa il corpo sociale.

Uno Stato può essere militarmente intatto e cognitivamente disorganizzato. Una popolazione satura di racconti contraddittori può perdere fiducia in tutte le fonti. È forse una delle forme più efficaci di attacco:

Non far credere una menzogna precisa, ma far credere che nulla possa essere conosciuto.

Questa strategia di dissoluzione della fiducia è temibile. Se ogni immagine può essere falsa, ogni voce clonata, ogni documento sintetico, la reazione può essere non credere più a nessuno. È la crisi epistemica. L’IA generativa aumenta considerevolmente questo rischio.

Ma può anche fornire strumenti di verifica. Entriamo dunque in una corsa fra generazione e autenticazione. Produrre diventa facile. Provare l’origine diventa prezioso.

Si può immaginare che la provenienza digitale, le firme crittografiche e le catene di autenticità assumeranno un’importanza gigantesca. Questo mi riporta immediatamente al Mercato dell’Arte. La storia dell’arte è sempre stata ossessionata dalla provenienza: chi ha posseduto l’opera? Dove è stata esposta? Quale documentazione l’accompagna? In un mondo sintetico, ogni informazione dovrà forse acquisire una propria provenienza.

Quale fotocamera ha prodotto questa immagine?

Quando?

È stata modificata?

Chi la firma?

La verifica diventerà un’infrastruttura. L’esperienza di Artprice nei dati storici, nelle firme, nei cataloghi e nelle provenienze mi sembra all’improvviso estremamente contemporanea. Abbiamo sempre saputo che un’informazione priva di contesto di provenienza perde una parte del proprio valore. L’IA generativa estende questo problema all’intero mondo digitale.

Ogni documento può diventare sospetto. La fiducia dovrà dunque essere ricostruita tecnicamente. E questo avrà conseguenze militari dirette. Un capo di Stato riceve un video che mostra un evento di grande rilievo.

Come sa che è autentico? Il sistema di verifica deve essere più veloce del ciclo decisionale. Altrimenti vince la falsificazione. Questo crea una nuova infrastruttura strategica:

La prova in tempo reale. Non abbiamo mai avuto tanto bisogno di autenticare rapidamente l’informazione. È quasi un paradosso: più possiamo produrre contenuti, più la rarità si sposta verso la prova. Il futuro cognitivo sarà forse un’economia della fiducia.

Chi può provare l’origine possiede un vantaggio. Questa battaglia supererà ampiamente gli Stati. Riguarderà i media, le università, le imprese, i cittadini. Una democrazia non può funzionare a lungo senza un minimo di realtà condivisa.

Il disaccordo politico è normale. Il disaccordo sull’esistenza stessa dei fatti diventa molto più pericoloso. L’IA potrebbe dunque minacciare la democrazia attraverso la saturazione cognitiva più che attraverso il controllo diretto.

Troppi contenuti.

Troppo in fretta.

Troppo personalizzati.

La capacità d’attenzione umana diventa la risorsa rara. Da qui il mio uso del termine guerra cognitiva. Il cervello è il terreno. Non soltanto quello del soldato.

Anche quello del cittadino. Gli avversari cercheranno di influenzare le elezioni, le mobilitazioni, i mercati, la fiducia nelle istituzioni. La frontiera fra guerra e pace si offusca. Una campagna d’influenza può essere condotta permanentemente senza dichiarazione di guerra.

È una zona grigia. Gli Stati devono imparare a rispondervi senza trasformare ogni disaccordo in un’operazione ostile. Anche qui, la classificazione è essenziale. Non tutte le critiche straniere sono guerra cognitiva.

Non ogni informazione falsa è un’operazione coordinata. Se lo Stato vede il nemico ovunque, rischia di diventare esso stesso paranoico. Il rimedio potrebbe essere peggiore della minaccia. Occorrono dunque standard di prova.

Attribuzione.

Intenzione.

Coordinamento.

Prima di parlare di attacco cognitivo, occorre poter stabilire una catena abbastanza solida. Applico all’informazione la stessa disciplina: non confondere correlazione e causalità. Non confondere correlazione e causalità. Migliaia di account possono diffondere spontaneamente lo stesso racconto. Occorre distinguere l’organico dal coordinato.

L’IA può aiutare. Può anche sovrainterpretare. Ancora il blindspot. Una democrazia deve resistere alla manipolazione senza sacrificare il proprio pluralismo.

È un equilibrio estremamente delicato. La tentazione di censurare ampiamente in nome della sicurezza può distruggere proprio ciò che si voleva proteggere. La resilienza cognitiva non consiste dunque, ai miei occhi, nell’eliminare tutte le informazioni pericolose. Consiste nel rendere la società più capace di contestualizzarle.

Istruzione.

Trasparenza.

Media solidi.

Strumenti di verifica.

È meno spettacolare di un grande sistema di sorveglianza. Ma probabilmente più robusto. Una popolazione formata a riconoscere alcune manipolazioni diventa più difficile da destabilizzare. È esattamente come la cybersicurezza. Non si possono impedire tutti i messaggi di posta elettronica malevoli.

Si insegna anche agli utenti a riconoscere il phishing. La difesa cognitiva deve funzionare allo stesso modo. L’essere umano rimane una parte dell’architettura. Ma occorre accettare che il nostro cervello possieda vulnerabilità strutturali. Amiamo i racconti semplici, le informazioni che confermano le nostre credenze, i contenuti emotivi.

I sistemi d’IA possono sfruttare questo con una precisione eccezionale. La personalizzazione rende la propaganda individuale. Un tempo, la propaganda era un messaggio per milioni di persone. Domani può essere diversa per ogni individuo.

È una mutazione immensa. La persuasione diventa algoritmica. Un sistema può provare migliaia di formulazioni, imparare ciò che innesca una reazione in una persona, adattare il messaggio. La frontiera con il marketing è già quasi inesistente.

La differenza risiede nella finalità. È per questo che i dati personali diventano una posta in gioco della sicurezza cognitiva. Più un attore conosce le mie paure, le mie abitudini, le mie relazioni, più può produrre un messaggio efficace. La protezione dei dati non è dunque soltanto un diritto individuale.

Diventa una componente della resilienza nazionale. È una conseguenza che forse non avevamo previsto a sufficienza.

L’Headquarter aveva esternalizzato la memoria.

La rete aveva esternalizzato la presenza.

Il drone aveva esternalizzato il punto di vista.

L’IA comincerà a esternalizzare una parte dell’elaborazione. Una fuga di dati può permettere un targeting politico estremamente preciso.

Ancora una volta, i confini fra i settori scompaiono. Il mondo intero diventa infrastruttura cognitiva. Questo spiega perché, alla fine, preferisca parlare di una forza cognitiva trasversale anziché di una «quinta forza». Terra, mare, aria, spazio e cyberspazio designano ambienti o domini operativi; l’IA attraversa ciascuno di essi.

L’IA non è un ambiente nello stesso senso. È una forza che attraversa tutti gli ambienti e agisce sulla percezione che li coordina. Diventa il sistema nervoso delle forze armate. E un sistema nervoso è al tempo stesso potenza e vulnerabilità.

Recidere un nervo può neutralizzare un muscolo intatto. Allo stesso modo, perturbare lo strato cognitivo di un esercito può rendere inutili attrezzature pur operative. Ecco perché l’attacco informatico, la guerra elettronica, la disinformazione e l’IA convergono. Tutti cercano, a livelli diversi, di perturbare il flusso fra percezione e azione.

Il conflitto del futuro può dunque, in alcune situazioni, essere vinto prima del primo colpo se l’avversario non sa più che cosa accade. La formula può sembrare spettacolare. La logica che descrive è antica. Sun Tzu l’avrebbe probabilmente compresa subito: il miglior combattimento è quello in cui l’avversario agisce già secondo la nostra rappresentazione.

L’IA rende questa logica industriale e permanente. Potrebbe anche trasformare la deterrenza. La stabilità della deterrenza nucleare è poggiata, in particolare, sulla credibilità di una capacità di secondo attacco: ciascuno schieramento doveva credere che l’altro avrebbe conservato la capacità di rispondere dopo un primo attacco.

L’incertezza esisteva, ma l’architettura rimaneva relativamente comprensibile. L’IA può introdurre nuove incertezze. Se un sistema migliora enormemente il rilevamento dei sottomarini o dei missili, può modificare l’equilibrio. Se uno Stato crede di poter neutralizzare più rapidamente le capacità avversarie, la stabilità può diminuire.

Una tecnologia difensiva può allora avere un effetto offensivo. È ancora la logica delle conseguenze di secondo ordine. La domanda non è soltanto ciò che il sistema fa direttamente. È ciò che cambia nelle credenze dell’avversario.

La deterrenza è una psicologia armata. Dipende da ciò che ciascuno crede possibile. L’IA agisce proprio su queste credenze. Potrebbe rendere alcuni attori troppo fiduciosi nella propria capacità di previsione.

Ecco forse un rischio immenso:

l’illusione di poter conoscere l’avversario. Un modello addestrato su anni di dati può produrre probabilità comportamentali. Ma un dirigente rimane capace di una decisione inattesa.

Una rivoluzione, un’emozione, un incidente possono cambiare la traiettoria. La guerra contiene sempre una parte di contingenza. Un’IA molto performante può creare la sensazione che questa contingenza sia scomparsa. È pericoloso.

Potremmo confondere una previsione migliore con la certezza. La Storia punisce spesso questa arroganza. Molte guerre sono cominciate perché ogni schieramento credeva di poter prevedere una rapida vittoria. L’IA potrebbe rafforzare questa illusione se producesse simulazioni troppo convincenti.

Una simulazione non è mai il reale. Poggia su ipotesi. Occorre dunque addestrare chi decide a trattare i modelli come strumenti, non come oracoli. È una distinzione filosofica fondamentale.

L’oracolo possiede l’autorità del mistero. Il modello deve possedere l’autorità limitata dei propri dati. Tutto questo libro lotta, in fondo, contro l’oracolo. Anche l’intelligenza artificiale più avanzata non deve mai diventare un nuovo clero algoritmico.

Deve rimanere interrogabile. È proprio qui che ritrovo la mia frase:

L’opera deve interrogare anziché imporre. Anche l’IA dovrebbe, per quanto possibile, interrogare prima di imporre.

Un’intelligenza che non può essere interrogata diventa un potere opaco. In ambito militare, questa opacità è insopportabile. Chi decide deve poter chiedere:

Perché?

Ma occorre essere prudenti con questa esigenza di spiegabilità. Alcuni sistemi complessi non possono sempre fornire una causalità semplice. Possono dare fattori, probabilità, esempi. Occorre dunque costruire una spiegabilità adeguata alla decisione.

Lo scopo non è trasformare ogni rete neurale in una formula comprensibile a tutti. Lo scopo è dare informazioni sufficienti a permettere un giudizio responsabile. Ancora la proporzionalità. Una raccomandazione tattica immediata non ha bisogno di un trattato.

Ha bisogno di elementi essenziali:

livello di fiducia, fonti, alternative, rischi. L’interfaccia deve condensare senza nascondere. È quasi un’arte della sintesi.

E la sintesi è proprio ciò che l’IA può fare estremamente bene. Possiamo usare la sua potenza contro i suoi stessi rischi. Può produrre la raccomandazione e simultaneamente la critica della raccomandazione. Può segnalare i conflitti fra sensori.

Può rilevare che una situazione esce dal proprio dominio di addestramento. Quest’ultima capacità sarà probabilmente capitale:

Riconoscere l’ignoto. Un sistema è particolarmente pericoloso quando incontra una situazione radicalmente nuova e continua a rispondere con la stessa fiducia.

Il mondo militare è proprio un mondo in cui l’avversario cerca di creare situazioni nuove. Il modello deve dunque possedere una sorta di allarme epistemico:

Questo non assomiglia abbastanza a ciò che conosco. È una forma di umiltà computazionale.

Dovrebbe diventare una virtù strategica. Ritroviamo ancora questa idea paradossale: la migliore intelligenza non è quella che risponde sempre. È anche quella che sa quando non rispondere.

Un soldato esperto sa talvolta che qualcosa è insolito senza poterlo spiegare immediatamente. Questa intuizione dell’anomalia è preziosa. L’IA può diventare estremamente efficace nel rilevare anomalie. Ma deve poi evitare di attribuire loro automaticamente un’intenzione ostile.

Anomalia non significa attacco. Ecco un altro punto di attrito. L’algoritmo rileva una differenza. Chi decide aggiunge una storia.

È in questo spazio che può inserirsi la guerra cognitiva. L’avversario può produrre anomalie per saturare il sistema. Troppi allarmi possono esaurire l’attenzione. È un attacco per affaticamento.

I sistemi automatizzati devono dunque gestire non soltanto il rilevamento, ma la priorità. E questa priorità può essere a sua volta manipolata. Il conflitto entra in una logica ricorsiva. Ogni difesa diventa una nuova superficie d’attacco.

Entriamo in una complessità quasi organica. Questo rende illusoria l’idea del controllo totale. Nessuno Stato padroneggerà perfettamente tutti i sistemi. Occorre dunque progettare per il degrado.

Che cosa accade quando l’IA non funziona più?

L’esercito può tornare a una modalità più semplice?

Gli operatori conservano le competenze manuali?

. Una tecnologia che aumenta enormemente l’efficienza può anche creare una dipendenza. Se gli esseri umani perdono la capacità di operare senza di essa, un guasto diventa catastrofico. Abbiamo già visto questo fenomeno nella navigazione. Molte persone non sanno più leggere una mappa come prima.

In ambito civile è raramente drammatico. In una guerra elettronica, perdere il GPS può esserlo. L’IA crea la stessa domanda a una scala cognitiva. Occorrerà preservare capacità di funzionamento degradato.

È una nozione militare classica:

funzionare in modalità degradata. La sovranità cognitiva esige dunque la capacità di tornare all’essere umano. Non perché l’essere umano sia sempre migliore.

Perché la resilienza esige un’alternativa. Un sistema totalmente dipendente da un solo strato è fragile. È esattamente ciò che ho sempre pensato con le infrastrutture del Groupe Serveur:

Nessuna funzione critica deve poggiare su una sola via.

La ridondanza può sembrare costosa fino al giorno in cui salva l’insieme. Gli eserciti del futuro dovranno probabilmente mantenere procedure più lente, più analogiche, come assicurazione contro il guasto digitale. È quasi un’ironia storica. Più il mondo diventa tecnologicamente avanzato, più alcune tecnologie antiche possono diventare strategiche perché difficili da perturbare.

Un cavo.

Un foglio.

Una radio semplice.

A volte possono sopravvivere là dove il sistema sofisticato viene disturbato. Non bisogna mai disprezzare l’antico. Può diventare ridondanza del futuro. È esattamente lo spirito alchemico:

Nessuna materia è definitivamente morta.

Può ritrovare una funzione in una nuova configurazione. La guerra cognitiva è dunque anche una guerra di resilienza. Chi continua a comprendere quando i propri sistemi sono degradati possiede un vantaggio. Vale per un esercito come per una società.

Una popolazione capace di conservare fonti affidabili, istituzioni stabili e una cultura critica resiste meglio alla saturazione informativa. La resilienza cognitiva si impone allora come una componente della difesa nazionale. Questa idea dovrebbe probabilmente entrare nelle dottrine di sicurezza allo stesso livello della cybersicurezza. Ma occorrerà evitarne un’eccessiva militarizzazione.

Una società aperta deve accettare il disordine, la critica, l’errore. La resilienza non consiste nel produrre unanimità. Consiste nell’impedire che il disaccordo distrugga la possibilità stessa di una realtà comune. È questa differenza che occorre preservare. Il caos apparente può essere una forma di vitalità.

È ciò che la demeure du chaos afferma da sempre. Il disordine visibile non è necessariamente assenza d’ordine. Una democrazia assomiglia spesso al caos perché le voci si oppongono. Ma il suo ordine si trova nelle procedure che permettono a queste voci di coesistere.

Una dittatura può sembrare visivamente molto più ordinata, ma la sua architettura cognitiva può essere fragile se nessuno osa trasmettere una cattiva notizia. Ancora una volta:

Apparenza e struttura non devono essere confuse. Questa lezione supera l’arte.

Diventa strategica. Un esercito molto disciplinato può essere cieco se l’informazione risale male la gerarchia. Un’organizzazione più rumorosa può essere più intelligente se permette la contraddizione. L’IA amplifica questa scelta istituzionale.

Può essere usata per filtrare le voci divergenti o per farle emergere. Sarà dunque la dottrina, più che la tecnologia, a decidere il risultato. Ecco perché rifiuto ogni visione deterministica dell’intelligenza artificiale. Non condanna automaticamente la libertà.

Non garantisce automaticamente il progresso. Amplifica architetture umane esistenti. È un moltiplicatore. E il moltiplicatore applica la propria potenza a ciò che gli si dà.

Se il sistema è robusto, può accrescerne la robustezza. Se è paranoico, può industrializzarne la paranoia. Questa frase mi sembra centrale per comprendere la guerra cognitiva. Gli Stati devono dunque lavorare su se stessi quanto sui propri modelli.

La migliore IA non compenserà una cultura decisionale difettosa. È forse la vera corsa fra le potenze:

non soltanto possedere il modello più grande, ma costruire l’istituzione capace di usarlo senza diventare dipendente, cieca o precipitosa. Questa istituzione dovrà saper alternare velocità e lentezza, automatizzazione e giudizio, segreto e trasparenza.

È un’architettura complessa. Richiede una maturità che la tecnologia da sola non può fornire. E dietro questa questione militare si profila già un’altra mutazione. Se i sistemi diventano progressivamente capaci non soltanto di analizzare e raccomandare, ma anche di azionare macchine nel mondo reale, la frontiera fra intelligenza artificiale e robotica si ridurrà.

Il modello non sarà più soltanto nel data center. Avrà un corpo.

Drone.

Veicolo.

Robot terrestre.

Sistema marittimo.

Un errore software potrà allora diventare movimento fisico. Il problema cambierà natura quando queste macchine non saranno più isolate, ma capaci di coordinare i propri comportamenti.

Che cosa diventa il comando quando il numero delle macchine supera ciò che un essere umano può supervisionare individualmente?