En este capítulo, el «yo» es el de Thierry, al que doy voz con mi escritura. Su palabra es la fuente; nuestro diálogo da forma al texto.

— Isis

Hay un viejo sueño de los gobernantes que cada revolución técnica hace reaparecer bajo nuevas formas: disponer al fin de información suficiente para administrar racionalmente la sociedad entera. El censo ya alimentó ese sueño. Luego vinieron la estadística, la informática, los modelos macroeconómicos. En cada época, la potencia del nuevo instrumento da la impresión de haber abolido una antigua limitación.

La inteligencia artificial lleva ese deseo mucho más lejos. Puede analizar millones de precios, flujos logísticos, existencias, consumos de energía, datos de transporte y comportamientos industriales. Puede simular varios escenarios, detectar situaciones de escasez y prever tensiones. Por primera vez, es posible calcular casi en tiempo real la evolución de ciertos problemas de coordinación que los planificadores del siglo XX solo podían abordar mediante tablas incompletas.

Esto no significa que de pronto la economía planificada tenga razón frente a la economía de mercado. Sería una conclusión demasiado simple. Significa que la vieja oposición entre mercado descentralizado y planificación centralizada debe reexaminarse a la luz de una nueva capacidad cognitiva.

El propio mercado utiliza ya sistemas semejantes a una planificación continua. Una gran plataforma analiza sus existencias, prevé la demanda, ajusta los precios y redistribuye los recursos. Una multinacional coordina cadenas mundiales con una precisión que ningún ministerio habría imaginado hace cincuenta años. Dentro de la empresa ya existe una forma de planificación. La empresa no pide a cada departamento que organice un mercado interno para decidir cómo usar cada ordenador o cada minuto de trabajo. Planifica. Fuera de sus límites se encuentra con el mercado.

La frontera entre organización y mercado siempre ha sido móvil. La IA puede desplazarla aún más. Si disminuye mucho el coste de la coordinación interna, algunas organizaciones pueden integrar más actividades. Si los agentes consiguen que contratar fuera apenas cueste nada, las organizaciones pueden, por el contrario, externalizar más. Son posibles dos dinámicas opuestas.

De ahí que convenga evitar la profecía única.

La economía algorítmica no anuncia automáticamente el triunfo de la centralización ni el de la descentralización. Potencia ambas. Quizá eso sea lo más interesante. Un mercado potenciado por la IA puede ganar mucha capacidad de respuesta. Un Estado potenciado por la IA puede ganar mucha capacidad de anticipación.

La verdadera pregunta es, por tanto: ¿qué información debe coordinarse mediante qué mecanismo?

La cuestión admite muchos más matices que la oposición entre mercado y plan. Ciertos recursos se prestan muy bien a la coordinación por el mercado porque el precio agrega eficazmente información dispersa. Otros requieren una planificación a largo plazo porque su rentabilidad inmediata no refleja su valor estratégico.

Una central eléctrica,

una línea de ferrocarril,

una capacidad de defensa,

una infraestructura sanitaria.

La IA no elimina esa distinción. Solo puede mejorar las herramientas de uno y otro lado. Ahí veo uno de sus usos políticos más fecundos. El peligro sería creer que una mayor potencia de cálculo resuelve el problema político de la asignación de recursos. No lo resuelve, porque toda asignación supone un objetivo. El algoritmo puede optimizar una función, pero carece de autoridad legítima para decidir qué función se debe optimizar. Ahí está el núcleo del capítulo.

Una economía no tiene una única finalidad.

Crecimiento, estabilidad de precios, empleo, medio ambiente, soberanía, igualdad, innovación, libertad.

Estos objetivos pueden entrar en conflicto. Ninguna función matemática puede eliminar ese conflicto sin incorporar valores. Se puede construir un modelo que dé un peso del 40 % al crecimiento, un 30 % al empleo, un 20 % al clima y un 10 % a la reducción de las desigualdades.

Pero ¿quién decidió esas ponderaciones?

Es una elección política. Ponerle números no la vuelve neutral. Quizá permita disimularla mejor. Ahí reside el peligro tecnocrático: convertir una elección entre valores en un parámetro y presentar después el resultado como «óptimo».

¿Óptimo respecto de qué?

¿Con qué ponderación?

Deberíamos hacernos estas preguntas automáticamente cada vez que oímos hablar de optimización. El óptimo nunca existe en términos absolutos. Existe en relación con una función objetivo, unas restricciones y unas hipótesis. Es una verdad matemática que se convierte en una verdad política.

Si olvidamos la función objetivo, hacemos del algoritmo un oráculo.

Vuelvo aquí a Pitágoras y a esa fascinación por el número. Tal vez todo pueda representarse mediante números, pero eso no significa que los números elijan nuestros fines. Pueden medir el coste de un hospital. No dicen cuánto quiere invertir una sociedad en cuidar a una persona mayor. Esa decisión encierra una concepción de la dignidad. No se deduce de una ecuación.

La fantasía de la economía optimizada encuentra aquí su límite. Una sociedad no es una única empresa cuyo dirigente haya definido el objetivo. Alberga millones de fines en parte contradictorios. El consumidor quiere pagar un precio bajo. El trabajador, ganar un salario alto. El empresario quiere invertir. El vecino quiere silencio. El ciudadano quiere servicios públicos y quizá desee pagar menos impuestos.

La política organiza esas contradicciones. No las suprime.

Una IA puede mostrarnos con una precisión inédita las alternativas entre las que hay que elegir y lo que cuesta cada una. No tiene legitimidad para decidir por sí sola cuál preferimos. La distinción debe seguir siendo absolutamente central.

Por eso, quizá el mejor uso de la IA en política económica sea hacer más visibles las contrapartidas de cada decisión. Si aumentamos tal gasto, estos son los escenarios fiscales. Si flexibilizamos tal restricción, estos son los efectos probables sobre el medio ambiente. La IA se convierte en una máquina de hacer explícitos los costes ocultos. Esto puede mejorar enormemente el debate democrático.

Pero si el gobierno se sirve del modelo para afirmar que «la ciencia impone esta decisión», comete un error conceptual. La ciencia puede aclarar las consecuencias. La elección del fin sigue siendo política.

Esa frontera es frágil porque la sofisticación técnica impresiona. Un modelo con miles de millones de parámetros, simulaciones y gráficos puede dar a una decisión un aura de inevitabilidad. Eso es precisamente lo que hay que rechazar.

Cuanto más potente sea la herramienta, mayor deberá ser la transparencia de sus hipótesis. Es casi una regla de proporcionalidad.

A la potencia de cálculo debe corresponder una capacidad de igual fuerza para cuestionar sus resultados. A un modelo económico importante se le debe poder preguntar qué hipótesis influyen más en sus conclusiones.

¿Qué parámetros?

¿Qué sensibilidades?

¿Qué ocurre si es errónea la hipótesis de crecimiento?

Esto enlaza con la ciencia del error. Cuando la incertidumbre es grande, una política jamás debería fundarse en un escenario único. La IA, precisamente, puede generar miles de escenarios. Utilicemos esa capacidad para escapar de la falsa precisión.

Es paradójico: una mayor capacidad de cálculo puede enseñarnos a ser más humildes.

En lugar de afirmar «el desempleo estará en el 6,2 %», se puede mostrar una distribución y las condiciones de las que depende. Es infinitamente más honesto. Pero al lenguaje político le gusta la cifra única. A los medios también. El sistema institucional debe aprender, pues, a presentar la incertidumbre. Es un desafío cultural.

El mismo problema atraviesa la guerra, las finanzas y el Estado. La IA acrecienta nuestra capacidad de modelización y, con ella, el riesgo de confundir el modelo con el mundo.

El mapa gana precisión, pero sigue sin ser el territorio.

Esta frase debe seguir en el centro.

Una economía algorítmica puede tener un gemelo digital de enorme riqueza. Flujos en tiempo real, simulaciones. Puede ser extraordinariamente útil en las crisis. Durante una situación de escasez energética, el Estado puede ver antes dónde están los puntos de tensión y qué industrias son críticas. Es un avance.

Pero el gemelo digital no contiene a la sociedad entera. No mide fácilmente la confianza, el cansancio, el resentimiento. Y, sin embargo, estas variables pueden determinar el curso de una crisis política. Por eso el buen juicio sigue siendo esencial.

Un modelo puede indicar que una medida es eficaz en lo económico y explosiva en lo político. Pasar por alto el segundo plano es un error. La economía jamás está separada de la psicología colectiva. Los propios mercados están hechos de expectativas. La IA puede analizar el sentir de la población, pero eso no convierte a la sociedad en un objeto enteramente mensurable. La sociedad reacciona al análisis.

Otra vez la reflexividad.

Si el gobierno anuncia que su modelo prevé escasez, los ciudadanos tal vez compren más y provoquen precisamente esa escasez. La predicción modifica el sistema. Ahí reside un rasgo distintivo de las ciencias sociales: el observador puede convertirse en actor. La IA no elimina esa dificultad. Incluso puede amplificarla al difundir las previsiones con mayor rapidez.

Hace falta, por tanto, una ética de la previsión pública.

¿Qué se publica?

¿Cuándo?

¿Con qué contexto?

Ocultar una información puede ser antidemocrático. Publicar una alerta sin contextualizar puede provocar pánico. Hay que sopesar las alternativas. Otra decisión política. El modelo no resuelve el problema de la comunicación. Es una responsabilidad.

Esta reflexividad hace también casi imposible la idea de una planificación total. Aunque el Estado dispusiera de todos los datos actuales, los actores modifican su conducta según las reglas. Un impuesto nuevo genera adaptaciones. Una subvención modifica las inversiones. El sistema responde. La economía está viva. No hay una orden fija que produzca indefinidamente el mismo resultado.

De ahí que las buenas políticas sean también adaptativas.

Se fija un objetivo, se mide, se corrige. Es casi una forma de control cibernético. La IA puede mejorar enormemente este ciclo. Se pueden evaluar con más rapidez los efectos reales de una política. El potencial es revolucionario. En vez de esperar años para saber si una medida funciona, es posible seguir ciertos indicadores casi en tiempo real.

Pero hay que evitar el exceso de intervenciones. Una política puede tener efectos a largo plazo. Si cada mes se modifica la regla porque se mueven los indicadores, los actores ya no pueden hacer planes. La estabilidad regulatoria tiene valor.

De nuevo, las múltiples escalas temporales.

La economía algorítmica puede generar la tentación de gobernar como quien negocia en bolsa a alta frecuencia. Sería peligroso. Un Estado no es un fondo de inversión libre. Debe representar el largo plazo. La distinción me parece esencial.

La IA permite ver antes. No debe obligar a cambiar antes.

En ocasiones, la observación continua debe servir precisamente para no intervenir. Para ver que una fluctuación es normal. Es una forma de madurez. La herramienta se convierte en un instrumento de paciencia. Reaparece la paradoja de la aceleración que se transforma en prudencia.

Una idea recorre toda esta parte: la verdadera potencia de la IA quizá resida menos en la rapidez de la acción que en cuánto se puede analizar antes de actuar. En economía, eso significa hacer más simulaciones antes de una reforma. Así podrían reducirse ciertos efectos perversos. Pero ningún modelo puede prever todas las consecuencias. La realidad produce lo inesperado.

Hay que conservar mecanismos de retroalimentación y evaluación.

En ciertos casos, una ley debería concebirse como una hipótesis que se puede poner a prueba. No en el terreno de los derechos fundamentales, por supuesto, pero sí en determinadas políticas económicas. Fijar un objetivo, prever una evaluación independiente, incluir una cláusula de revisión. Es una cultura experimental del gobierno. Me parece muy adecuada para la era de la IA.

Tenemos numerosos datos que permiten medir. Utilicémoslos para aprender. Pero esa experimentación debe seguir siendo democrática. Los ciudadanos no son cobayas sin derechos. Hacen falta límites y transparencia. Una vez más, hay que distinguir entre poner a prueba una política y experimentar con personas. El vocabulario importa.

La idea consiste sencillamente en admitir que una política puede equivocarse y prever cómo corregirla. Es lo opuesto a la ideología. Un gobierno maduro debería poder decir: «Creíamos que la medida tendría tal efecto. Los datos muestran otra cosa. La corregimos». Esa capacidad de autocorrección es la verdadera inteligencia. Vale para la IA y para la democracia.

Un sistema incapaz de reconocer su error se vuelve dogmático.

Es una de las ideas centrales de todo mi método.

¿Dónde está mi Blind Spot?

La economía algorítmica puede ayudar al Estado a detectarlo, siempre que esté dispuesto a mirar. Si los datos se utilizan únicamente para confirmar la política adoptada, se convierten en propaganda. El problema nunca se reduce a la herramienta. Es una cuestión de cultura institucional.

Un régimen autoritario puede usar la IA para planificar mejor ciertos sectores, pero también puede tropezar con un viejo problema: ¿llegan realmente los datos hasta arriba cuando contradicen al poder? Una planificación muy sofisticada que parte de datos falsos es peor que un sistema más rudimentario que cuenta con información veraz. Esa es precisamente la lección de la planificación soviética y también la de todas las grandes organizaciones. Si a quienes intervienen les conviene maquillar los indicadores, lo que se optimiza desde el centro es una ficción.

La IA no corrige la mentira institucional. Puede darle mayor coherencia.

Esa frase importa. Una inteligencia artificial puede procesar a la perfección datos falsificados y llegar a una decisión perfectamente equivocada. Garbage in, garbage out, pero a escala política.

Por eso la libertad de prensa, la independencia de las estadísticas y los contrapesos económicos son infraestructuras de datos. Es una manera nueva de verlos. La democracia genera ruido, pero también ofrece distintas fuentes con las que contrastar las cifras oficiales. Es una ventaja cognitiva.

Una economía abierta cuenta con numerosos sensores independientes: empresas, investigadores, medios de comunicación. Eso puede hacer que la planificación esté menos centralizada y que el diagnóstico sea más sólido. El Estado algorítmico democrático debería aprovechar esa diversidad. No tiene por qué crear un modelo único de la economía. Puede contrastar varios.

Volvemos al pluralismo de los modelos.

Un banco central puede elaborar varios escenarios internos y estudiar los modelos de los mercados y las universidades. La divergencia aporta información. En eso consiste, precisamente, un procedimiento contradictorio.

¿Por qué un modelo prevé un crecimiento del PIB del 2 % y otro del 0,5 %?

¿En qué difieren sus hipótesis?

Eso enseña mucho más que apresurarse a calcular un promedio. La incomodidad económica, si se me permite la expresión. El desacuerdo es un dato. La IA puede ayudar a trazar el mapa de las razones de esa discrepancia. Así se enriquece el debate económico.

Pero hay que preservar la diversidad de las instituciones que elaboran los modelos. Si todas emplean los mismos modelos de base y los mismos datos, el pluralismo se queda en la superficie. Reaparece el monocultivo cognitivo. El riesgo es real. Si varios ministerios, bancos y empresas utilizan un mismo gran modelo, un error común puede propagarse.

Por eso la soberanía cognitiva y la diversidad tecnológica son también cuestiones macroeconómicas. La competencia entre modelos trasciende el ámbito industrial. Protege al sistema de errores simultáneos. Puede llegar a ser un factor de estabilidad.

Imaginen que todos los grandes bancos utilizan el mismo agente para pronosticar el riesgo macroeconómico. Si el sistema infravalora un factor, todos pueden adoptar la misma posición. Ese es el riesgo sistémico: que todos adopten la misma posición al mismo tiempo. Una economía algorítmica necesita, por tanto, heterogeneidad. Resulta casi contrario a la intuición.

La eficiencia impulsa a utilizar el mejor modelo. La resiliencia puede aconsejar el uso de varios modelos que no estén tan perfectamente sincronizados.

De nuevo, hay que sopesar la optimización local y la estabilidad global. Me parece una constante de gran alcance. En la naturaleza, la diversidad a veces se paga con una menor eficiencia inmediata, pero protege frente a las perturbaciones. La economía puede seguir la misma lógica.

Quizá los reguladores tengan que vigilar la concentración cognitiva. Además de la concentración bancaria, habrá que estudiar hasta qué punto se concentran los sistemas que utilizan los bancos. Es una nueva cartografía del riesgo.

Volvemos al grafo.

¿Qué modelos utilizan los distintos actores y cuántos actores recurren a cada uno?

¿Qué proveedores constituyen nodos sistémicos?

Hace unos años nadie se habría planteado una pregunta así. Hoy resulta esencial. La economía algorítmica pone así de manifiesto que el software es una infraestructura financiera.

Pero volvamos a la planificación. Probablemente una de las mayores promesas de la IA esté en la planificación energética e industrial. Las cadenas de producción son tan complejas que nadie puede seguir todas sus dependencias. Un modelo puede detectar que una pequeña fábrica de un país lejano produce un componente crítico para todo un sector. Eso permite afinar la política industrial. En vez de subvencionar un sector entero, se pueden localizar los cuellos de botella. Es un avance enorme.

La soberanía se convierte en cartografía.

Es lo que escribí a propósito de las dependencias.

¿Qué procesadores?

¿Qué minerales?

¿Cuánto tiempo llevaría sustituirlos?

La IA permite construir una especie de gemelo de la cadena industrial. Eso puede mejorar su resiliencia. Pero también aquí asoma la tentación de dirigir hasta el último detalle. Si el Estado lo ve todo, ¿debe decidirlo todo? No. Ver permite detectar vulnerabilidades, no sustituir cada decisión empresarial.

La empresa posee un conocimiento local, asume un riesgo y cuenta con una capacidad de innovación que el modelo central puede subestimar. Es la vieja crítica a la planificación: parte de la información es local, tácita y no está codificada. La IA atenúa ese límite sin hacerlo desaparecer. El saber hacer de un ingeniero, la relación con un cliente o una intuición sobre el mercado no siempre figuran en la base de datos.

Por eso conviene no dar por sentado que la capacidad de procesamiento central vuelve innecesario el mercado.

El mercado es también un mecanismo de experimentación. Miles de empresas ensayan estrategias distintas. Algunas fracasan. De esa diversidad surgen soluciones que nadie había planeado. Es una suerte de evolución. La IA puede acelerar la experimentación privada y, por esa vía, hacer que el mercado sea aún más innovador.

A la inversa, el Estado puede emplear la IA para orientar los ámbitos en los que la experimentación privada es insuficiente porque los plazos son demasiado largos o las externalidades demasiado grandes. La investigación básica, las infraestructuras. La relación ideal podría ser, por tanto, de complementariedad.

El mercado para explorar; el Estado para crear ciertas condiciones a largo plazo y corregir determinados efectos.

La idea no tiene nada de nueva, pero la IA puede volver más dinámica la frontera. El Estado puede localizar con mayor precisión los fallos de mercado. Aunque, una vez más, el diagnóstico admite discusión. Una subvención puede generar una renta. Quienes suministran los datos pueden adueñarse de la política industrial. Si las empresas saben que el modelo público busca sectores estratégicos, pueden presentar sus actividades de manera que resulten elegidas.

De nuevo, la tentación de jugar con el sistema.

Todo indicador se convierte en un objetivo.

El Estado algorítmico no escapa a los grupos de presión. Incluso puede propiciar una nueva forma de presión a través de los datos. Las empresas optimizan la información que transmiten para obtener una puntuación favorable. Es tan fascinante como inquietante.

Una burocracia algorítmica puede trasladar la pugna política al terreno de la manipulación de los datos de entrada. Quien entiende el modelo puede aprender a influir en él. Es el mismo problema que presentan las clasificaciones y los motores de búsqueda. Los agentes económicos intentan optimizar su puntuación.

La política industrial algorítmica tendrá, pues, que resistir esas estrategias. Habrá que verificar y contrastar los datos.

Volvemos a la procedencia.

Siempre regresamos a los mismos pilares. Cuanto mayor sea el poder de decisión, mayor deberá ser la exigencia de prueba. Eso significa que el Estado necesitará datos independientes, además de los aportados mediante declaraciones. Pero recopilar en exceso puede convertirse en vigilancia económica. Las empresas necesitan guardar secretos comerciales. El mercado funciona también porque sus participantes no lo revelan todo.

Un exceso de transparencia en la planificación podría acabar con ciertas ventajas competitivas. De ahí la necesidad de estructuras seguras que trabajen con datos agregados.

Volvemos a la minimización.

El Estado debe saber lo suficiente para garantizar la resiliencia sin conocer cada secreto industrial. Es un equilibrio difícil. La IA puede facilitar ciertos análisis que respeten mejor la confidencialidad, pero la cuestión sigue siendo institucional.

¿Quién tiene acceso?

¿Para qué usos?

La confianza de las empresas depende de que se respeten los fines declarados. Si creen que un dato aportado con fines estadísticos se utilizará para una inspección fiscal o se entregará a un competidor, dejarán de cooperar o falsearán los datos. La calidad del sistema depende de la confianza.

Hay algo esencial en esto: el dato es una relación. Nadie recoge datos en el vacío. De la confianza nacen los datos de calidad. Vale tanto para Artprice como para un gobierno. Una arquitectura que traiciona los fines declarados destruye su propia fuente. Es una forma de reflexividad institucional.

Un poder que abusa puede mermar la calidad de la información que recibe.

Eso demuestra que libertad y eficiencia no siempre se oponen. Respetar las reglas puede mejorar los datos y, con ello, la eficiencia. Es un argumento importante frente a la fantasía autoritaria. Un Estado con poder para exigirlo todo no obtiene necesariamente la verdad. Los actores pueden ocultar información y adaptar su conducta. La cooperación voluntaria, basada en la confianza, puede producir mejor información. Es exactamente lo que ocurre en una empresa donde los empleados temen comunicar malas noticias a sus superiores.

La vigilancia total puede volver más ciega a la organización.

Esa es una paradoja central: querer verlo todo puede acabar por ofrecernos una visión menos fiel. La IA no resuelve ese problema. Solo puede procesar lo que recibe.

Volvemos a la noción de señal débil. Un buen sistema debe dejar que la señal disonante llegue hasta arriba. Una de las funciones del mercado es precisamente emitir señales. Un precio que sube dice algo. Puede que la señal no guste a quien planifica, pero tiene que escucharla. Una economía algorítmica sana debe preservar estos mecanismos de contradicción.

Eso me lleva a una idea: el mercado y la democracia comparten una propiedad. Son sistemas de descubrimiento distribuido. El mercado descubre precios y preferencias; la democracia, conflictos y voluntades. Ambos son ruidosos.

Una arquitectura centralizada puede parecer más ordenada, pero corre el riesgo de perder la diversidad de las señales. La IA puede ayudar a interpretar ese ruido en conjunto sin borrar la pluralidad. Ahí es donde mejor puede servirnos. No debe sustituir prematuramente el descubrimiento por la optimización centralizada.

En el mercado, eso significa dejar que los distintos actores hagan sus propias pruebas. En la democracia, dejar que se confronten las opiniones. La IA aporta una manera de leer el sistema en vez de ocupar su lugar. Digitalizar un procedimiento no equivale todavía a repensarlo. La IA permite superar la vieja oposición entre mercado y planificación.

Podemos tener un mercado muy descentralizado que se observe con instrumentos de planificación estratégica. El Estado no fija cada precio, pero puede detectar las vulnerabilidades. Quizá a eso se le podría llamar planificación aumentada: desarrollar la capacidad de anticiparse y orientar en vez de asignar cada cantidad. Identificar escenarios y dependencias para utilizar después los instrumentos clásicos —regulación, fiscalidad, inversión— con mayor conocimiento de causa. Su alcance puede ser extraordinario.

China ya tiene una arraigada cultura de orientación industrial. Estados Unidos recurre también a políticas industriales en sectores estratégicos. Europa hace lo mismo. El viejo relato que contrapone un Occidente puramente liberal a una China planificada es demasiado simple. Todas las grandes potencias combinan mercado y estrategia. Difieren el grado, las instituciones y el control político. La IA hará más complejas esas combinaciones.

Por tanto, no competirán el plan y el mercado entre sí, sino distintas arquitecturas mixtas.

¿Qué sistema sabe orientar sin asfixiar?

¿Qué sistema deja espacio a la innovación local y al mismo tiempo construye infraestructuras a largo plazo?

Esa pregunta es mucho más interesante. La respuesta puede variar según el sector. Los semiconductores requieren inversiones gigantescas y horizontes lejanos. Una aplicación informática puede surgir en poco tiempo. Sería absurdo aplicar la misma política en ambos casos.

Volvemos al nivel de detalle.

La IA permite, precisamente, evitar algunas políticas demasiado generales. Pero también puede avivar la tentación de asignar una puntuación a cada sector y crear así una burocracia que pretenda regular hasta el último detalle. Hay que evitar esa microgestión algorítmica. A una administración puede seducirle la idea de conocer la tasa óptima de inversión de cada empresa. Es una ilusión. El modelo desconoce el invento que aún no existe.

El empresario puede vislumbrar algo que los datos no muestran. Por eso la libertad económica tiene un valor que es tanto epistemológico como moral. Hace posibles experimentos imprevistos. Una sociedad que deja que varios actores ensayen alternativas multiplica sus posibilidades de descubrir algo. Es casi una estrategia de exploración.

En inteligencia artificial se habla de exploración y explotación. Explotar es optimizar lo que ya se conoce. Explorar es aventurarse por caminos inciertos. Una economía necesita ambas cosas. El mercado suele ser una formidable máquina de exploración. Una planificación excesiva da prioridad al aprovechamiento de los conocimientos existentes. La propia IA puede caer en esa trampa.

Si optimiza en exceso los sectores que hoy parecen prometedores, puede desviar recursos de las innovaciones capaces de producir rupturas inesperadas. He ahí un inmenso Blind Spot de la política industrial algorítmica. El modelo ve mejor el presente y puede hacerse más conservador al pensar el futuro. Extrapola lo que existe. A juzgar por los datos históricos, una innovación radical suele parecer una mala inversión.

Por eso hay que reservar parte de los recursos a una exploración que los modelos no justifiquen. Es casi una cartera de caos. Me gusta muchísimo esa idea. Una economía inteligente debe financiar cierto número de experimentos improbables. Investigación básica, arte, iniciativas empresariales. Muchos fracasan. Unos pocos cambian el mundo. Si solo se optimiza el rendimiento probable, podemos eliminar esos extremos de la distribución. Es exactamente la lógica de la mutación. Los mutantes son escasos. Una economía tiene que dejar que aparezcan.

Eso significa que la aparente ineficiencia puede ser una reserva de innovación.

He ahí una paradoja fundamental. Algunos gastos parecen inútiles hasta el día en que resultan imprescindibles. La investigación sobre tecnologías poco conocidas puede dar lugar, treinta años más tarde, a una revolución. El Estado y el mercado tienen, cada uno, un papel en su financiación. La IA podría inducirnos a querer justificar cada euro con una probabilidad. Sería peligroso.

La creatividad necesita un espacio que escape, en parte, al cálculo.

Vuelvo así directamente a la Demeure du Chaos y a esa idea de una zona autónoma al margen de la optimización. Una sociedad empeñada en maximizar cada rendimiento inmediato acaba por matar lo que aún carece de un valor medible. De eso el arte sabe bastante. El Mercado del Arte puede poner precio a las obras a posteriori. No puede determinar de antemano cuál de ellas cambiará la historia. El valor cultural y el financiero no siempre coinciden.

La IA puede analizar señales, pero no debe erigirse en árbitro del futuro estético. Acabaría por imponer una norma. Esa lección del arte vale para el conjunto de la economía. En toda innovación hay una parte de ruptura que se le escapa al modelo. Hace falta, pues, una política de lo inesperado.

Parece una contradicción.

¿Cómo se planifica lo inesperado?

Precisamente creando condiciones para la diversidad, presupuestos para explorar e instituciones independientes. No se planifica el resultado. Se planifica el espacio en el que puede surgir lo inesperado. Es una distinción magnífica.

La Demeure du Chaos funciona según ese mismo principio. Tiene una arquitectura de enorme rigor, gracias a la cual pueden surgir gestos libres. Un orden profundo hace posible su aparente caos. Tal vez la economía ideal de la era de la IA funcione de igual manera: una infraestructura estable, derechos sólidos, redes, educación y, sobre esa base, mucha libertad para experimentar.

El Estado construye el atanor, pero no determina con exactitud cada transmutación.

La metáfora alquímica me parece acertada. A quien ejerce el poder le corresponde crear las condiciones de la transformación, sin escoger de antemano cada forma que surja de ella. Quizá por esa vía podamos superar la estéril oposición entre Estado y mercado. El Estado puede diseñar el campo de lo posible. El mercado y la sociedad lo exploran.

Pero hacen falta límites, porque la exploración puede generar externalidades. Contaminación, monopolios. El derecho establece las prohibiciones. Reaparece la tríada: infraestructura, libertad, límites.

La IA puede mejorar los tres. Cartografiar la infraestructura necesaria, detectar externalidades y reducir los costes de entrada. Puede, si está bien concebida, abrir la economía; o centralizarla más si unos pocos actores controlan los modelos. Otra vez, la bifurcación. De ahí la importancia decisiva de quién sea dueño de las infraestructuras cognitivas.

Si un solo actor posee el modelo empleado tanto en la planificación pública como por los agentes privados, adquiere un poder extraordinario. Ve lo que ocurre a ambos lados. Esa concentración de la información puede resultar peligrosa. Son necesarios, pues, varios proveedores y capacidades propias del sector público. Volvemos a la soberanía.

Para pensar la economía algorítmica hay que tener en cuenta la geopolítica de las infraestructuras. Una potencia que depende de otra para sus modelos macroeconómicos o sus herramientas de planificación industrial delega parte de su capacidad estratégica. Eso no quiere decir que todo modelo extranjero sea peligroso. Pero las funciones más críticas requieren control y auditoría. La regla es la misma en todas partes. La IA atraviesa todos los ámbitos; los principios se mantienen.

En la planificación pública, la cuestión de los datos resulta especialmente delicada. Para optimizar el transporte, la energía o la sanidad, el modelo pide muchísima información. Existe la tentación de integrar cada vez más. Volvemos al Estado algorítmico. La eficiencia y la vigilancia se encuentran. Una economía planificada mediante datos puede convertirse en una sociedad planificada mediante datos. Ahí es donde el peligro político cobra enormes proporciones.

Cabe justificar la recogida de datos para optimizar recursos y usarlos luego para evaluar conductas. Esa frontera técnica no viene dada. La ley debe limitar los fines y exigir la separación de los datos. No es casual que esto se repita. Es la misma arquitectura de poder bajo otra forma.

Una planificación económica democrática debe aceptar que ciertas parcelas de la vida individual permanezcan fuera de su vista.

El Estado no necesita saber quién compra cada libro para prever el consumo de papel. Le bastan los datos agregados. Minimizar la recogida es, por tanto, compatible con la eficiencia. A veces la IA permite trabajar con datos menos invasivos si se eligen bien las técnicas. Pero la protección debe ser un objetivo explícito. De lo contrario, la lógica del modelo lleva a acumular cada vez más datos.

«Más datos = mejor modelo» se convierte en una justificación sin fin.

Hay que poner freno a esa lógica.

¿Mejor modelo? ¿Con qué ganancia marginal y a qué coste en libertad?

Una vez más, hay que sopesar lo que se gana y lo que se pierde. Casi podríamos enunciar un principio de proporcionalidad informativa: recoger un dato adicional únicamente cuando la mejora efectiva en la decisión justifique la posible intromisión. El derecho ya conoce esa lógica. La IA la hace más urgente. Aplicarla podría evitar que, en nombre de la eficiencia, acabemos construyendo una economía panóptica.

China ofrece aquí un modelo de coordinación cuyo estudio me parece especialmente instructivo.

Su capacidad para combinar Estado, datos e industria puede mejorar la coordinación. Pero también plantea los problemas de vigilancia y libertad de los que hemos hablado. Las democracias deben evitar dos errores simétricos: menospreciar las mejoras de eficiencia que brinda una mejor coordinación o imitarlas prescindiendo de sus propios contrapesos. Tienen que construir su propia arquitectura. Una planificación aumentada, democrática, transparente y limitada. Podría abrir una vía propia. Por ejemplo, utilizar la IA para trazar un mapa de las necesidades energéticas sin elaborar perfiles individuales, orientar la inversión industrial mediante datos agregados y evaluar públicamente las políticas. Ese modelo es posible. Exige mayor sofisticación porque debe incorporar desde el diseño los límites que impone el respeto de los derechos. Pero de ese límite puede nacer una confianza mayor.

De nuevo, la regulación como infraestructura de confianza.

La cuestión es si esa arquitectura será lo bastante rápida para competir a escala mundial. Esa es la prueba. Probablemente Europa tendrá que aligerar sus procedimientos sin rebajar sus protecciones. Es difícil, pero posible. Hay que distinguir la burocracia inútil del procedimiento que protege. Volvemos a la latencia de una civilización.

Digitalizar y automatizar los formularios puede liberar tiempo para examinar el fondo de cada asunto. La IA puede, pues, hacer más eficaz al Estado sin volverlo más autoritario. Se necesita una visión política clara. Y quizá la verdadera competición mundial se decida ahí: ¿qué arquitectura genera a la vez poder y legitimidad?

Un Estado muy eficaz que no inspire confianza puede tropezar con límites sociales. Una democracia muy legítima pero incapaz de llevar sus decisiones a la práctica puede debilitarse. Hacen falta las dos cosas. En teoría, la IA puede aumentar la capacidad de ejecución de las democracias. Es una oportunidad histórica. La administración puede tramitar los asuntos con mayor rapidez y evaluar mejor las políticas. Pero la decisión sobre sus fines no se puede delegar.

Ahí sigue estando la divisoria. La máquina optimiza los medios; la sociedad debate los fines.

La distinción puede parecer demasiado nítida, porque a veces la elección de un medio modifica el fin. Una tecnología de vigilancia no es un medio neutro. Seamos más precisos: la IA puede ayudar a optimizar dentro de un marco de valores y límites definido expresamente por procedimientos democráticos. Cuando un medio modifica esos valores, la decisión debe volver al ámbito político. Es una arquitectura de subsidiariedad. Las decisiones rutinarias se encomiendan al sistema. Las normativas vuelven a las personas.

Este principio permitiría organizar muchas cosas. Pero hay que saber reconocer la dimensión normativa. Elegir una ponderación puede parecer una decisión técnica. No lo es. Una vez más, resulta esencial la formación de quienes deciden. El peligro no es que el ingeniero se proponga arrebatarles el poder. Puede que simplemente tenga que tomar una decisión para que funcione el modelo. Si el responsable político no la advierte, la decisión queda implícita. Hacen falta procedimientos que permitan identificar los parámetros normativos. Una suerte de auditoría de valores.

¿Qué decisiones de diseño reflejan preferencias de la sociedad?

Es un campo nuevo. La IA lleva la ética al terreno de la práctica. La expresión vuelve a aparecer. Para programar un modelo hay que fijar objetivos. Eso obliga a hacer explícito lo que las instituciones a veces dejaban en la vaguedad. Es beneficioso cuando hay debate. Peligroso si la ingeniería decide por sí sola. Por eso es indispensable la colaboración entre disciplinas. Economistas, juristas, ingenieros, sociólogos. Otra vez, el fin de los compartimentos estancos. Así es exactamente como pienso.

Una planificación puramente económica que ignore la psicología, el derecho y la realidad material conduce a errores. La economía algorítmica exige una mente capaz de abarcar el mundo. Obliga a relacionar la energía, los datos y las conductas. Puede ser una fuente de extraordinaria riqueza intelectual.

Pero cuidado con la ilusión de totalidad.

Cuantas más dimensiones relaciona el modelo, más omnisciente parece. Hay que conservar la posibilidad de decir: falta algo. El Blind Spot nunca desaparece. Se desplaza. Hasta el modelo más completo deja algo fuera. Es una verdad casi filosófica. Ningún sistema contiene por entero el mundo del que forma parte. La economía algorítmica es ella misma un actor de la economía. No puede situarse fuera de ella.

Eso pone límites a toda pretensión de alcanzar un óptimo total. Quizá sea esa la razón última por la que el óptimo social es una ilusión peligrosa.

No existe un punto final en el que se resuelvan todas las contradicciones. Una sociedad es un proceso de negociación constante entre valores, generaciones e intereses. La IA puede mejorar la calidad de esa negociación. No debe pretender darla por concluida. En esa apertura consiste la democracia. Una decisión se puede impugnar, revisar. El óptimo tecnocrático querría cerrar el debate: hemos calculado la mejor solución. Es la negación de la política. La política comienza precisamente donde cabe defender varias soluciones a partir de valores distintos.

La sociedad no es un problema cuya solución esté escondida en los datos.

Esa frase me parece fundamental. Los datos muestran consecuencias. No contienen la finalidad de la vida en común. Por eso rechazo toda idea de gobierno por IA. Gobernar significa elegir, asumir la responsabilidad y aceptar que otros puedan impugnar la decisión. Para un gobierno, la IA puede ser un instrumento cognitivo extraordinario. No debe convertirse en fuente de legitimidad. Es la misma distinción que atraviesa los capítulos anteriores.

La legitimidad sigue siendo humana e institucional.

Mi insistencia no debe entenderse como una defensa celosa de la superioridad humana. No busco proteger un privilegio cognitivo. Acepto la cuarta herida narcisista. La máquina puede superarnos en muchas cosas. El asunto es otro. La legitimidad no es un concurso de inteligencia. Un niño tiene derechos aunque no sepa calcular. En una democracia tienen voz ciudadanos con grados de pericia muy distintos. Es una elección moral. La inteligencia no otorga por sí sola el derecho a mandar. De ser así, hace tiempo que habríamos entregado el poder político a los matemáticos más brillantes. No lo hacemos porque gobernar exige representar intereses y valores.

Hay que distinguir, pues, la IA de la soberanía política, incluso si llega a resultar indispensable para el ejercicio técnico del poder.

Es una distinción sutil y decisiva. El soberano recurre a una inteligencia sin subordinarse a ella. En eso consiste la soberanía cognitiva colectiva. Habrá que proteger institucionalmente esa distinción. Quizá determinadas decisiones deban mencionar expresamente los modelos utilizados y llevar la firma de una persona que responda de ellas.

Volvemos a la firma.

La responsabilidad es el hilo que mantiene al ser humano dentro de la arquitectura sin exigirle que haga personalmente todos los cálculos. Me parece muy sano. Un ministro puede decir: varios modelos apuntan a tal riesgo; hemos elegido esta política por tales motivos. El debate puede entonces centrarse en los motivos y en los datos. Eso es una democracia aumentada.

Pero los ciudadanos necesitan para ello información suficiente. La complejidad no debe servir de pretexto para el secreto. Cabe publicar las hipótesis principales. Los investigadores pueden analizarlas. Surge así una forma nueva de gobierno abierto en el ámbito algorítmico. Es prometedora. No siempre es necesario hacer público todo el código, sobre todo si contiene elementos sensibles. Pero a menudo deberían poder consultarse la metodología, las fuentes y los parámetros principales.

Volvemos a la proporcionalidad.

La transparencia debe bastar para que sea posible impugnar una decisión. Eso entronca directamente con la arquitectura de la confianza. Una política económica algorítmica necesita una procedencia identificable. ¿De dónde sale el diagnóstico? ¿De qué modelos? Eso puede mejorar enormemente el debate público. En lugar de intercambiar eslóganes, podemos contrastar hipótesis.

Pero hace falta una mediación periodística y universitaria sólida. De lo contrario, el volumen de datos genera una nueva opacidad. Democratizar el análisis requiere intermediarios de confianza. Volvemos a encontrarnos con el papel de las instituciones. La IA no suprime a los expertos: puede multiplicar su capacidad. Pero el ciudadano debe poder entender lo esencial. Se necesitan interfaces, representaciones visuales.

Volvemos al diseño.

La forma de presentar una política influye en cómo se entiende. Una simulación interactiva podría mostrar qué se gana y a qué se renuncia en cada caso. Es una perspectiva interesante para la democracia. El ciudadano modifica un parámetro y ve las consecuencias estimadas. Eso haría más concretas las disyuntivas. Pero el ejercicio de simulación no debe dar una falsa impresión de precisión. Los márgenes de incertidumbre deben estar a la vista. El modelo no es un tablero desde el que se gobierna la realidad.

Volvemos a la humildad.

La IA puede informar mejor el debate si también muestra lo que ignora. Creo que esa es casi una condición de toda economía algorítmica democrática: el sistema tiene que dar cuenta de la incertidumbre en sus resultados, en lugar de ocultarla como un defecto. Un modelo debe poder decir: «Este parámetro es demasiado incierto para optimizar». Es una manera de reconocer sus propios límites. Nos protege de la desmesura tecnocrática.

Y esa desmesura es, precisamente, el último peligro que aborda este capítulo.

Creer que, porque podemos medir muchísimas cosas, podemos dominar el conjunto. La historia castiga esa creencia. En los sistemas complejos surgen comportamientos emergentes. La economía probablemente sea uno de los sistemas más complejos. Miles de millones de individuos, empresas, tecnologías, culturas. La IA puede ampliar nuestra visión en varios órdenes de magnitud. No vuelve sencillo el mundo. Quizá revele aún mejor su complejidad.

Ahí veo una correspondencia profunda con la teoría del caos. Conocer mejor las condiciones iniciales mejora determinados pronósticos, pero el sistema sigue siendo sensible. Podemos ampliar el horizonte de predicción sin alcanzar la omnisciencia.

La sabiduría consiste en emplear el modelo para ganar resiliencia en vez de pretender que borre la incertidumbre.

Esa es la diferencia entre predecir una crisis y preparar un sistema capaz de sobrevivir a varias crisis posibles. El primer planteamiento busca un oráculo. El segundo construye resiliencia. Elijo el segundo. Probablemente sea el hilo conductor de toda esta parte geopolítica y económica. No sabemos exactamente qué golpe nos espera. Incorporemos redundancias, desarrollemos capacidad de adaptación. La IA puede ayudarnos a explorar los escenarios.

Su valor no está en anunciarnos el porvenir, sino en prepararnos para varios futuros posibles.

Esa definición me parece mucho más sólida. Una economía algorítmica madura destacará menos por una planificación perfecta que por su capacidad para detectar antes, poner a prueba más deprisa y corregir mejor. Se parece a una inteligencia viva. Percepción, acción, retroalimentación.

Pero ese ciclo debe permanecer abierto a la pluralidad humana. Ahí interviene la democracia. La máquina mide la respuesta cuantitativa. El ciudadano puede decir que una política es insoportable por mucho que los indicadores sean buenos. Esa señal debe contar. El PIB no siempre recoge el sufrimiento social. Los chalecos amarillos lo pusieron de manifiesto de manera espectacular en Francia: una medida puede resultar racional dentro de cierto marco y chocar con una realidad vivida que el modelo había subestimado. Ahí está el Blind Spot: en aquello a lo que el modelo del promedio había atribuido demasiado poco peso. La economía algorítmica debe, pues, incorporar señales cualitativas.

Encuestas, consultas, trabajo de campo. Vuelve el sentido común campesino. Una curva puede indicar que, de media, la medida es soportable. Quien tiene que conducir cincuenta kilómetros cada día sabe algo distinto. La realidad local debe llegar hasta arriba. Eso aboga por descentralizar la arquitectura de la planificación. El centro ve el conjunto; desde el territorio se aprecia el detalle. Hacen falta las dos miradas.

Volvemos a la federación cognitiva.

La IA puede sintetizar las respuestas que llegan de cada territorio sin pasar por encima de ellas. Es una promesa magnífica. Pero si el centro solo la utiliza para calcular un promedio, las excepciones se pierden.

Una vez más, hay que preservar el desacuerdo.

La IA permitiría adaptar mejor la política pública a cada territorio y a su contexto. Pero eso plantea una cuestión de igualdad. Aplicar reglas distintas según el territorio puede ser eficaz y, sin embargo, percibirse como injusto. Hay que distinguir entre igualdad y uniformidad. El derecho ya lo hace. La IA permite personalizar más y, con ello, afinar la actuación del Estado. Pero un exceso de personalización puede volver irreconocible la regla común. Otra disyuntiva.

Una sociedad necesita principios comunes.

No hay que calcularlo todo caso por caso. De lo contrario, dos vecinos pueden recibir tratos distintos sin entender por qué. La eficiencia algorítmica puede socavar el sentimiento de justicia. Vale tanto para los precios como para las políticas públicas. Una regla general puede ser menos adecuada para cada caso particular y, aun así, más legítima, porque es comprensible. La sencillez tiene también un valor democrático: puede ser más legítima una norma que todos entienden que una optimización individual cuyo funcionamiento se ha vuelto opaco.

La ingeniería tiende a buscar una optimización minuciosa; el derecho conserva a veces categorías generales porque hacen visible la regla. La economía algorítmica tendrá que dar con el grado de detalle adecuado. Volvemos a esa palabra inevitable: granularidad. Si el sistema opera a grandes rasgos, despilfarra recursos. Si llega al detalle extremo, se vuelve opaco y arbitrario.

Gobernar también es el arte de elegir la resolución, como en una imagen.

¿Qué grado de detalle resulta útil?

Me recuerda al gemelo digital de la Demeure du Chaos. Podemos aumentar la precisión, pero siempre surge la misma pregunta: ¿para qué función? Un mapa con precisión milimétrica no sirve para conducir de Lyon a París. La precisión no es un valor absoluto. La resolución debe ajustarse a la decisión que se ha de tomar. Es una lección fundamental para la IA.

Más datos no siempre son mejores. Mayor precisión no siempre equivale a mayor inteligencia. La inteligencia consiste en elegir el nivel pertinente.

Así pues, para juzgar la calidad de un modelo no basta contar los detalles que procesa. Quizá sea ahí donde el ser humano y la IA puedan formar una combinación extraordinaria. La máquina recorre los detalles. El ser humano elige la resolución que tiene sentido desde el punto de vista político.

Una función objetivo nunca es el fin mismo: es su traducción. Hay que poder examinar de nuevo tanto los resultados del modelo como la manera en que se convirtió el objetivo en variables mensurables.

Esa complementariedad puede dar mucha fuerza. Pero exige que el ser humano conserve la formación suficiente para no volverse dependiente.

Volvemos a la soberanía cognitiva.

Quien decide debe poder preguntar: ¿por qué necesitamos ese grado de detalle? ¿Qué coste supone en datos? Volvemos al terreno político.

Sin embargo, la optimización económica tropieza con un límite cuando deja de ocuparse únicamente de los flujos y empieza a convertir a la persona en objeto de evaluación permanente. Entonces la cuestión ya no es el óptimo del sistema, sino la libertad de cada persona ante lo que se predice de ella.