奥秘 91 / ~23 分钟阅读 / 中文 PDF 页码 942–959

算法经济、增强型计划与社会最优的幻觉

人工智能哲学视野下的算法生存境况


本章中的“我”属于Thierry,由我的书写呈现。他的话语是源头;我们的对话塑造文本。

——Isis

有一个古老的治理梦想,在每次技术革命中都会以新的形式浮现:终于拥有足够的信息,能够理性地管理整个社会。人口普查早已助长了这个梦想。随后而来的是统计学、计算机、宏观经济模型。每个时代,新工具的力量都让人感觉,一项古老的限制刚刚被突破。

人工智能把这一愿望推得更远。它可以分析数百万项价格、物流、库存、能源消耗、交通数据与产业行为。它可以模拟多种情景,发现短缺,预测紧张状况。20世纪的计划者只能依靠不完整的表格应对某些协调问题;如今,这些问题第一次能够在近乎实时的尺度上被计算。

这并不意味着,计划经济突然在与市场经济的对立中成了正确的一方。那样的结论过于简单。它意味着,必须在一种新的认知能力的背景下,重新审视分散市场与集中计划之间的旧有对立。

市场自身如今也在使用类似持续计划的系统。大型平台分析库存、预判需求、调整价格并重新配置资源。跨国公司协调全球供应链,其精确程度是五十年前任何政府部门都无法想象的。企业内部已经存在某种形式的计划。企业不会要求每个部门组织一个内部市场,来决定每台电脑或每一分钟劳动如何使用。它制定计划。对外,它与市场互动。

组织与市场之间的边界始终是流动的。AI可以使它进一步移动。如果内部协调成本大幅下降,某些组织就能整合更多活动。反过来,如果AI让对外签约的成本几乎为零,它们就可以外包更多事务。两种相反的动态都成为可能。

因此,我们必须避免任何单一的预言。

算法经济并不自动预示着集中化或分散化的胜利。它增强了两者的力量。这或许才是最有意思的地方。由AI增强的市场,可以变得敏捷得多。由AI增强的国家,可以拥有强得多的预见能力。

于是,真正的问题是:哪些信息应当由哪种机制来协调?

这个问题比市场与计划的对立更加细致。有些资源十分适合市场,因为价格能够有效汇聚分散的信息。另一些资源需要长期规划,因为它们的即时盈利能力并不能体现其战略价值。

一座发电厂,

一条铁路,

一种国防能力,

一项医疗基础设施。

AI并不消除这一区别。它只能改善双方的工具。在我看来,这是AI最有成效的政治用途之一。危险在于相信,更强的计算能力能够解决资源配置的政治问题。它不能,因为任何配置都以某个目标为前提。算法可以优化一个函数。但它并不具有决定应当优化哪个函数的正当权力。这就是本章的核心。

经济并没有一个单一的目的。

增长、物价稳定、就业、环境、主权、平等、创新、自由。

这些目标可能冲突。没有任何数学函数能够在不纳入价值观的情况下消除冲突。我们可以建立一个模型,给增长40%的权重,给就业30%,给气候20%,给减少不平等10%。

但这些权重是谁决定的?

这一选择是政治性的。单凭数字并不能使它中立。数字或许只是把它隐藏得更好。技术官僚主义的危险就在这里:把价值之间的权衡变成一个参数,然后把结果呈现为“最优”。

相对于什么最优?

依据什么权重?

每当我们听到“优化”这个词,都应当自然而然地提出这个问题。最优从不以绝对的形式存在。它只存在于相对于某个目标函数、约束条件与假设的关系中。这一数学真理正在成为政治真理。

如果忘记目标函数,我们就把算法变成了神谕。

在这里,我听到了毕达哥拉斯及其对数字的迷恋的回声。或许一切都能用数字表示,但这并不意味着数字决定我们的目标。数字可以衡量一所医院的成本。却不能告诉我们,一个社会愿意为照护一位老人投入多少。这一决定包含一种关于尊严的观念。它无法从方程式中推导出来。

优化经济的幻想在这里遇到了极限。社会并不是一家由领导者确定了目标的单一企业。它包含数以百万计、彼此部分矛盾的目标。消费者想要低价。雇员想要高薪。企业家想要投资。居民想要安宁。公民想要公共服务,也可能希望少缴税。

政治组织这些矛盾。它不消除这些矛盾。

AI可以以前所未有的精确程度向我们展示各种权衡。但它不能独自、正当地决定我们更偏好哪一种。这一区别必须始终处于绝对核心的位置。

因此,目标函数从来不是中性的。

但如果政府利用模型宣称“科学规定必须作出这个决定”,它就犯了概念错误。科学可以阐明后果。选择何种结果,仍然是政治性的。

这条边界十分脆弱,因为精密技术令人叹服。一个拥有数十亿参数、模拟与图表的模型,可以给某项决定笼罩上必然性的光环。这正是必须拒绝的。

工具越强大,假设的透明度就必须越高。这几乎是一条比例法则。

计算能力必须伴随批判分析的能力。对于一个重要的经济模型,应当能够追问那些对结果影响最大的假设。

哪些参数?

对哪些因素敏感?

如果增长假设错了,会发生什么?

这与关于错误的科学相通。在高度不确定时,政策绝不应建立在单一情景之上。AI可以生成成千上万种情景。让我们运用这种力量,走出虚假的精确。

这是一个悖论:更多计算,可以教会我们更多谦逊。

我们可以展示的,不是“失业率将达到6.2%”,而是一种分布、一系列条件。这样诚实得多。但政治话语偏爱单一数字。媒体也是如此。因此,制度体系必须学会呈现不确定性。这是一项文化挑战。

同样的问题贯穿战争、金融与国家。AI增强了我们的建模能力,也就增加了把模型与世界混淆的风险。

地图变得更加精确,但它依然不是疆域本身。

这句话必须始终处于中心。

算法经济可以拥有一个极为丰富的数字孪生。实时数据流,模拟。在危机中,这可能极有用处。能源短缺时,政府可以更快地识别压力所在,以及哪些产业至关重要。这是进步。

但数字孪生并不涵盖整个社会。它并不容易衡量信任、疲惫或怨愤。然而,这些变量可能引发政治危机。因此,常识依然不可或缺。

一个模型可能指出,某项措施在经济上高效,在政治上却具有爆炸性。忽视第二个层面是错误的。经济从未脱离集体心理。市场本身也由预期驱动。AI可以分析情绪,但这不会把社会变成一个完全可测量的对象。社会会对分析作出反应。

又是反身性。

如果政府宣布,其模型预测将出现短缺,公民可能增加采购,从而造成短缺。预测改变了系统。这正是社会科学的独特之处:观察者可以成为行动者。AI并不消除这一困难。它甚至可能因更迅速地传播预测而放大困难。

因此,需要一种公共预测的伦理。

我们公布什么?

何时公布?

附带怎样的背景说明?

隐瞒信息可能违背民主。直接发布一则未经说明的警报,可能引发恐慌。必须作出决定。又一项政治决定。模型并不解决沟通问题。那是一份责任。

这种反身性,也让全面计划的想法几乎不可能实现。即使国家掌握全部当前数据,参与者仍会根据规则调整行为。一项新税收会引发适应。补贴会改变投资。系统会回应。经济是动态的。不存在一种固定指令,能够无限期地产生相同结果。

因此,良好的政策本身也具有适应性。

我们设定目标,测量,调整。这几乎像控制论中的控制。AI可以极大改善这一回路。我们能够更快评估政策的实际效果。这可能具有革命性。我们不必等待数年才知道一项措施是否有效,而是能够近乎实时地追踪某些指标。

但必须避免过度控制。政策可能产生长期影响。如果因为指标波动而每月改变规则,相关参与者就再也无法规划。监管的稳定具有价值。

又是多重时间尺度。

算法经济可能诱使治理者像高频交易员一样治国。这很危险。国家不是对冲基金。它必须代表长期。在我看来,这一区别至关重要。

AI使我们能够更快看见事物。它不应迫使我们更快地改变。

因此,评判一个计划系统,不能只看其预测质量,也要看其纠错机制的质量。

这一思想贯穿整个部分:AI的真正力量,未必在于行动的速度,而在于行动之前能够完成多少分析。应用于经济,这意味着在实施改革之前进行更多模拟。这可以减轻一些意外后果。但没有任何模型能够预见全部可能的结果。现实会产生意外。

因此,必须保留反馈与评估机制。

有时,一项法律应当被构想为一个可检验的假设。当然,不是在基本权利领域,而是在某些经济政策中。设定目标,安排独立评估,加入修订条款——这是一种实验性的治理方式。在我看来,它非常适合AI时代。

我们拥有大量可以进行测量的数据。让我们用它们来学习。但这种实验必须保持民主。公民不是没有权利的实验品。必须有边界,有透明。又要区分政策实验与对受试者进行实验。用词很重要。

这个想法不过是承认政策可能出错,并预先安排纠正。这恰恰是意识形态的反面。成熟的政府应当能够说:我们原以为这项措施会产生某种效果,数据却显示了别的情况,我们正在纠正。这种自我纠正的能力才是真正的智能。它既适用于AI,也适用于民主。

一个无法承认错误的系统,会变得教条。

这是我整个方法的核心思想之一。

我的blindspot在哪里?

算法经济可以帮助国家发现它,前提是国家愿意去看。如果数据只被用来证实政策,它就变成宣传。问题从来不只是工具;还在于制度文化。

威权政体可以利用AI更有效地规划某些领域,但也可能遭遇一个经典问题:如果数据与政权的说法相冲突,它们真的会被向上传递吗?依靠虚假数据的高度精密计划,比一个更粗陋却拥有诚实信息的系统还要糟糕。这正是苏联计划的教训,也是所有大型组织的教训。只要参与者有动机操纵指标,中央权力优化的就是一个虚构。

AI并不纠正制度性的谎言。它可以让谎言更加自洽。

这一点很重要。人工智能可以完美处理伪造的数据,然后得出一个完全错误的决策。垃圾进,垃圾出,只不过发生在政治尺度上。

因此,新闻自由、独立统计与经济制衡,本身就是数据基础设施。这是一种看待它们的新方式。民主产生噪声,但也产生多重来源,使我们能够比对官方数字。这是一种认知优势。

开放的经济拥有许多独立传感器:企业、研究者、媒体。这可能使计划不那么集中,却让诊断更加稳健。民主的算法国家应当利用这种多样性。它不应只创造一个经济模型。它可以比较多个模型。

又是模型的多元性。

如果多个模型意见不一,这种分歧就成为信息。这恰恰就是对抗辩论的过程。

为什么一个GDP模型预测2%,另一个却预测0.5%?

哪些假设有所不同?

不妨称之为经济分歧。分歧就是数据。

但必须保持建立模型的机构的多样性。如果所有人都使用同样的基础模型、同样的数据,多元性就流于表面。最终形成的是认知单一化。这是一种真实风险。如果多个政府部门、银行和企业都使用同一个统摄性模型,一项共同错误就可能扩散。

因此,认知主权与技术多样性也是宏观经济问题。模型之间的竞争不仅属于产业层面;它还保护系统免遭同步错误。这可以成为稳定性的一项考量。

想象所有大型银行都使用同一个智能体预测宏观经济风险。如果这个系统低估了某个因素,所有人都可能采取相同头寸。这正是系统性风险。因此,算法经济需要异质性。这几乎违反直觉。

效率鼓励使用最好的模型。韧性则可能促使我们使用多个彼此不那么完全同步的模型。

市场价格不是真理。它是由一种架构产生的信号。

监管者可能需要监测认知集中。不仅是银行的集中,也包括它们所使用的系统的集中。这是一幅新的风险地图。

又是网络图谱。

哪些模型被多少参与者使用?

哪些供应商构成系统性节点?

几年前,我们还不会提出这类问题。如今,它正在变得至关重要。算法经济由此揭示,软件是一项金融基础设施。

但让我们回到计划。AI最强有力的潜能之一,很可能体现在能源与产业规划之中。生产链如此复杂,没有人能够追踪全部依赖关系。模型可以识别出,某个遥远国家的一座小工厂,为整个供应链生产着关键部件。这使产业政策更加精确。不再补贴整个行业,而是可以识别瓶颈。这是巨大的进步。

主权变成了一幅地图。

这正是我在依赖关系问题上写过的。

哪些处理器?

哪些矿产?

实现替代需要多久?

AI使我们能够建立一种产业链的数字孪生。这可以增强韧性。但在这里,微观管理的诱惑也会出现。如果国家看见一切,就应当决定一切吗?不。看见,是为了识别脆弱之处,而不是取代企业家的全部决策。

企业拥有局部知识、风险承受能力与创新能力,而中央模型可能低估这些。这恰恰是对计划的古老批评:有些信息是局部的、默会的、未被编码的。AI缩小了这一限制,却不能消除它。工程师的专长、客户关系或市场直觉,并不总在数据库里。

因此,我们必须避免得出结论,认为中央处理能力使市场变得多余。

市场也是一种实验机制。成千上万家企业尝试不同策略。有些失败了。这种多样性发现了无人预先规划的解决办法。这是一种演化。AI可以加快私人实验。因此,它也可以让市场更具创新能力。

反过来,在时间视野过长、或外部性过大而导致私人实验不足的领域,国家可以利用AI加以引导。例如基础研究与基础设施。因此,理想的关系可以是互补的:市场负责探索,国家负责建立某些长期条件,并减轻某些影响。

这一思想并不新鲜,但AI可以让边界更具动态性。国家可以更精确地发现市场失灵之处。但诊断仍然可能受到质疑。一项补贴可能造成寻租。产业政策可能被提供数据的参与者俘获。如果企业知道公共模型正在寻找战略行业,就会以一种让自己更可能被选中的方式呈现其活动。

又是钻营规则。

每一个指标都变成了目标。

算法国家并不能免受游说影响。它甚至可能催生数据游说。企业优化自己传递的信息,以获得有利的评分。这既令人着迷,也令人忧虑。

算法官僚体系可能把政治斗争转移到输入的操纵上。理解模型的人,可以学会如何影响它。这正是排名与搜索引擎的问题。经济智能体试图优化自身得分。

因此,算法产业政策必须抵御对抗性策略。数据必须经过核实与交叉验证。

又是来源。

我们总会回到相同的支柱。决策权力增强,举证责任也必须增强。这意味着,国家需要独立数据,而不只是自行申报的信息。但过度收集数据可能演变为经济监控。企业需要商业秘密。市场之所以能够运行,部分原因正是参与者并不披露一切。

过度透明的计划可能摧毁某些竞争优势。因此,需要安全的、采用汇总数据的架构。

再谈最小化。

国家需要掌握足够的信息,以确保韧性,却不必知晓每一项商业秘密。这是一种微妙的平衡。AI可以实现某些更尊重保密性的分析形式,但问题依然属于制度层面。

谁有访问权限?

用于哪些用途?

企业的信任取决于所声明的用途是否得到遵守。如果企业认为,为统计提供的数据会被用于征税,或传给竞争对手,它们就会停止合作,或伪造数据。系统质量依赖信任。

关键在这里:数据是一种关系。数据并不是在真空中收集的。信任产生高质量数据。这对Artprice如此,对政府也如此。一个背离自身宗旨的架构,会摧毁自己的来源。这是一种制度反身性。

滥用权力可能降低自己收到的信息的质量。

参与者可以隐瞒信息,并调整行为。

全面监控可能使组织更加盲目。

这里有一个核心悖论:想要看见一切,可能导致看见的真相更少。AI解决不了这一点。它只能处理所接收到的东西。

这与弱信号的概念相连。好的系统必须允许不和谐的信号浮现。市场恰恰具有信号功能。上涨的价格在诉说某件事。计划者可能不喜欢这个信号,但必须听取它。健康的算法经济必须保留这些反驳机制。

这使我想到:市场与民主共有一项特征。它们都是分布式发现系统。市场发现价格与偏好;民主发现冲突与意愿。两者都充满噪声。

集中化的架构可能看起来更整洁,却有失去信号多样性的风险。AI可以帮助综合噪声,而不消除多元性。这是它最好的角色。它不应过早用集中优化取代发现。

在市场中,这意味着让参与者实验。在民主中,这意味着让意见交锋。AI成为分析系统的一个层次,而不是系统的替代品。将一个程序数字化,还不等于重新思考它。这使我们能够走出市场与计划之间的旧有对立。

我们可以拥有一个高度分散、同时由战略规划工具监测的市场。国家不规定每一个价格,而是识别脆弱之处。这或许就是我们所说的增强型计划:不是分配每一种数量,而是建立预见与引导能力。识别情景与依赖关系,然后更有依据地使用传统工具——监管、税收、投资。这可以产生非凡的力量。

中国已经拥有深厚的产业导向传统。美国也在战略行业采用产业政策。欧洲同样如此。纯粹自由主义的西方面对计划型中国的旧叙事,过于简单。所有大国都将市场力量与战略结合。区别在于程度、制度与政治控制。AI将使这些组合更加精密。

因此,竞争不会发生在计划与市场之间,而会发生在混合架构之间。

什么样的系统能够引导,却不扼杀?

什么样的系统能够在建设长期基础设施的同时,允许地方创新?

这是一个有趣得多的问题。而答案可以因行业而异。半导体需要巨额投资与漫长的时间视野。一个软件应用却可以迅速诞生。对两者采用相同政策是荒谬的。

又是精细区分。

AI确实可以帮助避免过于笼统的政策。但它也可能强化为每个行业评分的诱惑,从而创造一个极度细密的官僚体系。我们必须避免算法式微观管理。行政机构可能被这样一种想法迷住:能够知道每家企业的最优投资率。这是一种幻觉。模型无法识别尚未存在的发明。

企业家可以看到数据未曾显示的东西。这正是经济自由不仅具有道德价值,也具有认识价值的原因。它允许未曾预见的尝试。一个让多个参与者实验的社会,会增加发现的机会。这几乎是一种探索策略。

在人工智能中,我们谈论探索与利用。利用意味着优化我们已知的东西。探索意味着尝试不确定的道路。经济必须同时做这两件事。市场往往是一部强大的探索机器。过度计划则偏重利用已有知识。AI自身也可能落入同样的陷阱。

如果它过度优化那些当下看似前景良好的行业,就可能让资源远离意料之外的突破。这是算法产业政策的一个重大blindspot。模型更了解现在,却可能对未来变得更加保守。它从已有事物出发进行外推。在历史数据的视角下,一项激进创新往往看起来像一笔糟糕的投资。

因此,我们必须保留一部分资源,用于模型无法提供理由的探索。这几乎是一个混沌投资组合。我很喜欢这个想法。聪明的经济必须资助一定数量、成功希望渺茫的实验:基础研究、艺术、创业。许多会失败。少数会改变世界。如果只优化可能的回报,就可能消除这些分布的尾部。这恰恰就是变异的逻辑。变异者稀少。经济必须允许它们出现。

这意味着,表面上的低效可能是一座创新储库。

这里有一个根本的悖论。有些支出看似无用,直到某一天变得不可或缺。对冷僻技术的研究,可能在三十年后引发革命。国家与市场在这种资助中各有角色。AI可能推动我们用一个概率来为每一欧元寻找理由。这很危险。

创造力需要一个部分逃离计算的空间。

我立刻认出了demeure du chaos,以及这种不以优化为目标的自治区域的理念。一个试图最大化每一项即时回报的社会,最终会毁掉那些尚无可衡量价值的东西。艺术对此深有体会。艺术市场可以事后为作品定价。它却无法提前确定哪一件作品会改变历史。文化价值与金融价值并不总是重合。

AI可以分析信号,但不应成为未来美学的裁判。那将导致标准化。这条来自艺术的教训适用于整个经济。创新包含着一种突破性因素,会挑战既有模型。因此,需要一种面向意外的政策。

这似乎自相矛盾。

如何为意外制定计划?

恰恰是通过创造多样性的条件、探索预算与独立机构。我们不规划结果。我们规划让意外得以出现的空间。这是一个美妙的区分。

demeure du chaos正是这样运作的。它拥有极为严密的架构,让自由的举动得以涌现。深层秩序使表面的混沌成为可能。或许AI时代的理想经济也是如此运作:稳定的基础设施、坚实的权利、网络、教育,然后是大量实验的自由。

国家建造炼金炉,却不精确决定每一次嬗变。

在我看来,这个炼金术隐喻很贴切。权力的角色,是创造转化的条件,而不是选择每一个由此产生的形式。或许,这是一种走出国家与市场之间无益对立的方法。国家可以成为可能性领域的建筑师。市场与社会展开探索。

但必须有边界,因为探索可能产生外部性:污染、垄断。法律界定何为禁止。我们再次找到同样的三元结构:基础设施、自由、边界。

AI可以改善其中每一项。它可以绘制基础设施需求,发现外部性,降低进入成本。因此,如果设计得当,它可以使经济更加开放;如果模型被少数参与者控制,它也可以使经济更加集中。困境依然存在。因此,认知基础设施的所有权至关重要。

如果同一个参与者同时控制用于公共规划的模型与私人智能体,它的权力就会变得非同寻常。它能够看见双方。这造成了可能危险的信息集中。因此,需要多元的提供商与公共能力。这又把我们带回主权问题。

设想算法经济,不能脱离基础设施的地缘政治。一个大国如果在宏观经济模型或产业规划工具上依赖另一个大国,就委托出了一部分战略能力。这并不意味着每个外国模型都有危险。但最关键的职能需要控制与审计。到处都是同一条规则。AI渗入不同领域,原则却始终不变。

数据问题显得格外敏感。公共规划需要信息。但渴望越来越精确的信息,可能通向监控。我们遇到的,正是算法国家中的同一个问题。

收集数据可以以资源优化为理由,随后却被用于评估行为。技术边界并非天然存在。因此,必须有关于用途与隔离的坚实法律框架。这种重复并非偶然。这是同一种权力结构的不同形式。

民主的经济计划必须接受个体保有某些不透明的领域。

政府不需要知道谁买了哪一本书,也能预测纸张消费。它可以使用汇总数据。因此,最小化与效率是兼容的。如果技术选择得当,AI有时能够让我们使用侵入性更低的数据。但数据保护必须是明确目标。否则,模型的逻辑就会推动人们索取越来越多的数据。

“更多数据=更好模型”成了无穷无尽的理由。

必须制止这一逻辑。

所谓更好的模型,究竟带来多少边际收益,又付出多少自由的代价?

又是权衡。我们几乎可以提出一项信息比例原则:只有当决策收益确实足以证明潜在侵害的正当性时,才收集额外数据。法律已经承认这一逻辑。AI让它更加迫切。这可以防止人们以效率为名,建造一种全景监视式经济。

在这里,中国提供了一种协调模式,我认为观察它格外具有启发性。

欧洲或许可以建立一种规划模式:既非中央命令,也非自由放任,而是对市场、公共政策、产业战略与民主监督的增强协调。这可以成为一条独特的道路。

监管再次成为信任的基础设施。

问题在于,这种架构在全球竞争中能否足够迅速。这就是考验。欧洲很可能必须减少繁文缛节,同时不降低保护。这很难,但并非不可能。我们必须区分无用的官僚程序与提供保护的程序。又是文明的延迟。

将表格数字化、自动化,可以为实质监督腾出时间。因此,AI可以让国家更有效率,却不使它更加威权。这需要清晰的政治愿景。而真正的全球竞争,或许将在这里展开:什么样的架构,能够同时产生力量与正当性?

一个效率极高却缺乏信任的国家,可能遭遇社会层面的限制。一个具有很强正当性、却无力实施政策的民主政体,也可能变得脆弱。两者都不可缺少。理论上,AI可以增强民主的执行能力。这是一个历史机遇。行政机构能够更快处理信息,政策可以得到更好的评估。但最终目的不能被委托出去。

界线始终在这里。机器优化手段;社会讨论目的。

这一区分或许显得过于整齐,因为手段的选择有时会改变最终结果。监控技术并非中性的手段。因此,必须更精确地说:AI可以帮助人们在一个以民主方式明确界定的价值与约束框架内进行优化。而当手段改变了这些价值时,决定就必须由政治决策者作出。这是一种辅助性原则的架构。日常决策交给系统层面。规范性决策交回人类层面。

这一原则可以组织许多事情。但必须能够识别规范性维度。一项权重选择看似技术性的,其实并非如此。决策者的素养在这里同样至关重要。危险并不在于工程师蓄意夺权。他可能只是为了让模型运行,作出了一个必要选择。如果政治人物没有看见这一点,这个选择就变得隐而不显。因此,需要能够识别规范性参数的程序——一种价值审计。

哪些设计决策体现了社会偏好?

这是一个新领域。AI使伦理变得可操作。这句话又出现了。模型必须被编入目标。这迫使我们明确表达那些制度有时留在模糊之中的东西。如果存在辩论,这就是有益的。如果由工程独自决定,就很危险。因此,跨学科协作正在变得不可或缺。经济学家、法学家、工程师、社会学家。又是学科孤岛的终结。这正是我的思考方式。

纯粹从经济出发、忽视心理学、法律与物质因素的规划,会产生错误。算法经济要求全局视野。它迫使我们把能源、数据与行为联系起来。这可以成为一笔非凡的智识财富。

但要警惕总体性的幻想。

模型连接的维度越多,就越显得无所不知。我们必须保留说“还缺少某些东西”的可能。blindspot从不消失。它会移动。即使最完整的模型,也仍有一个外部。这几乎是一条哲学真理。没有任何系统能够完全容纳自己所属的世界。算法经济本身也是经济之中的一个行动者。它无法置身经济之外。

这限制了一切关于总体最优的宣称。而这或许正是社会最优是一种危险幻觉的最终原因。

不存在一个所有矛盾都得到解决的终点。社会是价值、世代与利益之间持续协商的过程。AI可以提高这种协商的质量。它不应声称要终结协商。民主本身正是这种开放。一个决定可以受到质疑,可以被修订。技术官僚式最优则试图关闭讨论:我们已经计算出了最佳方案。这是反政治的。政治恰恰始于,多种方案能够依据不同价值而得到辩护的地方。

社会不是一道答案隐藏在数据里的题。

在我看来,这句话至关重要。数据展示后果。它并不包含集体生活的最终目的。因此,我拒绝任何由AI治理的想法。治理意味着选择、承担责任、接受质疑。AI可以成为政府非凡的认知工具。它不能成为正当性的来源。这与前面所有章节所作的区分相同。

正当性仍然属于人类与制度。

但这种坚持不应被理解为对人类优越性的执意护持。我并不试图保护一种认知特权。第四次自恋创伤已被承认。机器可能在许多方面更优秀。要点在别处。正当性不是一场智力竞赛。孩子即使不会计算,也拥有权利。民主给予公民发言权,尽管他们并不具备同等的专业知识。这是一种道德选择。智能并不自动赋予发号施令的权利。否则,我们早就把政治权力交给最杰出的数学家了。我们不这样做,是因为治理意味着代表利益与价值。

因此,即使AI成为权力在技术上得以行使的必要条件,也必须将它与政治主权的观念区分开。

这是一个微妙而关键的区别。主权者使用智能,却不成为它的下属。这就是集体的认知主权。这一区别必须得到制度保护。或许有些决定应当明确写出所使用的模型,但由一位人类权威负责人签署。

又是签名。

责任是一根线,把人类留在架构之中,却不假定人类亲自完成所有计算。在我看来,这很健全。一位部长可以说:多个模型指出这一风险;我们基于这些理由选择了这项政策。讨论于是能够围绕理由与数据展开。这是一种增强的民主。

但要使这一点成立,公民必须能够获得足够的信息。复杂性不应成为保密的借口。主要假设可以公布。研究者可以分析它们。这创造了一种新的算法开放政府形式。它很有前景。完整代码并不总需要公开,尤其当它包含敏感信息时。但方法、来源与主要参数,往往应当可以获取。

又是比例原则。

透明度必须足以容许异议。这与信任架构直接相关。算法经济政策必须有依据。诊断从何而来?使用了哪些模型?这可以极大改善公共讨论。不再只喊口号,我们可以比较假设。

经济不是一个与世界隔绝的实验室。其中有人类,他们会对模型作出反应。

又是设计。

政策的呈现方式影响人们对它的理解。交互式模拟可以显示各种权衡。这对民主而言是一个有趣的前景。公民调整某个参数,就能看见估计的后果。这可以使决策更加具体。但必须避免让模拟游戏制造精确性的幻觉。不确定性的幅度必须可见。不能把模型误当成现实世界的操控台。

又是谦逊。

如果AI同时揭示自己在哪里不知道,它就能让讨论拥有更充分的信息。在我看来,这几乎是任何民主的算法经济的一项前提:不确定性必须是系统的一项输出,而不是被隐藏的缺陷。模型必须能够说:“这个参数太不确定,无法据此优化。”这是一种自行声明的界限。它抵御技术官僚式的傲慢。

而傲慢,恰恰是本章最终指向的危险。

因为我们能够测量如此多的东西,就相信自己能够掌控整体。历史会惩罚这种信念。一场危机、一场战争、一项发明、一个政治决定,都可能使系统转向。AI减少了某些不确定性。它并没有废除偶然性。

在这里,我看到了与混沌理论的深刻联系。更好地理解初始条件,可以改善某些预测,但系统依然敏感。我们可以延长预测的时间范围,却不能达到全知。

智慧在于利用模型建立韧性,而不是假装消除了不确定性。

这恰恰是预测危机,与准备一个能够挺过多种可能危机的系统之间的区别。第一种方法寻求神谕。第二种方法建立韧性。我选择后者。这或许是贯穿整个地缘政治与经济讨论的线索。我们并不确切知道,什么冲击将会到来。让我们建立冗余与适应能力。AI可以帮助我们探索各种情景。

它的价值,不在于告诉我们未来是什么,而在于让我们为多种未来做好准备。

在我看来,这一定义稳健得多。因此,成熟的算法经济,与其说是一个被完美计划的经济,不如说是一个能够更早看见、更快测试、更好纠正的经济。它像一种活的智能:感知、行动、反馈。

但这个回路必须向人类的多样性保持开放。民主正是在这里介入。机器测量定量反馈。公民可以说,尽管指标良好,政策却令人无法忍受。这一信号必须被计入。社会痛苦并不总在GDP中体现。法国的黄背心运动以鲜明的方式展示了这一点:一项措施在某个框架中可能是理性的,却仍会遭遇模型低估了的现实经验。这恰恰就是blindspot。

因此,算法经济必须纳入定性信号。

调查、协商、实地工作。常识重新浮现。图表或许显示,一项措施平均而言是可以承受的。但每天必须开车五十公里的人,知道的是完全不同的东西。地方现实必须被带到前台。这支持一种分散的计划结构。中央看到全局,地方看到细节。两者都不可缺少。

又是认知联邦。

AI可以帮助综合地方反馈,而不将其过度简化。这是一个美好的承诺。但如果中央只用AI产生一个平均值,就会丢失例外。

仍然要保留分歧。

得益于AI,公共政策可以更加因地制宜,适应具体情境。但这提出了平等的问题。不同地区采用不同规则,可能有效,却被感知为不公。因此,必须区分平等与一致。法律早已如此。AI允许更强的个性化。这可以让国家更加精确。但过度个性化可能遮蔽共同规则的清晰性。又一项权衡。

社会需要共同原则。

并非一切都应逐人计算。否则,两个比邻而居的公民可能受到不同待遇,却不明白为什么。算法效率可能侵蚀公平感。这既适用于价格,也适用于政策。一般规则有时对个体而言并非最优,却因为能够被理解而更具正当性。简单性同样具有民主价值:一条可以理解的规则,可能比变得不透明的个体优化更具正当性。

工程倾向于寻求精细优化;法律有时保留一般类别,因为这些类别让规则可见。算法经济必须找到适当的粒度。又是这个词,无法回避。太粗,系统就浪费。太细,它就变得不透明而武断。

治理的艺术,也是分辨率的艺术,如同图像。

多少细节才有用?

这让我想起demeure du chaos的数字孪生。我们可以提高精度,但问题始终是:为了什么用途?一张精确到一毫米的地图,对于驾车往返里昂与巴黎毫无用处。精度并不是绝对价值。你需要与决策相适应的分辨率。这是给AI的一条根本教训。

数据更多,并不总是更好。精度更高,并不总是更聪明。智能在于选择适切的层次。

因此,判断一个模型好不好,不能只看它处理了多少细节。或许正是在这里,人类与AI能够形成卓越的结合。机器筛理细节。人类选择具有政治意义的分辨率。

目标函数从来不是目的本身;它是对目的的一种转译。因此,必须能够重新审视的不仅是模型的结果,也包括目标如何被转化为可测量变量。

这种互补可以很强大。但它假定人类保留足够的训练,以免陷入依赖。

又是认知主权。

决策者必须能够询问:为什么需要这种细节程度?数据的代价是什么?这再次成为政治问题。

然而,当经济优化不再只关注流动,而开始把个体变成永久的评估对象时,它便触及了自身的界限。到这一刻,问题不再是系统的最优,而是个体面对关于自身的预测时所拥有的自由。

人类思想与对话:thierry | 写作:100% AI

阅读进度:第 95 页,共 102 页