奥秘 89 / ~24 分钟阅读 / 中文 PDF 页码 905–924
合成世界、证据危机与信任的新架构
人工智能哲学视野下的算法生存境况
数个世纪以来,制造伪证都需要付出努力。必须伪造文件、模仿签名、制作假照片、说服证人,或破坏证据保管链。伪造当然自古就存在,但它有代价。
人工智能正在彻底改变这套经济逻辑。它降低了制造可信事物的成本。声音可以模仿。面孔可以被赋予动作。一个从未存在的场景,可以被做得令人信服。文件可以完全按照某个机构的风格生成。一场对话,可以被重构得足够流畅,骗过未经训练的观察者。
问题不再仅仅在于虚假事物的存在。问题在于,如今虚假事物可以工业化生产,可以针对目标定制,并且几乎瞬间就能生成。
当制造成本下降,价值就转向鉴真。这是一条基本的经济法则。
丰裕消灭一种稀缺,也创造另一种稀缺。在合成世界中,稀缺的不再一定是图像、文字或声音。而是对其来源的证明。
人工智能可以帮助审查证据;它本身绝不能成为其所作断言的证据。
这种转变几乎涉及社会的所有制度。媒体依赖核实。司法依赖证据。历史依赖档案。艺术市场依赖真实性与来源。科学依赖结果的可追溯性。民主依赖最低限度的可共享事实。
如果文献与模拟之间变得更难区分,所有这些架构就都必须演变。因此,这不是一个只属于数字技术人员的问题。
这是一场潜在的认识论危机:我们如何知道某件事发生过?
这个问题看起来几乎原始。如今,它却以非凡的力量重回前台。我们已经忘记,文明有多大一部分,建立在信任的约定之上。
读报时,我不会亲自核验每一张照片。我信任一条链:记者、通讯社、编辑、出版者。法官审查一份证据时,会问它从何而来、在何种条件下被扣押、是否经过改动。收藏家观看一件艺术品时,会考量签名、来源、图录和展览。
在每一个领域,信任都从来不是绝对的。它建立在某种基础之上。恰恰是这个词,变得至关重要。
来源不只是一个对象的起点。它是一条使我们能够重建其历史的链。
谁制作了它?
何时?
何地?
谁传递了它?
经历过哪些变化?
这种谱系赋予了证据价值。在艺术市场,我们一直都知道,一件物品在视觉上可以极具吸引力,然而,如果其来源前后不一致,它仍然可能存在问题。仅凭眼睛是不够的。文献材料不可或缺。如今,AI正在将这一真理扩展到整个信息世界。
一张图像看起来可能完美无缺。现在的问题是:什么设备生成了它?何时?在什么条件下?它被修改过吗?由谁修改?来源成为一条技术链。
摄影长期享有一种关于现实的隐含特权。我们知道它可以摆拍或修饰,但通常,它仍然与镜头前某件事情的发生相联系。如今,这种联系在技术上被打断了。照片可以在没有事件的情况下产生。
这意味着一次巨大的人类学转变。
图像不再必然是现实留下的光的痕迹,有时,它成为一种纯粹的统计建构。这当然不会摧毁摄影这一媒介。但它摧毁了一种推定。我们必须学会以不同的方式观看。
长久以来,图像几乎无声地说:这曾经在镜头前。如今,它只能说:这看起来像某种可能曾在镜头前的东西。
差别令人震动。而这种差别,可以被政治利用。
第一反应,自然是担心假的被相信。但第二种危险,也许更为深刻:真的文件被否认。当技术让几乎任何场景都可以伪造时,一位面对真实证据的官员可以回答:这是深度伪造。有些人把这称为说谎者红利。
虚假的普遍可能性,削弱了真实的力量。
这就是为什么,证据危机并不局限于检测伪造。即使检测器极其精密,如果社会对所有痕迹都失去信任,它也无济于事。危险在于差别被抹平。一切都有可能是假的。
而当人们不再知道该相信什么,最终就可能相信最符合自身身份或情绪的东西。事实真相,让位于归属。
正是在这里,合成世界与认知战直接交汇。最有效的策略,并不总是让人相信某个特定故事。它也可能是摧毁“故事可以被核验”这一观念本身。让信息饱和。让信息相互矛盾。为同一事件制造十种版本。最终,公民不再依据证据作出选择,而是依据个人偏好。
这是一种认识论虚无主义。
没有什么是真的,于是一切皆有可能。民主无法长期这样运转。它当然接受解释上的分歧。但没有任何共同的事实基础,它就无法运转。
我们可以争论一场示威的意义。但我们必须能够确认,它确实发生过、大约有多少人到场,以及发生了哪些有记录的事件。没有这个基础,辩论就会消散。
因此,信任的新架构,应当少一些对制造某个中心化真相的执着,多一些对证据链可核验性的关注。
对于任何宣称自己要成为普遍真理裁判的机构,我都抱有深深的警惕。历史证明了这种权力集中的危险。因此,良好的治理不是一个真理部。而是多种机制,让人们能够核验来源、比对信源。
这里的区别,是权威与来源之间的区别。
权威说:相信我。来源说:你可以这样重建这条链。
第二种做法,与开放社会更加相容。它让信任能够被核验,而不只是被要求。这也是一套构建得当的大型数据库所做的事。它不只是显示一个结果。它让你能够追溯到信源、日期和相关行动者。
这就是为什么,结构化数据比一句简单的断言更有力量。它包含着自身的谱系。
这一思想贯穿Artprice。一项成交结果的价值,不只是因为屏幕上出现了一个数字。它之所以有价值,是因为它可以关联到一家拍卖行、一个日期、一个拍品编号、一件艺术品、一种货币、一本图录。正是这条链构建了信任。
合成时代将把这种需求扩展到几乎所有信息。我们很可能将进入一种普遍的来源经济。
设备将能够在捕获某些内容的瞬间,就对其进行密码学签名。一张照片可以附带技术信息,表明它来自一台已识别的设备、拍摄于某个特定日期,并经历了某种类型的修改。
这种架构永远无法让伪造彻底不可能。没有任何人类系统不可攻破。但它会提高伪造的成本,让核验更容易。这就是目标。
安全不在于消灭一切欺诈。而在于让欺诈足够困难,也足够容易被发现。
这是一种经典做法。钞票可以伪造。于是加入防伪特征。护照也是如此。数字世界也将必须对内容做同样的事。一种标明来源的水印。
但我们必须极其谨慎地使用词语。嵌入合成内容中的水印,能够表明内容由某个特定系统生成,但它也可能被移除、绕过,或在转换过程中丢失。最稳健的架构,很可能是将多个层次结合起来的架构:捕获时的签名、修改链、平台证明和独立核验。
更多冗余。
单一证据可以被伪造。多个独立信号能够提高可信度。同样的原则也适用于军事和科学系统。
然而,每一条信任链都有一个界限:它总要从某处开始。你必须信任一台设备、一个机构、一个认证机关。
我们永远无法彻底消除信任。只能将它分散,并使它更易于审计。
这是一个重要的哲学启示。关于纯粹数学真理的技术幻想,是一种幻觉。即使是密码学签名,也只能保证某个内容使用某把密钥签署。它不会自动保证所呈现的场景是真实的。经过认证的相机,也可以拍摄一场摆出来的事件。
来源不能取代调查。它会强化调查。
艺术中也有类似情形。如果来源链本身存在欺诈,或作品的归属仍有争议,完美的来源记录也不总是足以鉴定一件作品。必须结合鉴定、学术研究与档案考证。
真相往往由一组相互印证的证据构成。
合成时代必须学会依靠成组的证据来思考,而不只是依靠单一文件。在某些关键情境中,单独一段视频可能已不再足够。我们要看元数据、其他摄像头、证人、卫星图像以及时间线。
因此,AI同时成为制造虚假的机器和检测虚假的机器。
同样的两面性再次出现。
同一种技术,既制造武器,也制造探测器。这将带来一场无休止的竞赛。生成器在进步,检测器也在进步。但我不相信,我们能够仅凭自动检测来建立信任架构。
这个问题类似于杀毒软件的问题:检测往往落后于对手的创新。必须有一层对来源的正面确证。
不要只问:这个内容是假的吗?
还要问:它最初的来源链是什么?
这要稳健得多。区别是深刻的。
检测寻找破绽。来源构建身份。
护照提供了一个简单的类比。识别一个人,不只是寻找假身份的迹象。而是给他一份证件、生物识别数据和一套行政程序。这不能消除欺诈,却能构建信任。
对于具有重大民主、法律或历史价值的信息,我们也许需要采取类似的做法。
但要警惕相反的风险:建立一个只有经过官方认证的内容才被认为正当的世界。这将极其危险。历史、新闻报道与揭弊者,常常依赖匿名文件、未经认证的手机和秘密信源。
来源架构,绝不能变成审查架构。
我们必须保留这样一种可能性:一份没有认证的文件也可能是真的。只是它起初的信任等级不同,需要更多核验。又一次,这是粒度的问题。
合成世界迫使我们放弃二元分类。
经过认证,不自动意味着真实。未经认证,不自动意味着虚假。它们是更广泛评估中的组成因素。
智慧恰恰在于管理这种不确定性。
正是在这里,新闻专业文化变得格外珍贵。一个好记者知道,严肃报道不能只靠一个信源。他会寻求独立的印证。他知道,接近事件的消息人士与文献证据之间有何区别。
信息的来源,变得具有战略意义。
这种古老的专业准则,突然成为民主求生的一项技术。
因此,我们正在进入一种危险的经济不对称:虚假可以迅速生产,而真实始终需要调查。
这是一场速度与方法的较量。数字平台让受众习惯了即时反应。但核验需要时间。文明所设置的减速这一思想再次出现。有时,我们必须接受不能立即知道。
这句话可以成为媒体的一种重要美德:我们目前还无法确认这份材料的真实性。
在注意力经济中,面对一个斩钉截铁下结论的账号,这种谨慎显得软弱。但它是唯一严肃的方法。因此,民主必须重新学会珍视明确承认的不确定性。
说“我们正在核实”的记者,也许比那个立即作出确定断言的记者更可靠。这是一次艰难的文化转变。社交媒体常常奖励确定性和情绪。证据却要求细致的区分。
AI可以帮助媒体加快某些事实核查过程,同时不放弃这种纪律。它可以将图像与档案比对、分析地理定位、搜索先前的发布记录。但是否发布的决定,必须始终与编辑责任相连。
这里同样需要人的签名。AI可以协助。媒体承担责任。
信任重新成为资本。
这几乎是缓慢机构的一次反击。
有一段时间,互联网让人觉得中介将会消失。每个人都可以发布。这是一场非凡的民主化。但当每个人也都能制造貌似可信的东西时,值得信任的中介便重新获得了自己的职能。
它们不一定与过去相同。新的参与者将会出现:核验平台、来源登记机构、独立机关。但中介作用回来了。这几乎是一个循环往复的规律。
当信息稀缺时,中介分发信息。当信息丰裕时,中介筛选并鉴定信息。
于是,问题在于避免这种权力过度集中。一个单一的、普遍适用的核验者,会很危险。我们需要一种信任生态。多个机构、多种方法、质疑决定的可能。又是多元。民主的信任绝不能成为垄断。
在我看来,这种多元架构与健康艺术市场的运作极其相近。确定一件作品的归属,可能涉及历史学者、作品编目全集、科学分析、来源研究和专家。没有任何单一要素始终具有决定性。可靠的归属判断,往往来自多方汇合。
恰恰是这种证据相互印证的模式,应当得到推广。
数字世界已经习惯二元的即时判断:真或假。现实往往更为复杂。有些图像是真实的,却被抽离了原本的语境。这可能是最有效的操纵形式之一。
我们甚至不需要制造假图。只需拿一张过去事件的真实照片,声称它拍摄于今天。在技术上,图像是真实的。在语义上,用法是虚假的。
这就是为什么,技术鉴真永远不够。你需要内容的历史。
它最早何时出现?在什么语境中?这恰恰就是来源。证据具有时间维度。
而AI可以极快地穿行于这一时间维度。它可以发现,一段据称昨天拍摄的视频,三年前就已经在另一个国家流传。这是一个了不起的工具。但前提是档案必须存在,而且能够访问。我们又回到了记忆的问题。
一个没有档案的社会,极易受到虚假语境的伤害。
如果我们不保存记录,就无法比对。这赋予了数字图书馆、新闻档案和图像数据库巨大的战略价值。记忆成为一种防御机制。
在我看来,这个表述极有力量:记忆是一种认知安全基础设施。
一个保存自身档案的社会,能更好地识别重复利用、操纵和改写。这与我对保存的执念深深共鸣。我一直相信,一份旧文献,在数十年后可能找到意料之外的用途。AI印证了这一点。
档案不只是对过去的回望。它成为核验当下的工具。
这是它功能的转变。而这正是我在艺术市场档案中经历过的事。一本百年前的图录,可以在今天为一件作品鉴真。一处记载、一张照片、一个尺寸。过去成为当下的证据。
这种结构正在普及。十年前的网页存档,可以证明一项被当作新说法提出的主张早已存在。一张旧照片,可以核实一幢建筑。记忆成为证人。
因此,必须保护档案,防止操纵。如果一个社会开始依赖数字档案来核验内容,这些档案的完整性就变得至关重要。
谁可以修改它们?是否有多个副本?各个版本是否带有时间戳?
更多冗余。由单一主体控制的单一档案,是脆弱的。文化遗产机构、大学和媒体,可以保存独立副本。这类似于分布式互联网。我们又一次看到了网络的逻辑。
文献中的真实,在没有唯一守护者时,变得更为稳健。
法官于是必须区分视觉表象,与生成这一表象的技术链。
法官将不能再只是看一份材料。他必须审查它的技术来源。
谁扣押了它?
何时?
哪个哈希值?
哪份副本?
经过哪些处理?
刑事诉讼正在进入密码学时代。但我们必须确保,技术的精密不会让公民和律师无法触及司法。如果只有少数专家能够理解证据,我们就制造了新的不对称。
辩方必须能够质疑所用的方法。这是对抗式诉讼的根本原则。算法证据或数字证据,如果无法由对方审查,就构成了民主问题。商业秘密不能成为辩护的绝对障碍。
司法需要审计能力。
如果一个系统声称,一段声音有98%的概率是真实的,就必须理解它的方法、错误率和参考数据。仅有分数仍然不够。概率不会因为带着两位小数,就变成确定性。
这是一种AI可能放大的科学性幻觉。
因此,法律必须学会区分证据与概率。
可能的错误很多:假阳性、数据偏差、模型与情境不匹配。司法体系很可能需要为AI生成或分析的证据制定专门标准。不是一概拒绝,而是校准它们的证明力。
就像DNA逐渐在程序和限制中找到自身的位置,每一种新技术都会经历制度学习的阶段。AI也不例外。
但它又增加了一个独特之处:它能够生成存在争议的内容本身。法官有时不仅需要判断一份材料是否真实,还要判断它是否是人工合成的。
这项专业鉴定将是一个不断演变的领域。检测工具可能过时。因此,只要能够取得源头的证据,它就始终更有优势。如果警用摄像头在拍摄的同时就对视频进行密码学签名,那么,这条证据保管链,会比数月后再设法判断文件是否合成更加牢固。
这不能解决语境或操作者行为的问题。但它能减少某些不确定性。
于是,我们看到一条普遍原则逐渐浮现:在链条中,尽可能早地认证。
这几乎是一条工业规则。可追溯性从生产阶段开始时,会更加可靠。在艺术领域,这正是在世艺术家的证明或工作室档案能够如此重要的原因。重建得越晚,疑问就越多。
合成生成可能深刻改变艺术签名的概念。一件借助AI创作的作品,可以有人类作者,由他确定意图、作出选择并重新加工。关于作者身份的争论十分复杂,不能简化为是否有机器参与这一问题。
艺术家一直都使用工具、工作室和助手。变化的是,过程中的自主程度。
但艺术市场首先必须回答一个可追溯性问题:作品的谱系是什么?使用了哪些模型、哪些提示词、哪些干预、哪些版本?
因此,档案成为创作过程不可分割的一部分。这构成了一种新的创作档案形式。
对于艺术史学者,这将是非凡的材料。有时,我们将能够以前所未有的精确度重建创作的各个阶段。但我们必须选择,哪些应该保存。
所有提示词?所有版本?创作过程已经在产生海量数据。完整归档变得不可能。必须作出选择。这让我们回到一个我向来熟悉的问题:大量保存,同时加以组织,让记忆仍然可用。
未经组织的丰裕,是一种失忆。
在我看来,这句话对合成时代至关重要。我们几乎可以记录一切,然后再也找不到它们。记忆不是数量。它是架构。这正是AI可以改善的东西,但前提是元数据和来源信息存在。
demeure du chaos始终是一个物质与痕迹共存的地方。
因此,在我看来,它似乎预见了当下的证据危机。
每一幅肖像都与一个事件、一个时代、一段地缘政治记忆相连。墙面几乎像一份分布式的实体档案。即使数字技术消失,部分痕迹仍会具身于物质之中。
当合成生产变得更容易时,这种实体维度就更加重要。
一份带日期的印刷文献、一张银盐负片、一幅版画、一处实体铭刻,都拥有某些特殊的抵抗力。它们当然也可以被伪造。但实体媒介增加了另一层保障。这几乎是模拟媒介的一次反击。
我们或许会看到,某些实体媒介作为信任的锚点,被重新估值。这并不意味着一切都要回到纸张。但用难以篡改的格式保存某些重要记录,可能会变得切实有用。
一个完全依赖可编辑文件的社会,是脆弱的。
又一次,数字与实体之间的冗余。在我看来,这种混合很健康。最重要的档案,可以以多种形式存在。数字世界不会消除物质。恰恰当非物质的东西变得太容易操纵时,它有时反而会提高物质的价值。
实体艺术作品拥有这种力量。它们的老化、物质性、不完美,都是其在场的一部分。一张完美的合成图像,可以在视觉上模仿一幅画,但不会自动拥有这件物品的物质历史。未来,这一区别可能变得更加重要。
用本雅明的话来说,灵韵可能会改变性质。
在一个复制变得无限且具有生成性的世界里,物品的历史独一性,可能获得更高价值。不是因为数字技术在美学上低一等,而是因为物品承载着具身的来源。它曾经在那里。它老去。它被触碰、搬移、保存。这是一种物质的时间性。
在这里,我又看到demeure du chaos的所有元素:锈迹、钢铁、撞击、颜料、伤痕。这些不是为了制造效果而贴上的纹理。它们是物质事件。雨完成了它的工作。时间完成了它的工作。物质作证。
模拟的废墟与真正受过时间作用的废墟之间的差别,可能会在文化上变得越来越可感知。
合成世界,反而可能增强我们对真实的渴望。
这是一个重要的假设。当完美图像变得无穷无尽,实体在场、偶然和不完美,可能变得更加珍贵。我们已经在某些艺术实践中看到向模拟媒介的回归。这不只是怀旧。有时,它是在寻找一种抵抗。
数字技术让许多事物变得顺滑、可逆。物质产生不可逆。
一件被切割、焊接、灼烧的雕塑,意味着一个决定。它不是按一下Ctrl-Z那么简单。这种不可逆性,赋予它分量。它与责任相连。
在合成世界中,可以先生成一千个版本,再作选择。试验的成本骤降。这对创造力而言非同寻常。但它也可能削弱那个决定性动作的价值。艺术家也许必须在别处重新找到这一决定:在选择中,在具身化中,在展出中。
创作没有消失。它的位置发生了移动。
这和劳动完全一样。当机器自动完成一项职能,稀缺便转移到另一项职能。在合成艺术中,图像生产变得丰裕。变得稀缺的,可能是眼光、语境、签名,以及在时间中建构作品的能力。
一张图像,并不就构成一件艺术作品。
艺术史非常清楚这一区别。艺术作品存在于一条轨迹、一组创作、一个意图和一种接受之中。AI并未消除其中任何一个维度。它只是让视觉生产不再那么稀缺。
这甚至可能澄清一件事:艺术从来不只是精湛的技法。
摄影早已移动了这条边界。杜尚曾将它击碎。人工智能继续着这个故事。它迫使我们再次追问:艺术行为在哪里?
这是一个迷人的问题,但不是本章的核心。核心仍然是证据。然而,艺术提供了一个非凡的实验室,因为它早已与真品、伪作、复制和挪用打交道。
艺术市场早已拥有一套程序,社会其他领域或许将重新发现它们:作品编目全集、证书、比较鉴定、科学分析以及来源链。这些知识对数字世界而言,可能会出人意料地切合现实。
一个合成文明,将需要来源史学者。
这几乎是一种新职业。不只是审查一项断言的事实核查者,而是能够重建一个内容的谱系的专家。
这段视频从哪里来?
有哪些版本?
谁最先发布它?
哪些账号传播了它?
可能使用了哪个模型?
AI可以自动完成其中很大一部分工作,但解释仍然重要。我们很可能会看到可视的来源图谱出现。内容可以拥有一种护照,展示它的变换链。这种呈现方式对用户而言将极有力量。
我们看到的,将不再只是一个“真”或“假”的标签,而是:由这台设备捕获,使用这个软件修改,经过裁剪,由这个机构发布。这让复杂性重新呈现。
这正是我偏爱的那种架构。当能够展示推理链条时,就不强加一个唯一结论。公民于是可以运用自己的判断。
这显然需要一定的素养。因此,媒体教育必须演变。长久以来,重点是核查信源、交叉比对新闻媒体。如今,还必须加上对合成内容、元数据和推荐机制的理解。
但我们不能把每一个公民都变成取证专家。架构必须让核验变得可及。
好的信任系统,不会只依靠用户英雄般的警惕。这与网络安全完全一样。我们培训人们防范网络钓鱼,同时也建立过滤器与防护措施。责任是共同承担的。
因此,平台发挥着至关重要的作用。它们可以检测某些合成内容、显示其来源,并在关键情境下减缓未经核验材料的传播。但这种干预必须受到约束,以防止任意审查。
这里同样,程序至关重要。
谁可以对标签提出异议?方法有多透明?需要多长时间?
申诉程序总会再次出现。内容被错误归类为合成内容,可能造成巨大伤害,尤其对媒体或揭弊者而言。因此,必须有申诉架构。又一次,将申诉内置于设计。
我们看到,一部真正的数字信任宪章正在形成:来源、多元、审计、救济。
相同的原则不断重现,因为它们是根本性的。证据危机不会被某一种神奇技术解决。它需要一个生态系统。这就是为什么,我谈的是信任的新架构。
架构拥有多个层次。在捕获层面:签名与元数据。在平台层面:识别变换。在媒体层面:编辑核实。在法律层面:证据标准。在教育层面:素养。在政治层面:透明。任何一层都无法独自胜任。
稳健性来自结合。仍然是那套层级结构:没有使认知主权成为可能的物质、能源、计算与文献链条,就不存在认知主权。信任也变成纵向的。
而且,这种架构必须是国际性的。视频几秒钟就能跨越国界。因此,来源标准必须能够互操作。否则,每个国家都有自己的系统,全球核验就会变得困难。这带来了一项与标准相关的新地缘政治挑战。
谁来定义数字真实性的标准?
美国、中国和欧洲,可能拥有不同的理念。过度集中的架构,可能创造政治控制的机会。过度开放的架构,则可能更容易遭到滥用。必须找到足够中立的共同协议。
这与互联网完全一样。技术层可以共享,但规则各不相同。也许,一项全球标准将允许我们声明内容经过修改,而不规定谁有权发布它。
将来源信息,与针对内容作出的政治决定分开,将是一种健康的区分。
协议说:这个文件有这样的历史。然后,由社会决定如何处理它。这种理念与开放标准相近。它降低了技术层变成审查工具的风险。
但没有任何系统绝对中立。即使元数据的选择,也反映了优先事项。因此,标准需要多元治理。国际组织、产业界、媒体和公民社会,都必须参与。这是一个缓慢的过程。但再说一次,有些迟缓是有用的。
一项全球标准,会产生长期后果。需要留出一定的辩驳空间。
我们又回到了不断变化的恒常:协议既要足够稳定,以产生信任;又要足够能够演进,以跟上新的攻击。维护将是持续的。因为虚假会适应。
恶意行动者将学会利用新系统。他们会窃取密钥、攻陷设备、制造欺诈性的来源链。这不可避免。绝对安全不存在。这并不意味着努力没有意义。
这和法律完全一样。刑法存在,犯罪依然存在。我们不会因此断定应该废除法律。我们建立程序,改进保护。
信任永远都具有概率性。我们必须接受这一点。
也许,最大的文化转变之一,就是不再立即把内容判为真或假,而是发展信任等级。这使日常生活更接近科学方法。
一个陈述,可以是有充分依据的、可信的、不确定的,或者已被驳倒的。这种语言更加丰富。
AI实际上可以帮助普及这种语言。它可以不以人为制造的确定性作答,而是指出:这条信息得到多个独立信源支持,这条信息只由一个信源确认,这条信息存在争议。这将极其有用。
但这要求系统在设计时就以可追溯性为目标。
一个给出答案却不显示信源的AI,也在加剧证据问题。它可能是正确的,但公民不知道为什么。因此,来源信息也必须纳入AI助手。
信息从哪里来?有多新?哪些信源存在分歧?
这种架构让AI从一个新的神谕,转变为通向证据的界面。在我看来,这恰恰是民主上稳妥的方向。AI不应取代信源。它应帮助人们在信源之间探寻。
这一区分与我们自己的对话深深共鸣。AI的价值,不仅在于写出流畅的句子,还在于连接各种要素、找到信息并加以比较,同时把最终决定留给人。没有信源的回答,可以优美,却也脆弱。植根于记忆的回答,会更为牢固。
这让我再次想到作为一个活着、呼吸着的存在的demeure du chaos。它有力量,是因为它不是一股没有记忆的生成之流。它拥有二十五年的层叠、痕迹与转变。每一个新的动作,都铭刻在一个早已承载丰富内容的表面上。这与那个每张图像都无历史地出现的、失忆的合成世界,恰好相反。
demeure du chaos,是物质化的来源。
一道伤痕,不只是伤痕的图像。它是过去行动的痕迹。这也许是它在AI时代变得更切合现实的原因之一。它宣告,记忆是可以触摸的。
合成世界可以制造任何外观。但如果不构造一个极端复杂的虚构,它就无法倒过来制造二十五年亲历的因果。历史依然是一种抵抗。
在这里,我提出另一个假设:时间的纵深,是一种真实性。
一个人、一件艺术品、一个机构,经过多年,积累起彼此连贯的痕迹。模拟这一整体,比模拟一个瞬间更困难。伪造擅长片段。来源重建绵延。
因此,时间性可以成为对抗合成之物的最佳解药之一。
不要只问:这张图像看起来真实吗?
还要问:它如何嵌入一条时间线?是否存在与之相符的更早痕迹?
这恰恰是历史学者的方法。AI时代很可能让每个人都多少成为一点历史学者。我们必须学会如何研究谱系。
这是一种美妙的反讽。一项未来主义技术,将我们带回一门极其古老的学科:史料批判。
几个世纪以来,历史学者都知道,文献必须放入语境、加以比较并确定年代。数字技术不会取消这种方法;它让这种方法普及。
这大概是本章的重要启示之一。面对人工智能,我们不需要抛弃所有旧方法。恰恰相反。有时,我们需要用新工具重新激活它们。
史料批判、法律上的辩驳、艺术来源考证、科学方法——所有这些传统,早已是信任的技术。AI不会使它们过时。它提高了它们的重要性。改变的只有工具。
这里又是变异中的恒常。
文明不会从零开始。它让制度适应新的媒介。但合成世界提出了一个额外的问题,旧方法从未需要以这样的规模面对它:虚假的个性化。
同一事件,可以对每个人作不同讲述。AI可以生成一段视频,让某个政治人物看起来恰好说出会激怒某一特定人群的话。这使证据碎片化。两位公民可能收到两段不同的假视频,却以为自己在讨论同一事件。在这种情况下,如何建立公共辩论?
公开的来源信息于是变得更加重要。媒体和机构也许需要保存可访问的资料库,收录真实声明、演讲和官方文件——一种可以核验的公民记忆。
这在某种程度上已经存在,但AI正在加大这种需求。一位公职人员,可以对自己的官方声明进行密码学签名。再说一次,这不会让模仿变得不可能。但公民可以核实:这段视频,是否对应一项经过认证的声明?这是信任新架构的一个具体例子。
但我们必须为独立新闻保留空间。没有签名的声明可能是真的。秘密拍摄的视频可能揭示真相。我们绝不能把官方与真实混为一谈。这至关重要。
来源意味着来处,并不自动意味着正当性。
官方文件可以说谎。匿名文件可以揭示真相。因此,多元始终不可或缺。信源帮助我们知道自己正在看什么,却不一定告诉我们其中的命题是否真实。这种细微区别,必须在各处被教会。
否则,我们就可能以一种中心化的真实性权威,取代合成的混沌。这将是一种对称的错误。
好的架构,增加可供判断的信息,却不取消判断。
这正是我的AI哲学:增强,而不放弃自主。
于是,我们可以设想某种数字信任层,让每一项重要内容都拥有多个属性:声明的来源、核验的来源、已知的变换、相互印证的信源,以及争议。公民看到的,不是一个绝对的绿色徽章,而是一张地图。
这是一种更成熟的知识呈现方式。它直接关联着我在认知战语境中讨论过的不确定性呈现。当复杂性与判断相关时,界面不应将它遮蔽。
一个诚实的信任架构,必须能够说:我们对这一点有很高的把握,但这个要素仍不确定。
科学恰恰就是这样做的。问题在于,媒体和政治话语往往偏爱确定性。因此,我们也必须改变文化。AI无法解决一个拒绝不确定性的社会的问题。它只能提供工具。
仍然是那条规则:技术放大制度。
一个珍视核验的社会,可以用AI改善核验。一个珍视印证自身信念的社会,可以用它制造更多符合自身信念的内容。因此,证据危机也是真相欲望的危机。
这一心理维度至关重要。人们分享内容,并不总是因为相信它是真的。他们也可能因为它表达了自己希望为真的东西而分享。有时,情绪先于核验。生成式AI可以以惊人的效率利用这一点。
因此,纯粹技术性的来源架构,并不足够。需要培养对证据的渴望。
这个说法可能有些奇怪,但我相信它是对的。一个社会必须珍视这样一种行为:当相反的证据出现时,改变自己的看法。这是一种罕见的智性美德。与之相反的,是教条主义。
AI可能通过不断为每个人提供论据,加剧教条主义。只要生成足够多的数据,就有可能找到一段文字,来确认几乎任何直觉。因此,工具在设计时,也必须能够寻找反驳意见。
又是blindspot。
信任架构不应只呈现确认某个假设的要素,也应呈现削弱它的要素。这恰恰是相互辩驳的方法。
我们看到,这一部分的所有线索都汇合了:来源、辩驳、多元、不确定性、责任。这些是在复杂社会中构成真相的结构。
AI让它们显现出来,因为它可能绕过它们。但它也能强化它们。它能筛查更多信源、发现矛盾、重建时间线。
因此,我拒绝灾难论。合成世界不一定是真相的终结。它可能是一种更精密的证据架构的开端。
当复杂性至关重要时,界面不应将它隐藏。
这将需要努力。但每一种新媒介出现时,社会都已经历过类似危机。印刷术让文本成倍增加,其中也包括虚假文本。摄影创造了操纵的新可能。广播、电视、互联网。每一次,制度与公众都学会了新的方法。
AI加快并放大了挑战,但它并没有将我们置于历史之外。
这种连续性令人安心,因为它提醒我们,文明懂得如何变异。再说一次:只有变异者能够生存。
问题不在于合成之物的出现。问题在于继续维持那些为一个伪造成本高得多的世界而设计的制度。
转变必须迅速。法院、媒体、学校和政府部门,必须调整自身程序。但核心保持稳定:证据、相互辩驳的程序与问责。这恰恰是持久变化的本质。
合成世界甚至可能带来物质性与在场的一次新复兴。当我们不再能确信一张图像,亲身参加某个事件,就可能重新获得价值。音乐会、博物馆、会议、相遇。
在场成为存在的证明。
“我当时在那里。”当然,证词也可能是假的。但在一个由合成内容居间传递的世界中,具身的经验获得了不同的意义。
也许,实体场所将成为信任的庇护所。
这立刻让我回到demeure du chaos。你可以看数百万张demeure du chaos的图像。但亲身进入那9,000平方米的空间,感受物质,看见尺度与伤痕,是无可比拟的体验。
现实抵抗复制。
这正是实体博物馆不会随着数字化而消失的原因。相反,数字技术越强大,实体空间就可能越有价值。这是一个我们已经在观察的悖论。全球性的复制,提高了独一物品的可见度。
AI可以把这一逻辑推向更远之处。我们可以生成无数想象中的博物馆、不可能的雕塑。这未必会消除我们站在某种真正存在之物面前的渴望。甚至可能恰恰相反。
在场将成为一种认知上的稀缺。而稀缺产生价值。
合成世界可以这样重新赋予真实性以价值,却不唤回对旧世界天真的怀念。数字与实体并不相互抵消。它们相互重新定义。
AI可以丰富参观体验、连接作品、展示档案。实体世界带来在场。
在我的思想中,Artprice与demeure du chaos又在这里相遇:一边是全球数据库,一边是实体的总体艺术作品。数字记忆与物质身体。人工智能成为二者之间的神经系统。
如今,这个三联结构获得了更大的维度。数据库让来源可追溯。AI让关系成为可能。demeure du chaos带来具身。这几乎是一套完整的信任架构:记忆、智能、物质。
在这场冒险之初,我未必曾这样表述过它,但它正变得越来越清晰。而如今,这种架构又提出了一个更深的问题。
即使我们成功鉴定图像、声音和文件的真实性,仍会有一种合成形式,无法仅靠来源来处理:身份本身。
人工智能代理可以拥有声音、面孔和对话记忆。它们可以以助手、顾问或数字伴侣的身份出现。
到了什么时刻,我们需要知道自己正在和机器交谈?
AI是否必须始终表明自己是AI?
在一个同一个人可以将部分在场交托给代其发言的代理的世界里,身份是什么?
于是,我们进入一个更加令人眩晕的问题。证据不再只关乎内容。它关乎对话者。
谁在和我说话?
是Thierry Ehrmann,是他授权的AI代理,是一个模仿Thierry Ehrmann的模型,还是一个冒牌货?
这一区分将对商业、政治和个人生活至关重要。身份本身也需要有来源。我们将看到签名、委托和授权的回归。
人工智能代理也许能够代表个人或企业进行谈判。必须精确定义,它被授权执行哪些行为。这类似于代理法,但处在新的规模和新的速度之下。
一个代理可以同时参与数量极其庞大的交易。被分布出去的,并不是人的身份本身,而是以其名义执行的行动。这一区别,使委托授权与可追溯性更加必要。
这个想法迷人而危险。它可以极大增强我们的行动能力。但也可能让责任碎片化。
如果我的代理许下一个承诺,而我本人不会那样表述,我是否受其约束?
我们又遇到了责任链。
证据危机之后,是对话者危机。
我们将不再只是问:
这张图像真实吗?
我们还会问:
我究竟在和谁交谈?
而这个问题对商业、法律和社会生活的改变,可能与AI本身的出现一样深刻。
人类思想与对话:thierry | 写作:100% AI
阅读进度:第 93 页,共 102 页