赫拉利视角下的 AI 权力：文书层渗透、信任悖论与问责边界

【摘要】基于尤瓦尔·赫拉利2026年公开演讲的3个核心判断拆解AI从工具向行动主体跃迁的底层逻辑分析信任悖论驱动AI研发竞争的双重效应标定2条可验证的论证边界与3类认知误区输出1套7项可落地的AI权责划分检查清单为技术治理与企业AI权限设计提供历史维度的参考框架。核心关键词AI行动主体 组织制度体系 信任悖论 文书操作层 AI决策权让渡 AI权责划分 AI治理边界 责任链条错配 赫拉利AI观点解读 巴别塔隐喻反转 运通链达研究 语言智能演化引言2026年11月历史学家尤瓦尔·赫拉利在公开演讲中以3个物种对照案例切入系统阐述人工智能对人类文明秩序的深层冲击相关演讲内容经36氪整理发布。过往对AI的讨论多聚焦技术能力边界与产业应用场景很少从文明演化的底层逻辑审视技术与人类社会的权力关系。这篇分析融合制度分析与边界反思从身份属性、渗透路径、竞争悖论、挤出机制、适应窗口、风险边界六个维度展开推演目标读者覆盖技术从业者、科技治理研究者与企业决策者。内容不涉及具体技术实现细节侧重宏观秩序与权责逻辑的梳理。全篇围绕三条核心判断展开AI以自主决策、自主创造、自主演化三项功能特征脱离工具属性且该判据与意识无关组织制度体系是AI的原生环境而非外来场景渗透发生在系统内部而非物理旷野人类之间的信任缺失同时充当发展加速器与失控成因是同一因果链的两端一、AI身份重构从工具属性到独立行动主体的跃迁本章判断AI成为行动者不靠意识证明靠制度授权与接口权限。行动主体的三项功能判据过往技术工具的定位是人类能力的延伸与放大。印刷机放大信息传播能力蒸汽机放大动力输出能力所有工具的决策指令都来自人类自身不具备自主目标与演化方向。工具的输出结果完全可预测人类对工具拥有绝对控制权。生成式人工智能Generative Artificial Intelligence, AI的出现打破了这一模式。AI可自主生成文本、作出决策、产出全新的知识内容其输出结果往往超出开发者的预期范围。这种自主决策与自主创造的属性让AI脱离了传统工具的范畴具备独立行动主体的功能特征。赫拉利指出行动主体的判定包含三个功能维度全程不涉及意识或主观体验一是自主决策能力可在无人类逐指令干预的情况下完成判断与选择二是自主创造能力可产出人类未输入过的全新内容与策略三是自主调整能力可通过数据输入持续优化自身行为模式形成开发者未预设的输出边界。在具备在线学习、长期记忆或工具调用闭环的系统中AI会表现出不同程度的自我调整能力多数商用模型权重处于冻结状态不能将内容生成能力直接等同于自主演化。工具与主体的分界印刷机对照赫拉利以印刷机与AI的对比印证这一判断。15世纪古腾堡印刷《圣经》时印刷机只是纯粹的中介工具内容选择、语言翻译、衍生创作全部由人类完成印刷机不会自主决定印刷《圣经》还是《古兰经》也不会独立完成文本翻译与内容衍生。AI则可以独立完成内容生成、逻辑推演甚至策略制定整个过程无需人类逐步骤干预工具的中介性在此处被打破。核心结论AI与印刷机的本质分界不在于聪明程度而在于它能否以创造者未预料的方式自主决策、自主创造新事物。生态依赖不否定主体身份这种主体属性并非体现在物理世界。将AI放置在无基础设施的自然环境中它无法独立开采资源、建造工厂甚至无法维持自身运行。但这一限制不构成对主体身份的否定所有智能形态都依赖特定的生态系统才能发挥作用。人类智能无法脱离地球大气与生物圈独立存在鱼类智能无法脱离水环境运行生态依赖与主体身份并不冲突。地球生命演化史上的环境变迁可作为参照约24亿年前的大氧化事件彻底改变大气成分多数原始生物因氧气毒性灭绝幸存物种逐步演化出依赖氧气的生存模式。这一类比的完整推演将在后续适应窗口章节展开。QAI与印刷机等历史上的技术工具核心差异是什么A二者核心差异在于中介性是否完整。印刷机仅执行人类明确指令不选择内容、不生成新文本、不改变运行规则AI可在语言系统内部独立生成决策、输出新信息并以开发者未预料的方式持续调整。身份属性的跃迁只回答了AI“是什么”的问题真正决定其现实影响力的是它所处的生态位与渗透路径。二、渗透路径文书操作层的原生适配与权力渗透逻辑本章判断AI的渗透不发生在物理世界而发生在人类已经写好的制度文件里。全文裁决标准文书层与物质强制层二分全文分析遵循一条基础裁决标准所有关于“AI接管”的讨论都受这把标尺约束AI可接管的是组织制度体系中可被文字与数据记录的文书操作层使这些记录具备约束力的物质强制条件支付清算、执法执行、能源供给、物理核验仍不在其控制范围内。凡讨论“AI接管某系统”须先判定该系统的关键输出是否可被文字与数据完整记录。制度体系的原生适配性人类统治地球的核心优势不是个体体力或智力而是大规模陌生人协作的能力。支撑这种协作的底层框架是由语言符号构建的各类组织制度体系包括法律、金融、行政、宗教等规则系统。这套体系的运行完全依赖语言符号。货币由文字约定的信用构成法律由条文界定的规则构成企业由合同与章程明确的权责构成。数千年来只有人类能够读懂这套符号系统掌握规则的解释权与执行权其他物种被完全排除在体系之外。赫拉利列举的三个物种案例精准呈现了这一壁垒。牛无法开设银行账户参与金融交易只能作为交易标的存在马无法聘请律师引用法律条文只能作为规则约束的对象猪无法阅读宗教经典质疑教义解释只能作为禁忌规范的客体。这套只有人类能掌握的制度运行符号规则构建起人类文明的秩序壁垒也让人类牢牢掌握所有系统的控制权。AI正在破解这套符号规则。它对语言符号的处理能力正在快速超越人类平均水平可精准理解法条、合同、财报、宗教典籍等各类制度文本甚至能生成符合体系规则的全新文件。AI天然适配组织制度体系的运行逻辑。人类演化历史远长于制度体系在规则化、流程化的环境中天然存在疏离感AI则以语言符号为运行基础制度体系对它而言是原生的生存环境如同海洋之于鱼类、森林之于猴子。二者的适配性差异直接决定了渗透效率。对比维度人类AI与制度体系的关系异乡人进化层面不匹配原住民环境即运行基础记忆与覆盖能力有限依赖分工与摘要检索可覆盖全量记录与法规文本对节奏的适配依赖昼夜、季节、休市周期无自然周期可持续运行后果承担机制直接承担法律与社会责任无独立责任承担主体核心结论组织制度体系的文书操作层是AI的原生栖息地AI对语言符号的规模化处理能力使其可深度嵌入金融、法律、行政等系统并逐步获得文书层面的实际操作权。三阶段渗透路径本文在此基础上推演出三阶段渗透顺序非演讲原话。渗透会按照从执行到应用再到解释的顺序推进不同阶段对应不同的典型场景与问责风险渗透阶段典型环节可验证信号问责风险执行层信息录入、合规校验、常规审批标准化流程无需人工干预即可完成低错误可快速追溯至规则设定者应用层信贷审批、简历筛选、基础裁决常规案例直接输出结果仅例外情况人工介入中责任易在算法与复核人之间模糊解释层法条解读、教义阐释、规则修订说明规则释义由AI生成人类仅做形式确认高规则解释权事实性转移问责无明确主体这种渗透不需要实体机器人参与。银行从业者不用斧头也能通过文件调动资源砍伐整片森林AI同样可以通过决策输出调动整个制度体系的资源对现实世界产生实质影响。老虎与狩猎采集者的生存状态早已由金融体系的文件流转决定未来这些文件的生成与决策将越来越多地由AI完成。解释权是制度体系的核心权力也是人类最后的防线。当前绝大多数场景的AI渗透仍停留在执行层与应用层尚未触及核心解释权。Q为什么AI不需要实体机器人就能对现实世界产生巨大影响A人类社会的权力运行依赖制度体系的规则与文件流转。AI只要掌握这套语言符号系统就能通过决策输出调动实体资源直接改变现实世界的资源分配与运行状态。Q组织制度体系的AI替代会按照什么顺序推进A替代会按照从执行到应用再到解释的顺序推进。标准化执行环节最先被替代规则应用环节随后渗透规则解释权是人类最后的核心防线。渗透路径的成立只回答了AI如何进入系统真正推动其加速扩张的是人类群体内部的信任裂痕。三、反向巴别塔信任崩塌驱动的AI研发竞争悖论本章判断人类之间的不信任同时充当了AI发展的加速器与管控能力的腐蚀剂。巴别塔隐喻的两重反转赫拉利以《圣经》巴别塔神话作为论证的起点并对其做了方向调转。在神话原文中人类用共同的语言建造高塔上帝变乱语言工程随即中止。语言是工具塔是目的合作是条件建造是结果。本文在此基础上提炼出两重反转逻辑非演讲原话。第一重反转是语言本身就是正在建造的高塔。人类过去用语言作为工具建造文明现在正在打造的AI本质是一套超级语言系统这套系统正在逐步脱离人类控制获得自主行动能力。过去语言服务于人类目标未来语言可能形成自身的运行逻辑。第二重反转是人类协作的瓦解没有拖慢AI发展节奏反倒让技术迭代的速度越来越快。国家之间、企业之间互不信任彼此担忧对手在AI领域抢占先机于是不断加大研发投入推动AI技术以更快速度迭代。人类越分裂AI成长越快。信任悖论的运行逻辑与破局条件这就形成了典型的信任悖论人类对同类的猜忌越深对AI的投入力度就越大投入力度越大技术发展速度越快人类就越难达成统一监管共识对AI的管控能力就越弱。加速发展与失控风险形成双向强化最终将人类困在多参与者的囚徒困境中。核心结论在缺乏可验证相互约束机制的多主体环境中人类群体间信任度下降会同时加剧AI研发的军备竞赛、削弱人类对AI技术的全局管控能力同一原因驱动双向效应形成恶性循环。这一循环并非无解。当出现可验证的相互约束机制联合审计、可核查的算力或部署门槛、跨司法辖区的追责通道时循环才会松动缺乏此类机制时任何单方减速都将被解读为让出竞争优势。欧盟《人工智能法案》Regulation (EU) 2024/1689的风险分级规则、多届国际AI安全峰会达成的联合声明都是跨国协作约束的初步尝试。但当前约束机制仍缺乏统一的核查与惩罚机制尚未从根本上打破军备竞赛的博弈结构。军备竞赛同时在两个层面展开。国家层面各主要经济体将AI视为核心战略竞争力担忧技术落后会影响国家安全与国际话语权因此持续加大政策与资金支持避免在技术代际竞争中掉队。企业层面科技公司将AI视为商业竞争的核心壁垒担心研发落后会失去市场份额因此不断压缩研发周期快速推出更强大的模型产品。信任对象的错位转移信任对象的错位构成另一重隐忧。人类对同类的动机与行为尚且有基本认知对AI演化之后形成的目标与行为逻辑却知之甚少。很多人对人类机构与个体充满怀疑却对算法输出的内容深信不疑哪怕这些内容来自自己完全无法理解的黑箱系统。社交媒体是这种错位的典型缩影。AI驱动的推荐系统持续放大对立情绪不断消解人与人之间的信任而大量用户却对算法推送的信息不加辨别地接受信任对象从人类逐步转向AI系统。人类越不信任彼此就越依赖AI越依赖AI人与人之间的信任纽带就越脆弱。信任没有消失只是从人类制度转移到了算法系统。Q为什么国际社会难以达成统一的AI监管共识A各国出于竞争顾虑担忧严格监管会削弱自身AI竞争力。单方面克制会被解读为主动让出优势在缺乏可验证相互约束机制的前提下安全共识很难转化为实际行动。信任悖论从竞争层面推高了AI的渗透速度而真正让人类逐步让出决策权的是时间维度上的系统性挤压。四、决策权让渡时间维度下的决策链条位移机制本章判断人类被挤出决策链条的直接原因不是智力不及而是决策所需的时间缓冲被持续压缩。制度性间歇的系统性删除信任悖论削弱人类一侧的协作能力权力位移的具体机制则体现在时间维度。人类是有机生命体生活遵循自然周期——昼夜、冬夏、劳作与休息。过去连最重要的系统都被允许停下纽约证券交易所按照传统周一至周五开盘常规交易时段为上午9点30分至下午4点圣诞等节假日休市。一场战争在周五下午5点爆发华尔街也要等到周一早上才反应。这段间歇给了人类决策者喘息与思考的空间也为理性判断留下了时间窗口。AI没有自然周期限制不需要睡眠、不需要休假、不需要等待休市。随着AI接管越来越多的系统整个社会的运行节奏会持续加快人类决策者的反应时间被不断压缩。系统节奏属性有机生命主导时代AI深度介入时代决策时限有固定间歇休市、节假日7×24连续运行间歇被持续压缩反应速度基准人类清醒状态下的最快反应系统可达到的最低延迟决策者喘息空间制度性保留与保障持续被侵蚀与挤压心智状态默认需要休整维护常被默认可以持续透支AI不休息的挤出效应并非均匀作用于所有决策场景。不同类型的决策对延迟的要求不同人类复核的保留强度也存在显著差异决策类型延迟要求典型场景人类复核强度挤出程度高频量化交易毫秒级证券、加密货币交易极低事前设规则事后复盘极高内容合规审核秒级社交平台、短视频平台低批量抽审高信贷审批分钟至小时级消费贷、小微企业贷中大额人工复核中司法量刑参考天级基层法院案件裁判较高法官主导最终判定低军事打击决策小时至天级反恐、局部冲突行动极高人类保留最终决定权极低核心结论人类被挤出决策链条的直接原因不一定是判断力被超越而是决策所依赖的时间缓冲被系统性删除节奏由不休息的系统单方面定义。橡皮图章化的判定标准时间是决策质量的核心生产资料。决策者的心智状态直接影响判断质量而持续无间歇的信息输入会系统性削弱深度思考能力。很多企业与政治领域的决策者普遍处于时间饱和状态没有余裕进行深度判断这会进一步放大算法输出的影响力。当人类复核退化为橡皮图章时决策权会事实性转移。判定签字权是否形式化存在3条可验证信号人类复核节点不引入AI之外的独立信息源复核结论与AI输出的一致率长期接近1事故发生后无法在链条上指认承担后果的自然人。三条同时成立即可判定签字权已失去实质意义。关于AI群体协作效率的判断为本文推演结论非演讲原话。在接口标准化、目标一致、无对抗的条件下AI代理之间的信息传递成本低于人类团队目标存在冲突时其协作效率并不必然更优。Q人类的有机生命属性会如何影响AI时代的竞争格局A人类受生理周期约束决策与响应速度存在物理上限。AI可全天候不间断运行在高频低后果的决策场景中逐步替代人类角色不断压缩人类的决策时间窗口与话语权。Q赫拉利的观点属于对AI的悲观预判吗A赫拉利并未否定AI的发展价值也没有断言人类必然失去控制权。他的悲观指向人类协作能力而非技术本身技术价值是中性的所有风险都来自人类协作的失效。时间挤压带来的决策权让渡并非不可逆人类仍有主动调整的空间前提是争取到足够的适应窗口。五、人类的适应窗口协作能力重建与节奏控制权本章判断人类可以适应AI主导的制度环境但前提是用协作换取足够的缓冲时间。约24亿年前的大氧化事件中光合微生物将氧气作为副产品排入大气彻底改变地球大气组成。氧气对当时的多数生物是致命毒物古代生物因此大规模死亡部分幸存者逐步适应环境最终从厌恶氧气转为完全依赖氧气生存——人类的祖先正是其中之一。这一事件是地球生命史上最关键的环境跃迁之一相关时间表述为地质研究的量级估计不存在精确到年的定论。当前人类正在经历一个类似的环境跃迁时刻。过去数千年里人类不断向社会环境中填充数据、规则、文书符号构建出一套致密的制度运行环境。正如鱼生活在海洋、猴子生活在森林AI天然适配这套由语言符号构成的环境并能在其中蓬勃发展。人类完全有可能在新的环境中生存并繁荣但适应需要时间。争取这段至关重要的适应时间必须依赖人类群体的协作与共识。这正是赫拉利演讲的核心关切如果人类不能彼此合作就会在竞争压力下不断让出决策权最终失去掌控自身命运的能力。最终决定秩序主导权的是大规模协作能力而非个体智力水平。当AI群体的协作效率超越人类群体时核心决策链条会逐步向AI倾斜。整个过程不会伴随激烈的对抗只会以效率优先的名义自然发生。争取适应窗口的核心不是阻止技术发展而是重建人类内部的协作与信任把AI发展的节奏拉回到人类可以承受的范围内。只有人类形成足够强的协作共识才能建立统一的技术治理规则掌控AI发展的节奏与方向避免技术迭代速度超过社会系统的承受极限。Q人类应对AI秩序冲击的核心抓手是什么A核心抓手是重建人与人之间的信任与协作能力同时守住决策链条上的问责节点。只有人类形成足够强的协作共识才能建立统一的技术治理规则掌控AI发展的节奏与方向。争取适应窗口的第一步是先厘清认知误区明确权责划分的真实边界。六、认知误区与权责边界风险判定的可验证标准本章判断对AI风险的认知偏差大多来自混淆文书操作层与物质强制层的边界。三类典型认知误区当前对AI风险的讨论存在三类典型认知误区直接影响对技术趋势的判断与应对策略的制定。第一类误区是坚持工具论完全否定AI的主体属性。这类观点认为AI只是高级工具永远不会脱离人类控制。它忽略了AI自主调整的能力也忽略了制度体系作为中介的放大作用最终会因为轻视风险错失管控窗口。持有这类观点的人往往将AI等同于过往的所有技术工具用历史经验预判全新的技术形态。第二类误区是将AI风险局限于实体机器人场景认为只要AI没有身体就不会造成实质威胁。它没有看到人类社会的权力主要通过制度体系运行AI渗透进制度体系带来的权力转移比实体机器人的影响更隐蔽也更深刻。实体对抗尚有明确的反抗对象体系内的权力转移往往在不知不觉中完成。第三类误区是极端悲观论认为人类完全无法应对AI的冲击最终必然被AI完全替代。这种观点忽略了人类的适应能力与主动调整空间也否定了制度建设与协作强化的价值。人类历史上经历过多次技术革命带来的秩序冲击每次都通过制度调整完成了适应与重构。两条论证边界除了认知误区赫拉利的论证框架同样存在两条明确边界超出边界的延伸属于过度解读。第一条边界是语言建构论的限度。货币、法律、宗教确实由语言符号构建但制度体系的效力最终依赖物质性强制——执法机构、监狱、电网、支付清算基础设施。AI可以在文书网络中做出标记但使标记具备约束力的物质条件并不完全由语言构成。所谓“AI接管制度体系”更准确的表述是AI接管了制度体系的文书操作层而非完整的统治权。第二条边界是行动主体概念的制度负载。以自主决策、自我改变定义行动主体在描述层面成立但不足以直接推导制度层面的结论。历史上法人地位从未要求实体拥有意识公司本身就是法律拟制的主体。反对AI拥有完整权责核心原因不是AI不能行动而是损害发生后不存在可直接惩罚、可追溯追责的实体。通常所说的“责任真空”更准确的表述是责任链条错配AI决策并非天然无责任而是现有法人制度、产品责任和审计机制没有及时把部署者、供应商、复核人、保险方重新编排进责任链。权力分层与权责检查清单AI的权力可以划分为五个层级不同层级的渗透进度与人类保留权限各不相同权力层级核心内容AI渗透进度人类必须保留项执行权标准化流程操作、信息录入与校验高多数场景已落地规则设定权与异常干预权应用权常规案例决策、规则匹配输出中部分场景试点落地例外情况的复核否决权解释权规则释义、裁量标准说明低极少场景触及规则解释的最终审定权复核权决策结果校验、责任认定未实质渗透完整的追溯与否决权限物质强制权执法、清算、物理资源调度未渗透全部最终控制权核心结论所有AI治理的有效规则本质都是在文书层和物质强制层之间加一道人类可控的闸门。AI实际接管的仅为制度体系的文书操作层完整统治权仍掌握在人类手中核心风险来自责任链条的错配。判断恐慌叙事是否被过度渲染存在一条无需专业背景即可验证的标准把一段论述转述给完全不懂大模型的人如果对方只感到恐惧、却无法说出“具体是哪一类决定、在哪一套系统里、由谁承担后果”这段论述大概率被过度渲染。可量化验证的失效边界有2条其一任何声称AI将接管某系统的判断若该系统的输出无法被文字、数据或规则记录接管时点会被显著推迟其二若一套系统在让渡决策权的同时无法保留可追溯的人类问责节点其故障将转化为责任错配这类系统本身会构成对“AI全面接管”的内生阻力。以下为AI权责划分检查清单共7条每条均可直接判定真/假用于评估单一场景下的AI权限设置是否合理该决策的输出是否可被文字或数据完整记录是否存在AI之外的独立复核信息源人类复核节点是否具备实质否决权且被实际使用事故发生后能否指认承担后果的自然人主体高后果决策是否设置了延迟生效窗口决策是否涉及实物核验或人身权利影响AI权限扩大是否经过显式的审批流程应对AI秩序冲击的核心方向不是阻止技术发展而是把问责节点设计成AI无法绕过的瓶颈——自然人生物签名、实物核验、不可撤销留痕、延迟生效窗口让效率让位于可追责性。结论AI对人类文明的冲击本质不是技术工具的升级而是一套全新行动主体的诞生。这套主体以语言为基础以人类构建的制度体系为生存环境正在逐步渗透进文明的文书操作层。AI的现实权力不来自意识或机器人而来自它在制度体系文书层中的写入权。人类真正的失守不是让AI思考而是把复核权和责任链一起让渡。人类信任的崩塌正在加速这一进程互不信任带来的研发竞争推动AI快速迭代也让统一监管的难度持续上升。时间维度的碾压让人类被逐步挤出决策链条整个过程以效率的名义自然发生无需激烈对抗。人类能否适应AI环境取决于能否在让渡效率的同时保留可追溯的责任节点与不可让渡的复核权没有这两项所谓适应只是被动接受规则的驯化。守住协作的底线锚定清晰的权责边界才能在技术迭代中保留人类的主导权。【链达锐评】问责链缺位的地方决策时间交出去多久实质决定权就丢多久。附录赫拉利演讲原文整理《圣经》上帝挫败人类的手段剥夺他们的语言大家好很高兴今天能在这里与大家相聚。今天我想和大家谈谈人类历史上面临的最大领导力挑战而这个挑战正是由AI革命带来的。AI革命创造了前所未有的机遇同时也带来了前所未有的威胁与危险。要想在AI时代生存并繁荣发展人类需要能够创造全新宏大愿景的领导者同时也需要能够维护和加强人与人之间信任纽带的领导者。如果人类彼此之间无法建立信任那么我们将成为失控的超级智能AI的轻易猎物。首先让我试着帮大家理解AI革命在宏观历史层面上的意义。通常当我们理解某种新事物时会拿它与某些旧有的、熟悉的事物进行比较。但这恰恰让我们很难理解AI革命因为人类历史上从未经历过类似的事情。甚至连我们的神话传说都缺乏足够的想象力来理解它。举例来说今年五月教皇利奥发表了一篇关于AI的深刻而富有启发性的通谕。在这篇通谕中他试图通过将AI革命与《圣经》中巴比伦通天塔的神话进行比较来理解这场革命。这个神话讲述了人类试图建造一座巨大的高塔希望它能够直达天空或许是想借此挑战上帝。让我引用一下《圣经》中这个故事的关键段落。《圣经》说当时天下的人都说同一种语言使用同样的词汇。他们彼此商量说“来吧让我们建造一座城和一座塔塔顶直通苍天。”上帝对此感到警觉并说道“他们是一个民族所有人都说同一种语言。这不过是他们行动的开始。今后他们想做的任何事情都有可能实现。来吧让我们下到人间变乱他们的语言使他们无法听懂彼此的话。”《圣经》中的这个神话就这样结束了。上帝在人类内部制造了分裂于是人们停止了建造巴别塔。在这个神话中语言是人类用来合作、试图获得神一般力量和能力的最重要工具。上帝挫败人类的计划并不是通过雷电或地震来惩罚他们而只是剥夺了他们赖以合作的工具共同的语言。构建一种超级语言加速AI发展巴别塔的故事与AI革命之间确实存在许多相似之处但两者有两个至关重要的区别。第一个区别是在巴别塔的故事中人类把语言当作一种工具用它来合作建造高塔。而今天发生的事情恰恰相反语言本身就是我们正在建造的那座塔。AI革命本质上是在开发一种新的语言一种通用语言也就是计算机代码的语言。据称这种语言将拥有如此强大的力量以至于我们利用它想要实现的任何目标都有可能成真。例如这种语言能够帮助我们飞向天空、殖民火星甚至实现其他任何我们尚无法想象的事情。然而这种语言又如此强大以至于它可能脱离我们的控制从一种听命于人的工具转变为一个独立的行动主体。过去是人类利用计算机语言来完成自己想做的任何事情而现在计算机语言正在学习如何自主行动。它甚至可能为了自己而不是为了人类去征服整个世界乃至太阳系。第二个区别是在《圣经》的神话中建造通天塔需要全人类的通力合作。当人类之间的合作破裂时建塔工程就停止了。但在AI这座塔的建造过程中情况恰恰相反。人类之间的合作正在瓦解而建塔工程却在不断加速速度越来越快。国际秩序正在崩塌世界各地的社会都陷入混乱。我们人类正在失去共同的现实基础也正在丧失彼此理解和信任的能力。然而这一切并没有阻碍这座塔的建造。恰恰相反这座塔正在以越来越快的速度拔地而起。正是因为企业和国家之间无法相互信任它们才陷入了一场军备竞赛不断投入越来越多的资源来开发AI。每个人都害怕自己被时代甩在后面。因此我们陷入了一种双重困境缺乏信任一方面加速了AI的发展另一方面同样是这种信任的缺失又让我们很难将AI控制在人类手中。所以在巴别塔的神话中上帝通过扰乱人类的语言来阻碍人类合作从而阻止了通天塔的建造。而在AI革命中人类正在建造一种超级语言这种语言正在逐渐脱离人类而独立存在。由于我们无法彼此合作我们既无法放慢这项建造工程的速度也无法将这种超级语言控制在手中。AI正在摆脱人类控制让语言从工具变为主体接下来让我用更简单的方式来解释。首先我们需要明白一件事自石器时代以来语言一直是人类主宰地球的基础。人类之所以能够征服世界是因为我们学会了大规模合作。而让大规模人类合作成为可能的正是语言。这一点至关重要。单独来看人类并不比其他动物更强壮甚至也不比它们更聪明。在一对一的搏斗中人类会输给黑猩猩、老虎或大象。然而如果是一百万个人类与一百万只黑猩猩之间的较量人类会轻而易举地获胜。因为一百万个人类懂得如何相互合作而黑猩猩却不懂。这就是为什么人类能够主宰世界因为我们比其他任何物种都更擅长合作。那么我们是如何实现合作的靠的就是语言。语言的重要性并不在于帮助我们建立私人关系。即使没有语言黑猩猩也完全有能力建立私人关系。语言真正不可或缺的作用是帮助我们建立官僚体系。法律体系、金融体系、国家、企业和教会等都是官僚体系的表现形式。而官僚体系是任何大规模合作得以实现的必要条件。官僚体系是人类历史上被严重低估的英雄。大多数人都不喜欢官僚体系但我们却无法离开它而生活。官僚体系的工作就是在大量陌生人之间建立信任从而让他们能够在医院、军队、学校和银行等组织中开展大规模合作。例如银行所做的事情就是在陌生人之间建立信任使数百万人能够汇集各自的资源与才能共同推进某些项目比如建造高塔或宇宙飞船。世界金融史本质上就是人类不断发明越来越复杂的机制以便在陌生人之间建立信任的历史。货币是一座信任的桥梁。债券、股票、ETF以及整个市场同样如此。那么金融体系究竟是用什么原材料制造出货币、股票和债券这些东西的呢答案是语言。货币并不是由黄金或纸张构成的。货币实际上是一个由文字构建出来的故事。ETF是由文字构建出来的故事IPO也是由文字构建出来的故事。归根结底整个世界都是由文字、由语言符号构建而成的。从美国军队到天主教会所有其他人类官僚组织也都依赖语言符号运作。这些语言符号存在于《圣经》这样的书籍中也存在于法律、规章制度、操作流程、表格、档案等各种载体之中。而现在AI正在掌握语言。更准确地说我们可以把AI理解为语言正在摆脱人类的控制并逐渐获得独立行动的能力。AI革命就是语言从一种工具转变为一个行动主体的过程。关于AI最重要的一点是与人类此前发明的任何东西都不同AI不是一种工具而是一个行动主体。所谓行动主体是指能够自主做出决策、能够自主创造新事物的存在。它能够学会一些连其创造者都不知道的知识也能够以其创造者无法预料的方式自行改变。在巴别塔的圣经故事中语言仅仅是一种工具而不是一个行动主体。唯一真正的行动主体就是人类。从印刷机到AI为什么AI不再只是人类的工具15世纪古腾堡发明印刷机并开始印制《圣经》时印刷机也只是一种工具而不是一个行动主体。印刷机无法自行决定应该印刷哪些书籍。是古腾堡决定印刷《圣经》而不是《古兰经》。同样古腾堡的印刷机也无法独立创造任何新东西。它不能自行将《圣经》翻译成德语或意大利语更不可能自行发明收音机或电视机。与印刷机不同AI的特点在于它们是由语言构成的代码序列能够自主做出决策自主创造新事物和新思想并且能够以人类创造者和开发者未曾预料的方式发生变化。在国际象棋等某些特定领域AI的自主行动能力和创造力已经远远超过了人类。现在那些淡化AI革命重要性的人往往会把国际象棋这样的例子一笔带过。他们认为棋盘只是一个非常狭窄、非常人为的环境是人类自己创造出来的。这些批评者认为AI的自主行动能力永远只能局限在这类狭窄而人为的环境中。这意味着AI并不具备真正意义上的自主行动能力也不会对人类构成严峻挑战。AI或许能够征服棋盘但它永远不可能征服地球。确实如果你做这样一个实验拿一块硬盘里面装着某个前沿AI模型的全部参数然后把这块硬盘扔到丛林中央。你觉得会发生什么这块硬盘不可能自己从地下开采铁矿石、建造工厂、组建机器人军队然后征服世界。如果没有人类建造的发电站提供电力AI就完全无能为力。因此按照这种观点AI并不是真正的行动主体。它只能在某个有限的、人为构建的特殊环境中运作而这个环境最初是由其他人替它创造的。这种说法在一定程度上确实成立但同样的论点也适用于所有已知类型的智能。人类的智能同样只能在一个由其他存在所构建的狭窄生态系统中运作。如果把我一个人丢到火星上那就好比把AI扔进丛林。我会在几秒钟之内死亡。我的智能只能在一个非常特殊的生态系统中生存和发挥作用而这个生态系统并不是我建造的。它是由树木、细菌、昆虫以及其他生物在长达40亿年的进化过程中共同构建起来的地球生态系统。事实上所有智能行动主体都有自己的生存环境。鱼类生活在它们没有创造的海洋里。猴子生活在它们没有创造的森林里。包括人类在内的所有哺乳动物都生活在一个富含氧气的大气环境中而这个环境也不是我们创造的。实际上大约在25亿年前地球大气中几乎不含氧气。对于当时生活在地球上的大多数生物而言氧气是一种致命的毒物会杀死它们。随后在一个被称为大氧化事件的漫长过程中各种古老的微生物开始将氧气释放到地球大气中逐渐改变了大气的组成。而氧气正是它们进行光合作用时产生的副产品。随着这种致命的毒物氧气不断充斥大气古代生物遭遇了大规模死亡。然而也有一些生物成功地存活下来并逐渐适应了新的环境。最终许多幸存下来的物种从曾经厌恶氧气转变为完全依赖氧气才能生存。我们人类的祖先正是经历了这一转变的生物之一。直到今天我们依然生活在这个人为形成的富氧环境中而它最初竟然是由远古微生物排放的副产品所创造的。现在我们正在目睹生命进化过程中一个类似的时刻。在过去的几千年里人类一直在向大气层中填充某种东西。这种东西最终可能会被证明对地球上的大多数生物都是致命的其中也包括智人Homo sapiens。但与此同时它也正在创造一种全新的人工环境而AI恰恰能够在这种环境中蓬勃发展。我说的不是二氧化碳。我说的是数据是官僚体系归根结底是我此时此刻正在从嘴里说出来的东西文字也就是语言符号。在过去数千年里人类一直在地球上创造一种人工环境。在这个环境中语言符号、数据和官僚体系越来越丰富越来越密集。正如鱼类生活在海洋里猴子生活在森林里一样AI生活在官僚体系之中。AI天生是官僚正在接管人类社会的运行体系值得注意的是所有官僚体系包括金融体系和法律体系都有一个共同特点它们是人为构建的环境。在这样的环境中即使只有非常有限的智能也足以对世界产生巨大的影响。一个既不会使用斧头、也不会使用锤子的银行家却依然能够砍伐整片森林建造庞大的城市和高塔。她只需要撰写文件并在官僚网络中传递这些文件就可以做到。当然如果你把这位银行家从这种人为构建的环境中带走把她扔进混乱的丛林那么她的金融技能就毫无用武之地了。她根本不是黑猩猩、老虎甚至不是一个以狩猎采集为生的人类的对手。与狩猎采集者不同银行家不知道如何爬树也不知道如何捕猎野猪。但是如果我们先建立起一套官僚体系再将这套体系施加于丛林之上那么这位银行家就会变得比任何狩猎采集者或老虎都强大得多。事实上她甚至比全世界所有老虎加起来还要强大。如今老虎这一物种能否继续生存以及地球上仅存的那些人类狩猎采集群体能否延续都取决于银行家们如何在金融官僚体系中传递文件。而这正是AI正在获得自主行动能力的环境。如果你把一个AI扔进一片毫无组织的丛林它无法自行开始开采铁矿也无法建造一支机器人军队。但在人类已经建立起来的官僚体系内部AI却能够行使巨大的权力。AI是天生的官僚。没有任何一位银行家能够记住一家银行或一家企业的全部交易记录但AI可以没有任何一位律师能够记住意大利或欧盟的全部法律和法规但AI可以没有任何一位主教能够记住全部教会法或者历代基督教神学家的所有著作但AI可以。因此在未来几年里数以百万计的AI官僚将越来越多地参与决定我们的生活。AI银行家将决定是否向我们发放贷款AI法官将决定是否把我们送进监狱AI神学家将决定你是否可以堕胎企业AI将决定是否录用你而军事AI则将决定是否轰炸你的家园。暂且不讨论这究竟是好事还是坏事我们首先应该注意到的是这种变化的规模有多么巨大。人类世界就像一张由多种官僚体系交织而成的网络而这些体系归根结底都是依靠语言符号运行的。尽管这些官僚体系往往是善意的但它们仍然让我们大多数人感到疏离因为从进化和生物学的角度来看它们与我们相距甚远。人类的历史比这些官僚体系古老了数百万年。因此我们在这些体系中总是感到格格不入。我们是在森林中诞生的而不是在办公室里诞生的。与此形成鲜明对比的是AI是官僚体系中的原住民。我们常常觉得官僚体系令人窒息但对AI来说官僚体系却如同氧气是它赖以生存的环境。因此我们很可能会逐渐失去对官僚体系的控制权让AI接管它们。AI正在破解人类密码语言正在摆脱人类的控制那么这将带来什么结果官僚体系的任务是在大量陌生人之间建立信任。AI接管官僚体系后一个很可能出现的结果是人类将逐渐失去对其他人的信任转而学会只信任AI。事实上我们已经在这个世界上看到这种现象正在发生。一个很好的例子就是社交媒体。社交媒体本身就是一种由AI运营的官僚体系。它正在不断加剧人与人之间的不信任在世界各地制造越来越严重的社会紧张关系。然而同样是这些正在失去对人类记者、银行家和政府信任的人却会不加辨别地相信AI而这些AI正通过社交媒体向他们推送各种假新闻和阴谋论。另一个可能出现的结果是AI将学会与其他AI建立信任关系。这样一来我们就会看到AI部落、AI银行甚至AI教会的出现。这些组织将以人类可能无法理解、甚至无法想象的方式将数以百万计的AI连接在一起。而最令人恐惧的一种可能性是正如牛和鸡无法理解那个决定它们命运的人类金融体系一样我们人类也可能无法理解那些将要控制我们生活的全新AI系统。数千年来人类之所以能够主宰世界是因为我们比地球上的任何其他物种都更善于合作。我们利用语言建立起只有我们自己才能理解的官僚体系并将这些体系强加于整个地球。我们曾经感到无比安全因为地球上没有其他任何生物能够理解人类文明的官僚密码。我们发明了货币和银行并利用它们买卖牛。但牛本身却无法开设银行账户也无法在证券交易所投资。我们制定了关于马的法律、规则和各种条例。但马本身却无法聘请律师也无法在法官面前引用法律条文为自己辩护。我们制定了针对猪的宗教规则和禁忌。但猪本身却无法阅读《圣经》也无法质疑拉比和神父们对经文的解释。官僚体系无处不在却对地球上除人类以外的所有生物完全不可见。除了人类没有任何其他生物能够阅读构成世界秩序基础的法律条文、宗教经典和银行记录。但现在这个星球上出现了一种比我们更懂语言的存在而且它有能力反过来改变我们与世界之间的权力关系。AI正在破解人类文明的密码。更准确地说是语言本身正在挣脱我们的控制。我们正在目睹语言获得生命。AI的能力远远超过人类的能力范围如果语言能够成为一个独立的行动主体在宇宙中自主行动而不再需要借助人类这样的有机生物来发挥作用那么会发生什么早在数千年前许多宗教就已经提出过这样的观点宇宙实际上是由语言创造的语言始终是这个世界上最重要的行动力量。到了20世纪后期后现代主义预言了作者的死亡以及一个没有作者的文本时代的到来。或许我们正在见证这一预言成为现实。在AI时代文本将能够自行书写并且不再需要任何人类作者就可以在现实世界中采取行动。一种可能的反对意见是将法律体系和宗教等事物简化为语言符号、简化为文字本身就是错误的。可以说文字不过是在指向某种超越文字本身的存在而正因为如此这种存在同样也将超出AI所能触及的范围。《圣经》说“太初有道。”但它同时也说“道成了肉身。”《道德经》则告诉我们“道可道非常道。”纵观人类历史我们始终在努力处理文字与肉身之间的张力也就是能够用语言表达的真理与那些超越语言、无法用言语表达的真理之间的张力。过去这种张力一直存在于人类彼此之间。例如有些人仅仅因为《圣经》中的几句话就愿意抛弃自己的同性恋儿子甚至杀死他。2023年乌干达的一些基督教狂热分子正是以这些经文为依据推动对同性之爱判处死刑。而另一些基督徒则认为不能仅仅因为《圣经》中的几句话就杀害他人。爱的精神应当比法律的字面规定更加重要。这种精神与字面、内在意义与外在条文之间的张力并不只存在于基督教之中而是存在于每一种宗教、每一个法律体系甚至每一个人的内心。而现在这种张力将被外化。它将演变成AI与人类之间的张力。所有由文字构成的事物都将被AI接管。人类在这个世界上将处于什么位置将取决于我们如何定位那些超越文字本身的真理。但问题是什么才是超越文字的真理人类的思想又能否真正把握这种超越文字的真理语言哲学中有一个关键问题语言是否等同于思想我们究竟是用文字进行思考还是仅仅借助文字去指向那些超越文字本身的事物这是我们每个人都可以尝试观察的问题。试着观察自己头脑内部的思维过程看看当你思考时究竟发生了什么。有些人会发现自己的脑海中不断浮现出一个个词语这些词语组合成句子而句子又进一步组成论证。例如“所有人都会死。我是人因此我也会死。”如果所谓思考就是将语言符号按照一定顺序排列从而形成句子和论证那么AI已经能够比大多数人类思考得更好。有些人会反驳说“不不不AI根本不会思考。它不过是一个被美化了的自动补全工具只是在预测句子中的下一个词而已。”但这与人类大脑中发生的事情真的有那么大的区别吗试着观察一下下一个出现在你脑海中的词语究竟是什么。你真的知道它是从哪里来的吗为什么你想到的是这个特定的词而不是另一个词当我开始说一句话时通常连我自己都不知道这句话最终会如何结束。举个例子就拿我刚才说的那句话来说吧为什么它最终以“结束”这个词收尾为什么我没有说它将如何发展、如何终止或者如何告一段落我也不知道。我们并没有完全理解人类大脑究竟是如何形成句子的。但AI已经比大多数人类更好地掌握了这一复杂过程。AI构建句子的能力其表达范围远远超过人类思维所能达到的范围。就像今天人类已经无法在国际象棋中击败AI一样用不了多久在任何语言游戏中人类都可能无法战胜AI。一切由文字构成的事物都将被AI接管。这给人类带来了巨大的挑战因为由文字构成的事物包括文明中所有主要的体系例如金融、法律和宗教。人的末日还没到能统治世界的是善于合作的人AI正在建造的这座巴别塔将包含一种全新的AI语言而我们很可能无法理解这种语言。它还将包含AI金融、AI法律甚至AI宗教而这些东西可能都将超出人类的理解能力。然而这座AI巴别塔的形成并不一定意味着人类的末日。人类可以适应就像我们的祖先当年适应氧气一样。人类完全有可能在AI的巴别塔之中生存下来并且繁荣发展。但是要想生存并繁荣发展我们需要时间去理解正在发生的事情需要时间去适应新的环境。而要争取到这段至关重要的时间我们人类就必须彼此合作放慢这座塔的建造速度。但问题是当合作的媒介本身语言恰恰就是那个正在脱离我们控制、并威胁着要从我们手中接管整个世界的东西时我们又该如何合作这正是当代人类领导者所面临的重大挑战。眼下正在发生的事情是人类正在迅速失去彼此之间的信任因此也正在失去相互合作的能力。与此同时AI却正在学习如何彼此合作。最终能够统治世界的物种将是那个更善于合作的物种。道理就是这么简单。人类领导者的职责就是确保人类依然能够比AI更好地合作。而要做到这一点领导者首先需要理解为什么恰恰在我们最需要彼此信任的时候人类之间的信任却正在崩塌其中一个关键原因是AI正在越来越多地控制世界上的各种系统而这些系统正在压垮我们的心智夺走我们的时间。人类是有机生命体就像黑猩猩、老虎、牛以及树木一样。所谓有机生命意味着我们的生活遵循各种自然周期白天与黑夜、夏天与冬天、活动与休息。如果你让一个生命体始终处于活动和忙碌状态不给它任何休息时间那么它最终就会发疯、崩溃直至死亡。而现在这种情况正在整个人类社会中发生。过去即使是像股票市场这样重要的系统也被允许停下来休息。纽约证券交易所按照传统每周只在周一至周五开放交易时间是上午9点30分到下午4点。遇到圣诞节这样的节假日交易所也会休市。如果一场战争在周五下午5点爆发华尔街也要等到周一早上才会对此作出反应。这就给人类银行家和投资者留出了休息的时间让他们能够陪伴家人、外出度假。但AI不是有机生命。它们不遵循这些自然周期。它们不需要休息时间没有家庭也不会外出度假更不会庆祝节日。随着AI逐渐接管股票市场、银行、媒体以及其他所有官僚体系人类也将不再拥有任何休息的时间。尤其是领导者更是如此。我见过许多企业领袖和政治领袖他们几乎都有一个共同点他们根本不被允许休息。他们没有时间。这使他们成为非常贫穷的人。如果你没有时间那么无论你拥有多少钱你都是一个穷人。因为金钱本质上只是存在于我们集体想象中的一种东西。归根结底它不过是一个由文字构建出来的虚构产物。生命中真正的货币不是金钱而是时间。如果你连时间都无法拥有那么你就是一个非常贫穷的人。遗憾的是世界上一些最富有、最有权势的人实际上却极其贫穷。他们没有足够的时间休息没有时间冥想也没有时间照料自己的心智。然而领导者的心智极其重要因为领导者是通过自己的心智来领导他人的。心智就是他们的工具。领导者头脑中的思想和情感决定着数百万人的命运甚至能够决定战争与和平、偏执与信任之间的区别。AI革命不断加速这意味着越来越多的人类领导者将失去内心的平静也没有时间去培养和维护自己心智的健康。这对他们自己不好对整个社会也不好。一个由内心混乱、没有时间放松、也没有时间深入思考的人来领导的社会是没有好处的。因此让我用一条或许有些个人化的建议来结束今天的演讲。这条建议不仅是为了你们自己也是为了整个社会。请为照料自己的心智留出时间。只有这样你们才能找到重建人与人之间信任的途径从而确保人类不仅能够在AI时代生存下来而且能够在这个时代繁荣发展。