提起“智械危机”，很多人脑海中浮现的第一个画面，或许是《终结者》系列电影中天网觉醒、机器人审判人类的经典场景。在那个CG特效尚显粗糙的年代，银幕上的钢铁骨架与核爆废墟，更像是一场关于科技傲慢的宏大寓言。彼时，无论是坐在影院里的观众，还是实验室里的科学家，大都笃定地认为，这种机器彻底失控并反噬人类的桥段，属于好莱坞式的浪漫幻想——距离现实太过遥远，甚至永远不可能发生。但随着近几年AI产业的飞速发展，从能流畅对话的大语言模型，到可以自主决策的具身智能，AI正以前所未有的方式渗透进社会的毛细血管。全球人工智能的迭代速度已远远超出公众的预期。曾经科幻电影里的虚构情节，如今似乎正逐步褪去“不可能”的外衣。

图1：人们更容易记住天网觉醒的电影画面；当下需要正视的，是算法偏见、深度伪造和自主武器已经摊开的风险清单，而不是把危机继续当成遥远寓言。

当下，智械危机，这个带有赛博朋克色彩的词汇，已经从一个纯粹的哲学思辨议题，演变为一份摆在人类面前、迫切需要正视的现实风险清单。这份清单上，既有算法偏见导致的社会不公、深度伪造引发的信任崩塌，也有自主武器系统带来的伦理困境，以及通用人工智能可能对就业结构、信息安全甚至人类自主性造成的深层冲击。面对如此复杂且快速演进的挑战，全球范围内的治理探索却显得步履蹒跚。现有研究普遍指出，当前人工智能安全治理的需求与国际公共产品供给之间，存在着显著的失衡与错配——技术迭代以月为单位推进，而国际规则的谈判往往以年甚至十年为周期；各国出于技术竞争与安全焦虑，倾向于各自为政，缺乏互认的技术标准与风险通报机制；企业层面的自律措施又因商业利益驱动而难以保持一致性与透明度。

图2：大模型和具身智能按月改写风险形态，国际规则、国家标准和企业自律却仍按更长周期供给；需求与供给对不上，治理就会落后于技术。

正是在这一背景下，有研究者提出了按风险类型进行分类分级、匹配多层次供给模式的理论框架，试图在一刀切的僵硬管制与放任自流的无序生长之间，寻找一条兼顾安全与创新的中间路径。这套框架看似周全。然而，一个根本性的追问始终悬而未决：风险由谁界定？分类标准由谁制定？当技术本身成为定义风险的话语权来源，那些脱离商业叙事与大国博弈的独立风险评估，还能否拥有制度化的表达空间？

图3：分类分级回答不了“风险由谁界定”；写死的规则会在风险变异后失效。更稳妥的是让治理具备学习、迭代和纠错能力，同时守住理论框架与二手推演的解释边界。

归根结底，任何规则体系都内嵌着对未来的某种假设，而人工智能的发展恰恰以不断打破这些假设为常态。昨天被认为不可能的逻辑推理能力，今天已嵌入大模型；明天无法预判的涌现行为，后天可能成为新的安全漏洞。一套规则，即便设计得再精妙，也难以真正覆盖未知的未来。因为规则写定的那一刻，它所针对的风险形态可能已经发生变异。与其追求一套万能且永不过时的规则，不如建立一种能够伴随技术共同演进的动态治理能力——让规则本身具备学习、迭代与纠错的弹性。毕竟，智械危机的真正解法，不在于一次性“避免”，而在于持续性地“共处与驾驭”。

本文由 Scholay 整理。研究信息来源：《风险类型与国际公共产品供给模式——全球人工智能安全治理的分析框架》《深度伪造技术全链式刑事治理模式研究》。DeepMind 推演的二手转述见知乎专栏，不能把“必然走向超级智能”写成事实。