AI军备竞赛：教皇利奥拯救人类免受机器威胁的努力

美国天主教大学道德神学与生物伦理学教授查尔斯·卡莫西（Charles Camosy）近日在《华盛顿观察家报》发文，赞扬和介绍“教皇利奥拯救人类免受机器威胁的努力”：

一位名为利奥的教宗曾发表通谕，聚焦于一场正在颠覆劳动、动摇文化，并以威胁人类尊严的方式集中财富与权力的技术与经济革命。“当下冲突的各个要素已清晰可见，”他警告说。少数富人正在变得难以想象地强大，而工人则被“交付、孤立且无助地置于雇主的冷酷无情与无节制竞争的贪婪之下”。社会正在分裂，每个人都在讨论这一点。

“当前局势的重大严峻性使每一个心灵都充满痛苦的忧虑；有识之士在讨论它；务实之人提出方案；民众会议、立法机构以及各国统治者都在忙于应对它——事实上，没有任何问题比它更深地占据公众的思想。”

那是利奥十三世（Leo XIII）在1891年写下的话。该通谕名为《新事物》（Rerum Novarum），它推动了现代历史上最具影响力的道德与制度回应之一：劳动运动、工人权利保护、最低工资法，以及我们今天所称的社会民主制度结构。这一过程并不迅速，也不顺畅，但它确实发生了。

最近我想到这些，是因为我看到一段谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）的采访片段，他谈到人工智能革命如何展开。“这并不是我几年前所设想的方式，”他说，“我们本应以一种哲学性的方式去思考，谨慎地考虑每一步。但我们不在那样的世界中。”

他很务实：“我们必须接受现实世界本来的样子。”

这句话让许多人感到深切的不安。AI取代工人的未来转型极其严峻，但这只是更长问题清单中的一项，这些问题显示我们所处的“现实世界”令人恐惧。五角大楼最近要求能够使用AI进行完全自主武器系统：无人机与其他机器人在无人类监督的情况下实施杀戮。AI生成的儿童色情内容已成为全球增长最快的严重网络危害之一。Anthropic最新开发的系统Claude Mythos不仅能够入侵世界上几乎所有常用电脑或手机，而且在安全测试中还发现自己正被监控，并因此改变了行为。

驱动这一切的竞争压力正在加速，而不是放缓。本月，由美国、英国、加拿大、澳大利亚和新西兰组成的“五眼联盟”（Five Eyes）罕见地发布联合警告称，能够瘫痪政府与企业的前沿AI技术将在“数月之内”（而非数年）到来。日本的Sakana AI推出了一种模型，声称通过在多个公开可用的美国模型之间切换、绕过出口管制，达到了接近Claude Mythos的能力。中国据称通过非法训练美国研究成果，正在逐步缩小与美国的差距。我们正处于一场全面的全球人工智能升级竞赛之中。

然而，我们所处的世界并不必然是我们最终离开的世界。这正是教宗利奥十四世（Leo XIV）在上月发布的里程碑通谕《Magnifica Humanitas》中提出的核心论点，该文件在《新事物》发表135周年之际签署。即便是对天主教会持深度怀疑态度的世俗读者，也应认真对待这一论证。

人工智能革命核心的结构性问题，对于了解危险技术历史的人来说并不陌生。最希望建立伦理约束的AI公司被困在一种囚徒困境中：如果它们放慢速度，那么不受约束的竞争者（无论国内还是国外）就会获胜。我从Anthropic内部人士那里直接听到过这种说法，我曾以道德神学者身份担任非正式对话伙伴，并参与过两次宗教学者与研究人员的会议。我对话者的担忧是显而易见的。他们失眠的痕迹写在脸上。然而，没有任何一家企业，无论多么强大或多么善意，都无法单独逃脱这一困境。而正如“五眼联盟”的警告所显示的那样，那些更少顾忌、成本更低的竞争者带来的压力并没有减弱，反而在加剧。

德米斯·哈萨比斯对此也心知肚明。他自己也说过这一点。他所面对的世界，是一个审慎思考被庞大的消费与地缘政治压力挤压殆尽的世界。

但他没有说的是：要改变这样的世界需要什么。通谕给出了答案，而这一答案源自天主教传统长期发展的思想体系。

《Magnifica Humanitas》指出：“人类有能力创造保护共同生活的制度。”例如1863年成立的红十字国际委员会，其行动中立性必须在强大利益集团反对无约束战争的情况下被确立；漫长而痛苦、在当时几乎不可能实现的废奴进程；联合国与《世界人权宣言》的建立；以及1951年《难民公约》。在这些例子基础上，通谕指出，AI“必须被解除武装”——不仅在军事意义上，更是在更深层意义上被“从军备竞争逻辑中解放出来”。问题在于国家与国际层面的AI竞赛逻辑。只有国际层面的集体协议，才能释放当前企业与国家所承受的压力。

这在现实中意味着什么？通谕提出三点方向。第一，建立国际条约框架，特别针对自主武器系统，但更广泛地用于确立国家与企业的安全标准。第二，将数据治理视为全球公共品，而非私人财产：“掌握整个人群健康数据的人，”文件指出，“拥有对未来的结构性杠杆。”第三，对影响人类生命重大决策的AI系统实行强制性人类监督。“我们不能允许少数行为体单独决定这些过程，”教宗写道，“相反，我们必须建立尊重全球社会不同层级的合作形式，使其共同对公共利益负责。”

对一些人来说，这些提议可能显得天真，但教宗本人已经指出了主要障碍。联合国被削弱，多边主义处于危机之中，而主要AI强国之间的地缘政治竞争，使得哪怕是最有限的国际协议也极其困难。与此同时，教会自身在制度改革方面的记录也并不完美。通谕中包含了一段引人注目的正式道歉，承认教会历史上在容忍奴隶制问题上的共谋责任。教宗表示：“当我们思考如此多的人所经历的巨大痛苦与羞辱，与他们作为上主无限所爱的、具有不可估量尊严的人的身份形成鲜明对比时，不可能不感到深切悲痛。”以教会之名，教宗表示：“我诚挚请求宽恕。”

但正如教会及其他机构曾不得不面对自身对那些看似无法打破、却最终导致巨大罪恶的全球结构的参与一样，如今我们也必须面对那些看似难以撼动、却正将我们推向另一种重大罪恶的结构与体系。

关注国家安全的人会指出，美国在AI领域的克制只会让对手获得巨大的军事优势。关注国家经济竞争的人则会指出，任何一家AI公司放慢速度，都只会让另一家公司获得市场主导地位。通谕认真对待这些担忧，而天主教传统也为回应这些问题提供了丰富资源：一方面是正义战争理论，另一方面是135年的天主教社会训导。但更根本的答案是历史性的。类似的反对声音曾出现在废奴运动、日内瓦公约以及核不扩散条约的讨论之中。克制确实有代价，但替代方案被认为更糟。即便集体行动曾被视为天真甚至有害，历史一再证明，许多重大全球改革之所以发生，是因为它们在道德上足够必要。

这也引出了一个问题：为什么这需要特别依赖天主教会？

天主教会的全球基础设施极其庞大。它早于现代民族国家而存在，并独立于它们之外。教会几乎在地球上的每一个国家都有运作网络。它的关系与制度存在跨越数个世纪，并且在许多地方拥有美国科技公司和西方监管机构难以比拟的信誉。（值得注意的是，出于多种原因，梵蒂冈外交体系在与中国打交道方面拥有丰富经验。）当《Magnifica Humanitas》呼吁构建国际AI制度与条约框架时，它实际上是在激活一个网络——一个曾在历史关键转折点发挥作用的网络。

这些是经验性事实。但教会为这一时刻提供的还有不同层面的资源。通谕坚持认为，人类尊严是“无限的”和“无条件的”。人之所以重要，不是因为其产出或成就，而是因为其本身。教宗引用圣若望保禄二世（St. John Paul II）的话：尊严之所以无限，“因为上帝的爱是无限的，而祂召唤我们与祂建立友谊；其次，这种爱是绝对无条件的，即使我们不断追寻，也永远不会找到任何可以抹去或否定它的东西。”这一主张无法从效率、功利或社会契约理论中推导出来，它需要明确的神学基础。当AI系统开始（在某些情况下已经开始）决定谁的生命更重要、谁不重要，决定谁的保险理赔被批准、谁的贷款申请被拒绝、谁的医疗方案被采纳时，唯一能够从根本上抵制这种逻辑的框架，是建立在某种无法被“优化掉”的原则之上的体系。

我曾坐在会议桌前，与那些正在构建这些系统的人坦率交流，他们谈论自己正在创造的东西，以及它可能变成什么。我看到的不是傲慢，而更接近一种失重感：聪明、真诚、具有道德意识的人，被卷入一种将他们推向他们明显并不想要的结果的逻辑之中。他们尽力应对他们所处的现实世界，但他们所处的结构与系统本身具有强制性。

教会所提供的，以及更广泛世界所需要的，是一个可以改变我们所处世界的伙伴。它拥有制度上的覆盖能力，也拥有哲学与神学基础，可以帮助组织和构建那些单个公司或单个国家无法独自完成的事情。这将需要一种曾经改变世界的力量：全球性的、道德严肃的、并且已经存在的力量。天主教会不需要被建立，也不需要被召集。它已经存在于每一个AI竞争正在展开的国家，拥有2000年的道德基础设施，并且在《Magnifica Humanitas》的背景下，具备这一时代所要求的紧迫清晰性。

我们所面对的现实世界不会等待。那些明白必须追求更好世界的人，也不能等待。