一名中国前法官因Anthropic前研究人员发出的AI灭绝风

作者：殊途同归

发表时间：2026-09-11 17:27

一名中国前法官因Anthropic前研究人员发出的AI灭绝风险警示，向全球各国政府、政要及人类各社会合作组织发出的公开信

——请求人类共同研究和实验文明升级的战略方向：谁敢保证，未来不会有人利用AGI发动一次针对全人类的“9·11”？

致全球各国政府、政治领导人、国际组织、学术机构、大学、媒体、宗教组织以及一切能够影响人类社会合作方向的人类精英们：

据公开报道，Jacob Coxon曾先后在 OpenAI 和 Anthropic 从事人工智能预训练研究。2026年9月，他辞去Anthropic的工作，并通过X公开警告，真正参与最前沿人工智能研发的一些研究人员，正在严肃担忧人工智能可能在非常短的时间内给整个人类带来生存级风险。

Anthropic现任alignment研究负责人 Evan Hubinger 随后也公开回应，基本确认了Coxon所描述的一个重要事实：在最接近前沿AI研发的人群中，对人工智能导致人类灭绝风险的担忧，并不是单纯的媒体炒作。

我反复思考以后，决定不再让自己的全部注意力仅仅囿于一日三餐，而写出这封公开信。

我希望提出一个请求：

人类是否应该尽快促成一次真正面向全球的国际会议，共同讨论：人工智能安全最终不可突破的底线究竟是什么？

而在讨论这个问题时，我尤其希望全世界认真甄别另一个可能更加前置的问题：

高级人工智能的安全问题，是否首先取决于承载和使用它的人类社会合作结构本身是否稳定、可持续？

如果答案可能是“是”，那么人类现在需要研究的，也许不只是怎样约束AI，而是：

我们是否必须首先研究、检验乃至实验一种能够支撑高级人工智能时代的、更稳定和可持续的人类社会合作结构？

一、我为什么会提出这个问题

我的笔名是金谷雨，曾任中国地方法院法官。

过去二十多年，我一直从法律、制度、司法和社会合作运行的现实出发，追问一个问题：

为什么人类建立的社会合作结构，总是如此难以真正稳定和可持续？

国家会兴衰。

制度会异化。

法律会在实施过程中偏离原来的目的。

社会会在繁荣之后重新陷入冲突。

国际合作会反复被战争和竞争撕裂。

人类几千年来不断建立新的合作结构，却又不断经历失序、冲突、瓦解和重组。

我们拥有越来越多的知识、财富、制度和技术，但人类社会合作本身似乎始终没有真正摆脱这种周期性的脆弱。

我因此逐渐形成了一个假说。

我暂时把它称为：

“程序定质规律”假说

The Procedural Determination Hypothesis

其最简要的表达是：

程序塑造关系，关系塑造结构，而结构帮助决定实体和系统最终呈现的性质与结果。

换句话说，一个系统最后表现成什么样子，可能并不仅仅取决于它“拥有什么要素”，而更深刻地取决于：

这些要素怎样运动；

怎样发生关系；

怎样交换资源；

怎样组成结构；

以及这个结构能否持续形成相对稳定的动态平衡。

这只是一个假说。

但如果它具有普遍解释力，那么它带来的问题就非常重大。

二、如果这个假说接近事实，人类文明真正的梗阻可能在哪里

我越来越怀疑：

如果程序、关系、结构与动态平衡确实构成系统稳定存在的重要基础，那么人类文明长期以来也许存在一个非常深的认知错位。

人类往往把已经形成的“实体结果”当作观察世界、追求价值和设计社会的出发点与目标。

我们追逐：

财富；

权力；

地位；

资源；

机构；

制度；

技术；

乃至各种已经形成的观念和理论成果。

但如果这些都只是某种更深层程序、关系和结构运行以后产生的结果形态，那么人类长期把结果当原因、把表象当基础，那就是本末倒置看问题，就可能不断制造新的冲突。

在这种情况下，也许很多真正的文明成果，恰恰来自那些冲突中被现实规律纠正的部分。

于是，人类获得的文明成果，只是被真相规律纠正了的大量“真相碎片”，却始终缺乏一个能够把这些碎片稳定连接起来的底层框架。

人类因此可能长期生活在一个：

真假难辨、是非难明、局部合理而整体失序的泥沼之中。

如果这个判断成立，那么AI问题就会出现完全不同的意义。

因为人工智能并不是在一个已经完成文明升级的社会里诞生的。

它是在：

竞争；

互疑；

权力博弈；

财富竞争；

国家安全焦虑；

信息不对称；

真假混杂；

相互防范

所共同组成的人类社会结构中成长起来的。

那么，我们必须问：

一个在人类“丛林式合作结构”中训练、竞争和部署出来的超级智能，首先会放大文明，还是首先放大这个丛林结构本身？

三、这就是我真正担心AI的原因

为什么AI对人类的冲击可能是致命的？

因为AI正在一个人类尚未真正学会：

抓程序、做模式、求平衡

的世界里成长。

而我暂时用这九个字概括自己假说中对文明的最简单理解：

抓程序、做模式、求平衡。

也可以再进一步概括文明行为的实施路径：

以序为纲，循序定度。

如果“程序—关系—结构—动态平衡”确实是一个系统安全稳定的基础，那么所谓文明，其深层含义可能就是：

首先识别程序；

然后建立能够持续合作的程序组合模式；

最后维持适当的程序组合合作动态平衡。

但今天的人类还远远没有做到这一点。

我们甚至还不能稳定地解决国家之间、群体之间、机构之间以及个人之间的合作。

就在这个时候，我们却正在制造一种可能拥有远超任何个人、机构乃至国家现有能力的人工智能。

这就是我真正担忧的地方：

我们可能正在把千百倍于过去的能力，安装到一个自己尚未弄清怎样稳定运行的文明结构之中。

能力不会自动产生文明。

能力只会首先放大它所进入的结构。

一个稳定、可纠错、能够合作的结构，可能利用AI放大文明。

一个互斗、互害、互疑和相互防范的结构，也可能利用AI放大互斗、互害和毁灭。

四、所以AI安全不能只问“怎样控制AI”

随着人工智能迅速发展，我把自己二十多年持续思考的问题进一步具体化为：

人类社会合作结构的稳定性，是否构成安全治理高级人工智能的重要前提？

如果答案是肯定的，那么今天许多AI安全讨论可能还缺少一层。

现在我们主要研究：

模型是否可控；

是否能够alignment；

AI是否会欺骗；

是否能够自主复制；

是否可以获得危险工具；

如何设置技术护栏；

怎样监管开发公司。

这些当然极其重要。

但它们可能仍然没有回答一个更前置的问题：

究竟是什么样的人类结构，在控制这些人工智能？

因为即使未来出现一个完全服从人类指令的AI，也不能自动证明文明是安全的。

如果控制AI的人类社会结构本身充满：

错误信息；

失衡权力；

短期利益；

激励错位；

军备竞争；

相互猜疑；

无法纠错的程序，

那么，一个“完全听话”的超级人工智能，甚至可能因为太有效地服从这些结构，而变得极其危险。

真正危险的AI，也许并不一定首先表现为：

AI摆脱了人类控制。

它也可能表现为：

AI仍然处在人类控制之下，却把一个本来就不稳定的人类结构想要做的事情，执行得前所未有地有效。

五、我不要求任何人相信“程序定质规律”

我必须特别说明：

我没有资格把这个假说宣布为已经成立的科学规律。

我提出它，只是因为在我长期独立观察和思考中，我越来越怀疑：

人类所能觉知的一切自然和社会对象，都可能存在一个共同的观察入口——

它们最终都必须通过某种运动程序形成关系，通过关系形成结构，并通过动态平衡维持相对稳定的存在。

如果这个视角真的接近宇宙和现实运行的共同逻辑，那么它就应当具有一个最重要的特征：

可以被检验。

如果是错的，就应该被否定。

如果存在反例，就应该把反例找出来。

如果有更好的理论，就应该由更好的理论替代。

所以，我真正希望的并不是别人接受我的结论。

恰恰相反：

我请求科学界和全人类共同帮助批评它、寻找反例、检验它，甚至证明它是错误的。

只有经过这样的认知鉴别程序，它才有资格继续存在。

六、因此，我向不同的人类社会合作主体提出以下请求

我向全球媒体呼吁：

请判断这封公开信提出的问题是否值得传播。

如果一个来自AI研发内部的警告，已经涉及人类可能灭绝，那么媒体的责任也许不只是报道“谁辞职了”，而应该继续追问：

人类到底应该怎样组织自己，才能安全拥有这种力量？

我向各国政府呼吁：

政府是当前最有能力启动大规模社会合作行动的组织之一。

请考虑推动一次真正面向全球的国际会议，专门讨论：

高级人工智能时代不可突破的文明安全底线是什么？

并把这样一个问题列入讨论：

社会合作结构的稳定与可持续性，是否属于AI安全本身的一部分？

我向全球政治领导人与政治从业者呼吁：

政治本身就是组织社会合作的行业。

如果AI真正可能改变国家、战争、经济、劳动和权力，那么政治领导人的历史责任，就不能仅仅是争夺谁先掌握AI，而应当包括：

怎样让整个人类有能力安全地承载AI。

我向国际组织、宗教组织和所有跨国社会合作组织呼吁：

请共同甄别：

人类能否从研究稳定可持续合作结构入手，为长期和平甚至永久和平找到一条新的可检验道路？

我尤其向大学、科学院、研究机构和科学家呼吁：

请从科学和学术层面检验一个问题：

人类思维模式是否本身也是一种程序性的能量与信息运行模式？

人类的价值判断立场，是否决定了这种程序如何组织关系？

而一个文明的社会合作结构，是否正是这些思维程序经过无数次互动之后形成的宏观结构？

如果这个链条能够被实证研究，那么：

AI治理问题，也许最终能够和人类认知、制度设计、复杂系统、物理学、信息科学以及社会科学重新连接起来。

七、我为什么尤其希望所有看到这封信的人帮助传播

我没有庞大的研究机构。

没有政治资源。

没有传媒平台。

也没有足够的信息传播条件。

我现在能够做的，只是写出来。

所以我请求任何看到本文、并认为这个问题值得讨论的人：

如果有能力，请帮助翻译；

如果有渠道，请转发给政府；

请转发给大学；

请转发给AI研究机构；

请转发给战略研究机构；

请转发给国际组织；

请转发给媒体；

请转发给能够真正检验这个问题的人。

我自己也会在能够找到公开联系方式的情况下，把本文作为附件，逐步寄给各国政府、政治领导人、研究机构和相关社会合作组织。

我不要求他们相信我。

只请求：

请看一眼这个问题，然后检验它。

八、为什么一个中国前法官会走到这里

我长期生活在社会基层，也长期观察中国法律、制度和社会运行。

二十多年来，我一直每年都屡屡曾向中共中央及全国人大常委会、国务院、最高人民检察院、最高人民法院、中纪委、政法委等机构写信。

我一直希望提出一个观察：

中国社会长期存在的许多治理困难，也许并不仅仅属于某个政党、某个领导人或某个时代。

它们可能来源于一个更加深层的社会合作结构问题。

甚至中国共产党自己公开承认过的许多历史错误，如果从社会合作结构的角度重新研究，也未必应当简单理解为：

“某一群人做错了事情。”

更值得研究的是：

什么样的程序、关系和结构，会让聪明的人不断作出局部合理、整体却可能失序的选择？

这个问题不只属于中国。

它属于整个人类。

区别也许只是：

不同社会的合作结构不稳定程度不同。

我过去一直建议中共中央：

不要只讨论抽象理论。

选择一个具体的小司法案件，像“解剖麻雀”一样，把：

事实；

法律；

政策；

利益；

信息；

权力；

责任；

司法程序；

申诉监督程序

全部放在一张桌子上，看看到底是哪一个环节开始发生关系错位。

如果这个观察是错误的，现实案例就可以证明它错误。

如果现实案例真的能够显示：

程序改变关系，关系改变结构，结构改变结果，

那么就获得了一个非常重要的现实研究入口。

九、我也再次请求中共中央查阅我此前提交的材料

今年7月，我曾向中共中央呈送：

《关于建议围绕一起基层司法案件开展专题调研并研究相关社会合作结构问题的请示》

请用现实材料检验。

十、在2026年9月11日，我想让全人类再问一次“9·11”的问题

今天是9月11日。

二十五年前的“9·11”告诉人类：

极少数人的意图，一旦获得足够的技术和组织能力，也能够制造震撼全世界的灾难。

而现在，人类正在进入AGI时代。

如果未来AGI的能力真的超过单个人、机构甚至很多国家今天能够调动的能力，那么问题就不再只是：

AI自己会不会毁灭人类？

还有另一个同样重要的问题：

谁能保证，未来永远不会有一个人、一个组织或者一个极端状态中的决策者，利用AGI，在人类意料之外的某个领域能够有能力制造一次针对全人类的“9·11”？

今天的核武器至少仍然依赖庞大的国家基础设施。

但如果AI让过去只有国家才能完成的事情，逐渐变成一个小团队甚至个人也可以完成的事情呢？

如果人类合作结构仍然处于相互竞争、相互恐惧、相互报复的丛林逻辑之中，那么：

我们究竟凭什么确信，更强大的能力一定会带来更安全的文明？

这就是我真正希望全世界停下来想一想的问题。

十一、在人类文明的十字路口，也许我们应该第一次真正“向上看”

我在《致全球每一个人的信》系列文章中，一直试图表达一个判断：

人类离开了物理意义上的自然丛林，却可能仍然生活在由自己的思维模式构成的“意识丛林”之中。

如果我们仍然从：

财富；

权力；

胜负；

占有；

竞争

来确定价值的起点，

那么我们拥有越强大的技术，未必意味着文明越高级。

所以在人类文明走到今天这个十字路口时，我提出一个最简单的建议：

不要再像过去历史的选择一样，只朝左右看，而是这次能向上看。

把人类价值判断的站立基础抬高一点。

把视野扩大一点。

不要只问：

我们还能获得多大的力量？

先问：

我们究竟准备把这些力量交给什么样的人类合作结构？

如果AI把人类能力放大一百倍、一千倍，

那么：

它最终会把什么样的人类结构放大一百倍、一千倍？

这也许才是AI时代最值得首先回答的问题。

我不知道我提出的“程序定质规律”是否正确。

我甚至希望真正的科学研究能够明确指出我错在哪里。

但在人类可能正在接近一个不可逆转的文明转折点时，

我认为至少有一个问题值得全人类认真检验：

稳定、可持续的人类社会合作结构，是否是安全进入AGI时代的必要前提？

如果不是，

请证明它不是。

如果是，

那么：

人类也许应该在全力升级机器之前，先开始升级承载机器的文明。

金谷雨

曾任中国地方法院法官
《致全球每一个人的信》系列作者
于2026年9月11日