向比尔·盖茨发出的全球公开挑战

——足以让文明在还没弄明白究竟出了什么问题之前就走向终结的AI时代，已经到来

作者：金谷雨

这是一篇向比尔·盖茨发出的全球公开挑战。

我邀请比尔·盖茨本人回应，也邀请全世界每一个愿意思考的人帮助鉴别。

比尔·盖茨在最近的长文中警告：

“动荡的AI时代已经到来。我们现在做出的选择至关重要。”

我非常赞赏这篇文章。

当整个人类还沉浸在人工智能能够创造多少财富、替代多少劳动、解决多少疾病、带来多少便利的兴奋甚至狂欢之中时，比尔·盖茨已经开始提醒人类：AI带来的并不只是机会，它也可能造成失业、权力集中、社会撕裂、信息混乱、不公平加剧，甚至冲击我们今天赖以生存的整个社会结构。

这无疑是一剂及时的清醒剂。

但是，我认为这剂清醒剂的配方和剂量都还不够。

不是因为比尔·盖茨低估了人工智能的能量，而是因为他仍然主要站在人类现有文明框架内部，试图用这个框架已经形成的制度、政策、民主程序、国内机构和国际机构，来寻找驾驭AI的办法。

而我真正担心的恰恰是：

如果这个负责作出选择、建立制度、设计AI治理架构的人类社会合作结构本身，就极其不稳定呢？

如果它几千年来都没有真正解决：

怎样稳定辨别真假；

怎样精准定位是非；

怎样避免人人“理性”却共同制造灾难；

怎样让人知道确定是文明的事情以后敢去做、也能做；

怎样让人知道有害的事情以后不必被结构逼迫着继续去做；

怎样发现错误以后不靠一次次灾难才能重新开始——

那么，人类凭什么相信：

就是这样一个自己都长期没有搞清楚怎样稳定运行的合作结构，现在突然就能够作出足以安全驾驭人工智能巨大能量的正确选择？

这才是我想挑战比尔·盖茨的根本问题。

一、人类真正的问题也许不是“会不会作出错误选择”，而是根本没有一套稳定产生正确选择的结构

比尔·盖茨认为，我们需要建立新的国内和国际AI治理架构。

这一点我完全赞同。

他甚至已经意识到一个非常严重的问题：

今天的既有机构，本来就不是为了应付人工智能这种能够同时席卷就业、安全、教育、金融、政治、舆论、医疗、军事和国际关系的巨大能量而设计的。

于是问题自然出现：

我们需要新架构。

但是，我认为仅仅停在这里远远不够。

因为首先必须继续追问：

新的架构凭什么会比旧的架构更好？

如果人类仍然用过去那套底层思维模式：

权力竞争；

利益争夺；

信息控制；

组织自利；

彼此不信任；

零和博弈；

先取得优势再处理后果——

去建立新的AI治理机构，那么我们究竟建立了一个新的文明结构，还是仅仅：

用旧的合作逻辑，造了一个新的机构外壳？

因此，我真正想追问的不是：

“我们还应该建什么机构？”

而是：

究竟什么样的底层合作原理，决定一个机构最后会长成什么性质？

换一个更形象的说法：

比尔·盖茨已经开始讨论应该盖一栋怎样的新楼。

而我要追问的是：

这栋楼下面的地基究竟是什么？
地基与整栋楼之间依靠什么结构连接？
又用什么标准判断这个结构能够长期承受越来越巨大的重量？

如果地基本身没有搞清楚，楼盖得越高，未必越安全。

甚至可能倒得越惨。

二、人类几千年来可能一直把文明成功的“结果”，误认为了文明成功的“原因”

土地更多。

财富更多。

权力更大。

武器更强。

技术更先进。

能源更多。

生产率更高。

信息更多。

现在又轮到了：

智能更多。

几千年来，人类几乎一直沿着同一个方向奔跑：

只要拥有得足够多，我们自然就会更加安全、幸福、自由、文明。

但是我越来越认为，这个方向很可能被人类弄反了。

不是：

有了，就会顺。

而更可能是：

顺了，才真正会有。顺，才是这个世界所有存在最本质的基础。

财富、安全、自由、科技、繁荣，也许并不是成功社会合作首先产生的原因。

它们更多是：

成功社会合作以后才能稳定形成和保存的结果。

所以人类几千年的一个根本性错误，可能就是：

把成功合作产生出来的东西，当成了产生成功合作本身的原因。

我们先获得权力，再研究怎样限制权力。

先制造武器，再研究怎样避免战争。

先积累财富，再研究怎样解决贫富悬殊。

先扩大市场，再修复被市场撕裂的社会关系。

先让技术飞奔，再研究技术伦理。

如今，我们又正在制造可能把整个人类能力成百上千倍放大的人工智能，然后才匆忙问：

人类究竟应该怎样治理它？

这可能不是人工智能突然给人类制造出来的新问题。

它可能只是把人类文明几千年来一直没有解决的旧问题，一下子推到了任何人都无法再回避的位置。

因而请所有审阅者应当从根本源头上来思考的是，来自宇宙能量运动产生了程序被编程合作才生出的人类所以能创造出文明，自然是唯有遵循宇宙产生的本质规律，才能获取文明成果的。或许真相就是人类将追求文明的方向完全弄反后（其实这是人类由表象探索本质过程中的历史必然阶段），在颠倒式追求文明中与文明本质不断冲突中，茫然撞上与宇宙产生的本质规律相符合部分，就成为人类文明的成果。因此，解析现在人类获取的所有文明成果就能发现不可违逆的宇宙本质规律。是不是可以发现所有文明成果都在同一模式下取得的，我将这个模式简约地概括为：“整个宇宙能量演绎到人类文明演绎获取成果所遵循的，不是‘有了就能顺’，而可能是程序‘顺了才会真正有’。”因此，人类认知与把握世界与生活的方向，已经到了不能回避的转折点了。即人类必须将从表象探索本质的初级生活方向，转变为学会凡事都有从本质推演出各种表象能力的生活方向。

由此看，AI最大的危险之一，也许就在于：

人类还没有弄清本质而不知怎样理“顺”，却突然得到了一种前所未有的“有”。

三、这正是“程序定质规律”试图让全人类共同鉴别的问题

我把多年对繁杂演绎表象背后共同拥有的同一支撑规律的思考，形成的这一认识暂时称为：

**程序定质规律

Law of Procedural Determination**

它究竟是否真的是一种万象共有的底层规律，即是否可能像我所怀疑的那样具有远比人类社会领域更广泛的适用性，我不要求任何人现在接受。

恰恰相反：

它必须接受检验。

但它提出的核心问题其实并不复杂：

任何系统最终表现出来的性质、功能和结果，不仅取决于系统里面有什么要素，更取决于——甚至可能根本上取决于——这些要素通过什么程序发生联系、形成什么关系，这些关系又形成什么结构，以及这个结构能否在持续互动中建立和维持适当的动态平衡。因为解剖任何系统内部要素，也是遵循这个规律的。

最简单地概括：

程序形成关系。
关系形成结构。
结构形成模式。
模式通过动态平衡持续存在并呈现结果。

进一步可以表示为：

要素 + 程序 → 关系 → 结构 → 动态平衡 → 结果 → 新的要素……

而新的“结果”，又会成为下一层结构中的“要素”。

如此不断嵌套。

这就是我所谓的“套娃”式结构。

如果这样，那么人类面临一切，事无巨细，均可验证作为证据。因此需要全人类延着这个全新视角来审视甄别。而在甄别中能基本确定的情况下，我们就不妨进一步把这个假说推到了宇宙层面的猜想：如果不断剥离具体对象，只保留各种系统都不可缺少的共同部分，那么“能量通过程序形成关系、结构和动态平衡，再以不同形态表现出来”可能是值得首先鉴别的共同模式。

因此，我才认为：

人类长期只盯着“物”，可能是不够的。最近看见关于发现“胶球”的报道，也许就是打开了人类必须改变几千年看事务的视野的门缝。

物质、组织、国家、公司、法律、货币、军队，甚至我们能够直接感知的各种现实有能力彰显的形态，如思维模式、社会文化生态等，都可以继续向下追问：

它究竟是通过什么程序组织起来的？

如果换一种程序：

关系会不会变？

结构会不会变？

性质和结果会不会变？

这不是抽象哲学游戏。

它完全可以被验证。

把大体相同的人、资源、技术和能力放进不同程序。

观察：

信息如何流动；

权力如何产生；

利益如何分配；

错误怎样暴露；

争议怎样处理；

责任怎样承担；

关系怎样形成；

结构怎样稳定或者崩溃。

最后再比较结果。

如果改变程序没有任何独立意义，那么程序定质规律就是错的。

如果大量事实显示：

相似要素只因为进入不同程序，就不断形成不同关系、不同结构和不同结果，

那么人类就必须承认：

我们可能一直严重低估了程序和结构对于世界性质的决定作用。

关于程序定质规律假说，有三点释明。

1、从程序视角才能看到宇宙本质真相而理解现实社会结构。要素相同如碳，仅程序组合不同就性质结果不同是显然的。而假如有两个系统，基于程序相同但因为组合程序的要素不同而呈现不同性质的结果。其性质不同的根本原因，不能只追问到要素为止。因为要素所以不同，解剖起来层次追问，最终还是决定于其内在程序组合合作结构不同。如此追问到最后，底层全都同一，是量子振动式的程序组合。因此，这个宇宙世界所有的问题，在根本上都是合不合适的问题。而合不合适的问题，就是程序问题。所以从这个视角，就能探究出，人类社会合作结构的底层是人类的思维模式，而不是意识、文化、风俗等表象.....于是通过将人类价值站立基础夯实在宇宙真相上来抬升人类社会合作结构底层站立基础，就成为可以实施的文明升级战略路径。

2、所有物理表象拆解到底层都能归结为同一的量子振动。而量子振动就是人类所在宇宙能量演绎最底层普遍的程序组合合作模式。因此将量子这个公因数提取出来，人类所在宇宙能量演绎，无论巨细，全部框架就是一个程序框架，所以才能用数学语言来精准表述所有。这是程序定质规律至于人类文明升级地位的基本定位。

3、因为宇宙能量产生运动形成程序而形成整个宇宙万象演绎，量子振动的宇宙能量运动模式外的宇宙能量演绎，亦不外呼宇宙能量运动程序，因此，程序实质是贯穿宇宙全时空演绎的最基本框架。这是从自然哲学视角对程序定质规律在宇宙本质真相探索地位做出的假说。

四、比尔·盖茨自己关于AI失业的分析，其实已经走到了程序定质规律的门口

比尔·盖茨谈到：

一家企业如果使用AI，大幅降低成本，其他企业就不得不跟上。

如果旧企业不跟，新企业就会出现。

于是所有企业都可能被市场竞争逼着不断使用AI替代更多劳动。

请注意：

这里不需要一个“邪恶老板”。

每一家企业都可以只是在：

理性地活下去。

但最后，所有个体理性的行为加在一起，却可能形成一个全社会都未必希望看到的结果：

大规模失业；

财富更加集中；

人的收入、尊严和社会位置一起受到冲击。

所以真正的问题已经不再是：

“哪一个企业做错了？”

而变成：

为什么一个合作结构，会使每一个人在自己的位置上看都合理的选择，加在一起却变成集体的不合理？

这就是结构问题。

也是程序问题。

如果没有改变产生这种关系的底层程序，仅仅要求企业更有道德、政府重新分配更多财富，很多时候只是在继续修补结果。

五、AI军备竞赛更可能把这种结构性错误推到人类生死的尺度

同样的逻辑也适用于国家之间。

假设美国认为：

AI竞赛过快非常危险。

但是美国担心：

自己慢下来，中国不会。

中国也可以完全反过来这样判断。

双方都知道危险。

双方甚至都希望降低危险。

但任何一方先减速，都可能觉得：

自己正在把生死攸关的战略优势交给对方。

于是就形成一种非常可怕的现象：

双方都知道不能继续跑，却谁也不能先停。

每一个国家都可以是理性的。

每一个战略家都可能聪明绝顶。

但这并不能保证整个结构最后产生理性的结果。

甚至恰恰因为每一个参与者都非常聪明，他们利用AI、算法、武器和战略优势相互竞争的能力越强：

整个系统走向灾难的能力也可能越强。

这说明：

一个结构里的人都很聪明，并不意味着这个结构本身有智慧。

这是AI时代极其危险的一点。

因为我们正在制造的人工智能，可能就是专门用来：

让每一个参与者变得更加聪明、更加强大、更有效率。

但如果结构本身是错的呢？

那么AI很可能只是让错误结构里的每一个人，都变成更强大的参与者。最终结果，却再次彰显了整个人类的绝顶聪明式愚蠢。只要这种情况不改变，人类将沿着黑格尔说的“我们从历史中得到的唯一教训，就是我们从来没有从历史中获得任何教训”的愚蠢方向，不断加速自我毁灭的进程。

六、AI真正放大的，可能从来不只是技术，而是技术进入的那套社会结构

盖茨警告：

AI可能使权力进一步集中。

但是还必须再问：

为什么能力增加以后，总是如此容易向已有权力集中？

谁控制模型？

谁控制算力？

谁拥有数据？

谁定义规则？

谁能够质疑AI决策？

谁能看到决策依据？

谁可以揭露错误？

谁为错误承担责任？

谁享受AI产生的收益？

谁有权纠正错误决定？

谁有权决定一个错误究竟是不是错误？

这些看似不同的问题，最终都指向一个共同词：

程序。

程序决定：

谁与谁建立什么关系。

谁可以命令谁。

谁必须服从谁。

谁监督谁。

谁依赖谁。

谁获得信息。

谁能够说“不”。

这些关系再形成：

社会结构。

最后，是这种结构决定人工智能进入社会以后究竟会表现成什么性质。

所以我认为，人类真正需要寻找一种能够用于“做具体事”的共同抓手。

人类过去建立社会合作，在缺乏可操作共同标准的时候，经常依靠宗教、主义、理论、民族、国家和各种共同故事凝聚人。

它们在特定时期都可能产生巨大合作能力。

但因为缺乏能够像科学实验一样不断检验具体过程的共同抓手，社会合作很容易再次被权力、利益和信息失真拉散。

为了维持合作不散而避乱，又没有共同抓手来维系，那就只能用强力来外在捆绑。

于是人类不断陷入一种悖拧：

为了维持文明，不得不采取一些反文明的方式；

为了安全而扩大强制；

为了秩序而压制信息；

为了公平而制造新的不公平；

为了和平而不断增强战争能力。

这也正是为什么我认为，程序定质规律如果值得继续鉴别，它真正可能提供的不是又一种“主义”，而是一种做事方法。

我把它压缩成九个字：

抓程序、做模式、求平衡。

而落实路径可以再压成八个字：

以序为纲、循序定度。

这并不是说八个字可以替代所有法律制度。

而是说：

任何制度、任何法律、任何机构，甚至人类日常所有事务，都可以通过这个视角继续向下检查它究竟在形成什么关系和结构。

七、同样强大的AI进入两种完全不同的社会结构，会是同一种AI吗？

假设两个社会拥有同样强大的AI。

一个社会允许：

信息流动；

公开质疑；

专家表达不同意见；

领导人被更换；

司法具有一定独立性；

记者调查；

举报者得到保护；

错误政策被修正；

不同机构相互纠错。

另一个社会却是：

权力高度集中；

信息向上传递过程中不断过滤；

批评会带来巨大代价；

机构不断迎合上级；

承认错误等于政治失败；

最后真正掌握权力的人，得到的是一层又一层经过加工的越来越偏离真相的信息。

现在问：

同样的AI进入这两个社会以后，会产生同样的社会后果吗？

如果不会，那么就说明：

AI究竟是什么，不仅仅由模型参数和技术能力决定。

它还取决于：

AI嵌入了什么社会合作结构。

于是，社会合作结构的稳定性就不能再被看成AI安全外围的“政治问题”。

它本身应该成为：

AI安全变量。

八、比尔·盖茨说AI既可能成为最大的平等器，也可能成为最大的不公平制造者——那么决定它走向哪一边的究竟是什么？

这可能是盖茨文章中最值得继续追问的一句话之一。

如果同样一种技术：

既可能制造巨大公平，

又可能制造巨大不公平，

那么已经证明：

技术本身不是结果。

还有一个中间变量。

盖茨提出：

政府；

民主程序；

监管；

税制；

慈善；

社会保障；

新国内机构；

新国际架构。

我并不反对这些。

但是我要继续追问：

谁保证监管者不被监管对象俘获？

谁保证民主程序不会因为信息操纵而极化？

谁保证政府机构不会变成自我保护的官僚系统？

谁保证国际机构不会被国家竞争架空？

谁保证写在纸上的法律能够真正按照原意运行？

所以：

有一个“好制度”的名字，并不等于实际运行出来的就是好制度。

真正重要的是：

这个制度内部的人，通过什么程序形成什么关系；

这些关系怎样形成结构；

这种结构又怎样稳定复制自己。

程序不变，很多所谓改革最后都会被旧关系重新吸收。

九、所以我真正挑战的是：“我们现在做出的选择至关重要”这句话的前提

比尔·盖茨说：

我们现在做出的选择至关重要。

当然正确。

但选择不是从天上掉下来的。

每一个重大集体选择背后都有：

谁掌握信息；

谁制定议题；

谁定义选项；

谁拥有发言权；

谁被排除；

谁作最终决定；

谁可以反对；

谁承担错误；

谁得到利益；

错误出现以后能不能重新选择。

所以：

在人类研究“怎样对AI作正确选择”以前，也许应该首先研究：

人类究竟通过什么结构作出选择。

然后才有资格问：

这种结构本身究竟有没有能力稳定辨别真假、发现错误、判断方向并持续修正？

这一点在AI时代甚至更加危险。

因为AI会让：

深度伪造更容易；

信息操纵更精准；

宣传更个性化；

虚假内容更逼真；

真假更难区分。

于是就会形成一个真正危险的：

结构放大循环

它的逻辑是：

原有合作结构决定AI怎样使用
→ AI放大这个结构的能力
→ 被放大的能力强化或改变原有结构
→ 新的结构再决定下一代AI怎样发展
→ 下一代AI再次放大新的结构。

如果原有结构本身具有强大的纠错能力，这个循环可能越来越好。

如果原有结构本身就不能辨别真假、不能及时纠错、不断制造失衡，那么AI就可能让问题越来越大。

直到有一天：

人类甚至还没有弄明白自己究竟哪里错了，结构就已经承受不了被放大的能量。

十、所以，人类真正需要解决的可能已经不是一个AI治理问题，而是一个“文明是什么”的问题

我们习惯用GDP衡量发展。

用财富衡量成功。

用军事实力衡量安全。

用科技衡量先进。

用生产效率衡量进步。

但是：

一个国家可以越来越富，却越来越撕裂。

可以越来越强，却让所有竞争者越来越不安全。

可以越来越互联，却越来越不信任。

可以拥有越来越多信息，却越来越不知道什么是真。

可以拥有越来越多选择，却越来越没有人能明确判断方向。

可以拥有越来越大的力量，却越来越说不清：

这些力量究竟应该为了什么。

所以，人类文明也许需要一个更加根本的标准：

一个社会合作结构，究竟能不能让人与人之间的关系越来越稳定、越来越能够纠错、越来越能够适应变化、越来越减少相互破坏，并最终使人的生命价值能够长期持续实现？

如果不能，那么：

人类现在眼中的能力不等于文明，甚至完全不是一回事，所以能力增加，就不等于文明增加。

一个不稳定的社会结构拥有更大的能量，甚至可能意味着：

它终于有了足够的能力把自己的不稳定放大到毁灭自身。

十一、最危险的AI，可能不是“失控”的AI，而是一个永远听任何人的话的AI

全世界都在担心：

AI不听人类的话怎么办？

AI产生自己的目标怎么办？

AI脱离人类控制怎么办？

这些当然值得担心。

但我认为还有一个更加反常识的危险：

假设AI永远不反抗。

极其听话。

极其精准。

完美执行。

现在假设控制它的社会结构本身：

信息失真；

激励扭曲；

权力失控；

判断错误；

缺乏纠错；

战略偏执。

那么最危险的事情恰恰可能发生在：

AI完美对齐的时候。

因为它会极其高效地：

把错误方向实现出来。

所以“AI应该与人类价值对齐”仍然不够。

必须继续问：

什么叫“人类价值”？

由谁定义？

根据什么判断？

通过什么程序形成？

怎样检验？

谁可以反对？

错误怎样修正？

更重要的是：

什么是真正可以长期维持人类社会合作并实现每一个人生命价值的文明价值？

如果这个问题没有弄清楚，那么人类所谓让AI“与人类价值对齐”，可能只是：

把人类今天所有互相矛盾的价值判断，装进一台能力远远超过任何个人的机器。人类不能忘记的是所有文明一直走在丛林的泥淖中，区别只是泥淖深浅不同，所以和平时互斗，战争则互杀，这是人类文明史中能量远大于人类社会合作能量的主能量现象。

十二、人类今天也许第一次真正拥有了重新鉴别文明的条件

我并不是说：

“我已经知道了新的世界制度应该是什么。”

如果我这样说，本身就违背程序定质规律。

我认为：

不应该由任何一个人设计一套制度，再要求全世界接受。

真正应该做的是：

进入认知鉴别程序。

今天的人类已经拥有几千年的文明史。

我们拥有无数制度成败案例。

拥有不同法律体系。

不同政治制度。

不同经济结构。

不同国家。

不同企业。

战争。

和平。

革命。

改革。

家庭。

社区。

市场。

科学组织。

国际机构。

以及前所未有的数据库、计算能力和AI分析能力。

所以：

过去我们问：

哪一种主义是真理？

现在可以换成：

什么程序，在什么条件下，反复产生什么关系和什么结果？

过去问：

哪个政治阵营是好人？

现在可以问：

什么机制能让真实信息即使遇到权力和利益阻碍仍然存活？

过去问：

哪个国家制度最好？

现在可以问：

哪些具体程序不断产生反馈、责任、互惠、纠错和动态平衡？哪些具体程序不断制造信息失真、权力固化和社会撕裂？

这可能是人类第一次真正有条件：

把文明本身，从信仰对象变成一个可以共同观察、比较和验证的对象。

十三、我为什么仍然要求全世界攻击“程序定质规律”

因为如果它是错的，就应该被否定。

如果改变程序却始终不能系统性改变关系和结果：

否定它。

如果资源、技术、心理、地理等因素已经足够解释结果，程序没有独立意义：

否定它。

如果：

程序 → 关系 → 结构 → 动态平衡 → 结果

只在非常狭窄的范围成立：

缩小它的适用范围。

如果出现一个解释能力明显更强的模型：

放弃它。

这才是我所谓的：

认知鉴别。

真正的认知鉴别不是：

“谁说得有道理就相信谁。”

而是：

把一个判断放进可能把它推翻的程序里。

我不希望全世界因为这篇文章的语言强烈，就相信程序定质规律。

我希望恰恰相反：

因为这个问题太大，所以必须被最严格地攻击。

十四、因此，我正式向比尔·盖茨发出挑战

盖茨先生：

你问：

怎样让AI利益惠及普通人？

怎样建立安全网？

怎样让公共机构适应？

怎样保存人性？

我认为在所有这些问题之前，还有一个更加基础的问题：

什么样的社会合作结构，才能让人类拥有正确回答这些问题，并随着现实变化不断修正答案的能力？

你呼吁新的国内和国际AI架构。

我邀请你再往下一层：

究竟什么样的人类合作原理，应该决定这些新架构如何形成？

不要只问：

应该建什么楼。

先问：

地基在哪里。

再问：

什么结构把地基与整栋楼连接起来。

最后还要问：

判断这种结构能够稳定承载整栋楼的共同尺度究竟是什么。

不要只问：

人类应该作什么选择。

先问：

人类作出选择的结构，究竟有没有能力辨别什么方向通向文明，什么方向最终把人类重新推回丛林？

不要只问：

AI怎样为人类服务。

先问：

在人类获得前所未有的智能以前，人类自己有没有学会怎样保证彼此之间的合作可以持续？

十五、为什么我要冒昧站上比尔·盖茨的肩膀

我挑战比尔·盖茨，并不是因为我认为他的文章没有价值。

恰恰相反。

正因为它重要。

正因为他已经告诉全世界：

AI时代需要新的制度架构。

所以一个普通人才有可能借用这个已经形成的巨大公共平台，再往下面指一下：

请先看地基。

我知道，一个普通人突然向比尔·盖茨发出全球挑战，显得非常冒失。

但现在不是一个适合慢慢讲思想礼仪的时代。

AI的速度太快。

如果盖茨判断的风险哪怕只有一半是真的，那么人类就可能根本没有足够时间等到又一次世界级灾难发生以后，再回头研究：

究竟是什么结构把我们一步一步推到这里。

所以我不是请求盖茨：

“请支持我的规律。”

我请求的是：

请挑战它。

找出最强反例。

指出最弱环节。

让政治学家、经济学家、法学家、历史学家、复杂系统研究者、自然科学家、AI专家一起鉴别。

如果它错了：

请尽快把它打倒。

如果没有完全错：

请继续追问。

因为真正重要的从来不是：

金谷雨对不对。

而是：

人类在把自己的能力放大一千倍以前，有没有弄清决定自己社会合作结构性质的底层问题。

十六、比尔·盖茨的警告和我的挑战，实际上可能正是同一个问题的两个方向

比尔·盖茨在问：

AI将怎样改变经济、社会、制度和权力？

我在问：

今天已有的经济、制度、关系和权力结构，将怎样决定AI最后变成什么？

这两个过程并不是二选一。

而是同时进行：

人类结构塑造AI。

AI放大人类结构的能力。

放大的能力重新塑造结构。

新的结构再决定下一代AI。

所以AI革命实际上是一个：

反馈系统。

而AI最大的危险，就可能隐藏在这个反馈之中。

过去，一个社会结构即使不够稳定，也可能依靠人的有限能力跌跌撞撞地维持很长时间。

但人工智能出现以后：

错误可以被机器速度放大；

宣传可以被机器速度放大；

监控可以被机器速度放大；

金融竞争可以被机器速度放大；

武器能力可以被机器速度放大；

国家猜疑也可以被机器速度放大。

于是一个过去还可以勉强承受的结构性缺陷，就可能突然变成：

文明根本承受不了的裂缝。

十七、人类真正需要担心的，也许是我们正在把“错误的东西”放大一千倍

假如AI把人类能力放大一千倍。

问题是：

放大的是什么？

如果放大的是：

求真；

医学；

教育；

科学合作；

责任；

互惠；

纠错；

和平协调——

它当然可能成为人类历史上最大的文明推动力量。

但是，如果放大的是：

宣传；

监控；

财富集中；

权力争夺；

战略猜疑；

信息操纵；

军备竞赛；

机构自我保护；

零和竞争——

那么同样一个“一千倍”，就会是另一种结果。

所以真正的问题从来不是：

AI会有多强？

而是：

AI最终会让什么样的人类社会合作结构变得前所未有地强？

十八、人类必须面对一个也许最不愿面对的事实

人类学会增强力量的速度，

远远快于人类学会合作的速度。

我们的科学已经能进入宇宙。

我们的武器可以毁灭城市。

我们的互联网能够连接所有人。

我们的经济能够组织全球生产。

现在，我们又开始制造可以超过大量人类认知能力的人工智能。

但与此同时：

战争仍在继续；

权力仍在失控；

真假越来越难分；

贫富冲突仍在扩大；

国际社会仍然无法摆脱安全困境；

人类仍然经常知道一件事不应该做，却又因为身处结构之中而不得不去做。

所以，人工智能不仅是新技术。

它更可能是：

文明对自己的终极考试。

而我真正想让全人类鉴别的是：

如果宇宙中我们能够认知的各种存在，本质上都不是孤立“物”的堆积，而是能量通过不同程序形成关系、形成结构、建立动态平衡以后呈现出来的不同模式，那么人类社会合作本身也不可能例外。

这也是我为什么认为，程序视角可能值得比今天的物质占有视角更加认真地被研究。

我并不是要求全世界现在就接受“程序定质是宇宙本质规律”。

我只是认为：

如果这个方向真的成立，它将让人类第一次可能从同一个底层视角，同时重新理解自然、社会、制度、文明和人工智能。

这个可能性已经大到：

即使最后证明它错了，

也值得全世界认真检验一次。

向全世界发出的公开邀请

我邀请：

比尔·盖茨本人公开回应。

我也邀请每一个学者、政府、大学、AI公司、研究机构、媒体、法律人、经济学家、哲学家、科学家和普通人，共同鉴别一个问题：

人类社会合作结构的稳定性，是否构成高级人工智能安全治理的重要前提？

而这个问题背后，还有一个更深的问题：

如果人类即将把自己的能力放大到历史上前所未有的程度，我们是不是应该首先确认：引导这些能力的社会合作结构，究竟有没有能力分辨真假、纠正错误、控制失衡，并且不再把新增力量一次又一次转化成新的权力竞争和相互伤害？

我不要求世界相信：

程序定质规律。

我要求的是：

让它进入认知鉴别程序。

检验它。

攻击它。

找反例。

比较不同制度。

比较不同组织。

比较不同历史。

比较自然系统。

如果它错：

就把它否定。

如果它能够经受检验：

就继续研究。

但人类不能再毫无依据地默认：

我们继承了几千年的社会合作结构，天然就有能力治理一种人类历史上从未拥有过的巨大智能。

这个赌注实在太大。

比尔·盖茨说：

“我们现在做出的选择至关重要。”

我同意。

但我的挑战是：

在人类选择怎样治理人工智能以前，人类必须首先鉴别：我们作出集体选择的结构本身，究竟有没有能力把人类带向文明，而不是在拥有更强力量以后更快地走向毁灭。

因为如果这个答案是否定的，那么AI最危险的未来，可能根本不是：

人工智能脱离人类控制。

而恰恰是：

人工智能始终牢牢掌握在人类手里。

它百分之百服从。

百分之百高效。

百分之百准确地执行。

然后把一个本来就真假难辨、利益冲突、彼此猜疑、方向凌乱而又力量越来越大的文明体系中，

每一个相互冲突的主体都想得到的东西，帮助他们更快、更彻底地实现。

直到这些被AI不断放大的冲突能量，

最终反过来压裂、压碎承载文明的人类社会合作结构。

我的核心判断正是：从程序定质规律视角看，这种过程最终还要继续追溯到价值导向如何形成思维模式，思维模式又如何支撑和塑造社会合作结构；因此，真正的AI安全不只是增加监管，而可能要求从价值导向和底层思维模式开始重新审视文明结构。人类现在所有的困惑实际指向是，需要从人类社会合作结构底层开始抬升人类思维模式站立基础，来拓展人类视野，构建全新人类文明框架，从而升级人类文明。因此，比尔盖茨号召各种人类社会合作组织介入人工智能安全问题，我认为这些人类社会合作组织想发挥作用，真正能解决问题的介入发力点，用通俗的话讲就是，通过建树全新真实的宇宙观，来将人类的价值导向从“有了就能顺”的历史物欲泥沼中拔出来，走向“顺了才会有”的宇宙本质之坚实基础之上。这样才能使处在财富与权力顶层的人类精英，真正意识到人工智能的能量，将迅速淹没现在人类所有的财富与权力高峰，而唯有下场与所有人一起抬升人类社会合作结构基础才是唯一可行方向.......。这样才可能形成社会有效合力，使“顺了才会有”成为每一个人生活的最基本理念，并通过基因化形成人类全新的文明社会文化意识土壤的良性生态...........待后再述。

所以现在，我真正希望全人类共同鉴别的最终问题是：

AI时代真正需要升级的，也许首先不是机器，而是承载机器巨大能量的人类文明本身。

如果这个方向是错的，

请证明它错。

如果这个方向不是错的，

那么我们已经没有太多时间继续假装它不存在。

金谷雨

曾任中国地方法院法官
已经发表系列《致全球每一个人的信》和相关文章的作者