人工智能可能给人类带来的最大问题
不知大家想过没有：如果一个物种的生活由一种远远超过这个物种的智慧笼罩着、支配着，会是什么感觉？存在感或成就感，不是很玄虚的东西，甚至体现在很琐碎的地方，这些琐碎感受的总和，就是人生的价值。若被抽去，人还能成其为人吗？这才是真正的釜底抽薪
老高按：三年多前，有一次与两位朋友一起喝酒，一位是中国刚退休的官员，一位美国刚退休的官员。我刚读完以色列学者尤瓦尔·赫拉利的《今日简史》（中文版），震惊于书中（以及作者的前一本《未来简史》）对人工智能发展水平很快就要到达“奇点”，将引发人类社会的极大变化——
在生物工程与人工智能兴起之后，人类可能会分裂成两个群体：一小群超人类，以及绝大多数位于下层而且毫无用途的智人。雪上加霜的是，等到民众不再具备经济与政治上的力量，国家对国民健康、教育和福利的投资意愿也可能降低。成了多余的人，是件非常危险的事。这时候，民众的未来只能依赖一小群精英能否心存善意。
没想到，两位朋友不以为意，说那是几十年之后要担心的事——言外之意，那时我们都已经不在这个世界上了，不必为此操心；而且从历史上看，每一次大规模的产业转移，一些行业消失了，另一些行业兴起，没什么了不起，对于夕阳产业的从业人员来讲，就是赶快学会新技能，转到朝阳产业去。
《今日简史》中还有一段话，指出对于人工智能抢夺人类饭碗，人类可能的解决方案有三类，前两类，没有超出我们目前的思维框架，也是政府的惯例，难题是第三类：
如何避免工作消失；
如何创造足够的新工作；
就算尽了最大的努力，但消失的工作还是远远多于新创造的就业机会，该怎么办？
有一种新模式越来越受到关注，即全民基本收入（universal basic income, UBI）。
这第三种，说白了，就是按人头发钱。钱从哪儿来？全民基本收入方案的设计者主张：
政府对控制算法和机器人的亿万富翁和企业征税，再用此税金为男女老少每个人提供保证其基本需求的津贴。这样既能解决因失业和经济混乱而产生的贫穷问题，也能保护富人不受平民主义的怒火洗礼。
还有一种做法，政府提供全民基本服务，而非全民基本收入。换言之，政府不是直接发钱，而是提供免费的教育、医疗保健、交通等服务。事实上，这就是共产主义描绘的愿景。
是该为民众提供全民基本收入（资本主义天堂）还是全民基本服务（共产主义天堂）？各有优缺点。
我是个常常“忧天”的“杞人”，山雨欲来风满楼，我认为大可放下意识形态的桎梏，不必管左与右、民主与专制的标签，直面现实剖析难题，“能抓老鼠的就是好猫！”
但两位朋友并不认为这是迫在眉睫的“近忧”，不必“远虑”，我也就知趣闭嘴了。
谁也没想到，AI的步伐这么快，一天等于二十年，当今已经进入我们的生活，全方位地迫近威胁所有的行业、所有的人！
AI即将造成的人类危机，还不是造成失业破产、贫富分化之类，更严重的是——
还是看孙立平教授的两篇不长的文章吧！
近在眼前：这是美妙的前景，还是可怕的结局？
立平坐看云起（孙立平），原载公众号“老孙荐读” 2025年1月17日
当300亿机器人占领世界的时候
在CES 2025期间的一场特别专访中，马斯克畅聊了AI在认知任务、人形机器人、Neuralink等技术进步，如何对人类生活产生变革性的影响。
其中，关于人形机器人，马斯克提出了这样的设想：未来3-4年，AI能够胜任所有与认知相关的工作，完成任何你想做的事情，甚至会提出你从未想到的想法。未来3年，特斯拉机器人产能将提升到50万台。最终，人类世界将会有200-300亿台人形机器人。
我认为大多数人，都希望拥有一个像《星球大战》中的C-3PO或R2-D2那样的机器人助手。实际上，人形机器人将成为历史上最重要的产品。想象一下，几乎每个人都会想要一个，有些人可能想要两个，再加上整个工业领域都需要人形机器人来制造产品和提供服务。
你可能会问，人形机器人与人类的比例会是多少？马斯克的回答是，我猜至少是3:1，甚至可能是4:1或5:1，这就意味着未来可能会有200-300亿台人形机器人。到那个时候，金钱的概念可能会变得模糊，经济体系是否存在有意义的上限都不好说。
然后他展望说，假设AI发展一切顺利，我认为人类将不会有全民基本收入，而是全民高收入。
财富不再由人来创造，那时的财富将如何被支配？
从财富创造的意义上来理解，在马斯克的展望中，至少包含如下几点：第一，未来的财富不需要由人来创造了；第二，由机器人创造的财富将会比现在由人类创造的财富多得不可限量；第三，人们不用工作，但通过全民高收入过着不可想象的丰裕的生活，而这有赖于全民基本收入制度的实施。
这是一种多么美妙的前景，而且在理论上完全行得通。问题是，在实践的层面呢？
关键的问题是分配。机器人确实可以创造出比今天多得多的财富，而且不用人们花费丝毫力气。那我想问的问题是，这些机器人和所创造出来的财富属于谁，谁能够支配这些财富呢？有能力支配这些财富的人会用这些财富来干什么呢？
现实的办法，是马斯克提到的全民基本收入，对，他提到的是更进一步的全民高收入。全民基本收入，是20世纪80年代比利时鲁汶大学教授菲利普·范·帕里斯（Philippe Van Parijs）提出的一个构想。而这项制度的财政基础，就是对机器人生产的产品征税，或者直接对机器人征税。在最近几年中，一直有人提出对机器人征税的设想，比如比尔·盖茨等。泽维尔?奥伯森甚至专门写了一本《对机器人征税》的书。在韩国和美国的加州，也正在考虑将这一想法付诸实施。
但现实与理论不完全是一回事。对于马斯克描绘的这种前景，我一直有两个隐隐约约的担心。
首先，会不会有一种基于机器人的技术利维坦出现？在机器人大量使用的情况下，有两个因素是不可缺少的。一个是企业，一个是资本。比如，在马斯克的想象中，特斯拉机器人是由特斯拉生产的。那生产的财富归谁呢？显然，至少首先是得归特斯拉和马斯克。当然，在未来财富多得没有意义的情况下，企业和资本可能放弃对收益的拥有，但这中间得经过许多环节。
在美国的这次总统大选中，虽然不能说是马斯克一人定乾坤，但他一人至少起到了至关重要的作用。现在，他又开始对欧洲的选举及政局的变化施加影响，而这都基于他个人掌握的巨额财富。这难道还不能让人产生可怕的联想吗？
其次，机器人创造的巨额财富，会不会被用来进行新的帝国争霸？无论是对机器人生产的产品征税，还是直接对机器人征税，征收的机构都是国家，或者说政府。理论上说，这些税收的相当部分可以用于建立和实施全民基本收入制度，但国家相对自主性理论告诉我们，国家机构或政府是一个有着自己独立利益和目标的实体。如果政府说，我们还有更重要的事情要做，这时候你主张全民基本收入的理由何在呢？财富是你创造的吗？是我国家创造的。
几年前，我曾经提出过“自处型社会”与“竞争型社会”这对概念。自处型社会是一个以共同体中人的生活改善为目标的社会，而竞争型社会则是以战胜其他共同体为目标的社会。机器人创造出的巨额财富，在这两种不同类型的体制中的使用，会有何不同？
现实可能没有马斯克想象的那样美妙和丝滑。在财富是由人的劳动创造的时代，你还可以说，那都是我们劳动的成果。但在机器人生产出来的财富面前，你可能连这样的理由也失去了。一个怪物，应用机器人创造出巨量的财富，并进而拥有这些财富，你不过是从中分一杯羹，而就是这一杯羹也带有施舍的含义。难道这不是更合乎现实世界的逻辑吗？
这不是很值得人们深思的事情吗？
机器人是可以创造巨量的财富，但这些财富一定是你的吗？有什么东西能保障你对这些财富的分享？
事情比财富的分配更麻烦
最根本的问题还不在这里。即使是能够像马斯克想象的那样，机器人创造的巨额财富能顺利而丝滑地转化为所有人的福利，更麻烦的事情仍然在后面。
在将近100年前，凯恩斯曾经写过一篇文章，题目是《我们后代在经济上的可能前景》。凯恩斯说：我得出的结论是，假定不发生大规模的战争，没有大规模的人口增长，那么，“经济问题”将可能在100年内获得解决，或者至少是可望获得解决。这意味着什么呢？凯恩斯说，迄今为止，经济问题、生存竞争，一直是人类首要的、最紧迫的问题。但如果设想中的这种情况成为现实，那么，经济问题并不是“人类的永恒问题”。
但问题是，这就是人类的一种美满结局吗？
凯恩斯自己也在问，这对人类到底是福还是祸呢？他说，如果你完全相信生命的真正价值，则这一远景至少为我们展示了从中获益的可能性。不过，那些经过无数代的培养，对于普通人来说已是根深蒂固的习惯和本能，要在几十年内加以悉数抛弃，以使我们脱胎换骨、面目一新，是难乎其难的。虑及这一点，我仍然不能不感到非常忧虑。
其实，凯恩斯这里说的还是一种过渡性的不适应。
凯恩斯问道：这会不会引起普遍的“精神崩溃”呢？对此，我们已有了些许体会。他说，这种精神崩溃现象，在英国和美国富裕阶层的家庭妇女中，已经并不鲜见。她们中的许多人被自己的财富剥夺了传统的任务和工作，由于经济上的必需这一刺激已经消失，所以她们从烹调、洒扫和缝补这类活动中已不能得到足够的快乐，而又难以找到更愉快的消遣。
想想这也是很令人感叹的。打个比方说，对那些为了每日的面包而辛勤劳动的人来说，闲暇是一件令人向往的乐事；而当这种向往成为现实时，他们才发现原来是另一番滋味。闲极无聊，这句话大家都知道。无所事事的悠闲与劳动之余的闲暇，不是一回事。
有人会说，人类这不是犯贱吗？是，但人的天性就是如此。
真正而终极的问题是人生的意义
而所有这些问题的最终指向，都是价值与意义。
有人曾经讲到过这样的一种感受：原来对那些象棋大师们充满崇敬，他们是多么的可望而不可即！但当机器人可以轻而易举地击败这些棋手，甚至是碾压式击败，是降维式打击的时候，他再也无法保持对这些大师的崇敬，甚至对象棋都失去了兴趣。
在早前的一文中，我也曾经提出过一个类似的问题：不知大家想过没有，如果一个物种的生活由一种远远超过这个物种的智慧笼罩着、支配着，会是一种什么样的感觉？会是一种什么样的结果？（见下）
我自己也无法回答这个问题。
从根本上说，人类的整体自尊与意义感是来自于创造，最直接的是对于财富的创造。
人类，从茹毛饮血，到今天的机械化、自动化、智能化生产，改善了自己的生存条件，同时，也获得了意义与价值。这种意义与价值来自哪里？是简单地来自对这些改善了物质条件的拥有与享受吗？恐怕不是，至少主要不是。那是来自哪里？是来自不断的、点点滴滴的改善，更重要的是这种改善与自己的努力之间的关系。
一个更根本性的问题是，难道人类现在真正缺少的是泼天的财富吗？
这个，只要对比一下我们这些50后、60后、70后与90后、00后，就可以感受到这一点。再说得直接点，一对年轻人结婚，房子、汽车、家电这些东西都是父母给买好了，与所有这一切都是通过自己的努力和劳动挣得的，是一回事吗？
其实，仔细想想，不寒而栗。马斯克的设想都很好，他自己也会有极强的成就感。但作为整体的人类由此失去价值与意义的根基，人还能成其为人吗？
抽去人类的意义与价值，这才是真正的釜底抽薪。
如果一个物种的生活被一种远远超过这个物种的智慧所笼罩和支配……
立平坐看云起（孙立平），原载“孙立平社会观察” 2024年6月1日
不知大家想过没有，如果一个物种的生活由一种远远超过这个物种的智慧笼罩着、支配着，会是一种什么样的感觉？会是一种什么样的结果？
这是我最近在想的问题。老实说，我无法想象那是一种什么样的情景。
我勉强能想象的是一个不见得完全合适的类比：一群猴子，它们的智力应该是在许多其他物种之上的，但在某个时刻，它们遇到了比它们智力更高的人类。人类为了丰富自己的生活，想建一个动物园，于是，就把这群猴子抓来，放到动物园里，供人观赏。从此，一种远远超过猴子的智慧支配了猴子的生活。在动物园里，猴子们在人类的悉心照顾下，生存当然是没有问题了，有足够的吃喝，有足够的舒适。这是一种用猴子自己的智慧根本达不到的生活水平。
人工智能时代的到来，人类会不会面临着与此相类似的处境？
在人工智能刚刚出现之际，其对于人类的意义问题，特别是安全问题，就成为人们的一种担心和忧虑。所以，在过去这些年，关于人工智能安全性的问题，一直是人们讨论和争议的一个重要话题。
具体一点说，人们的担忧主要是集中在如下三个层面：
第一层，是AI技术本身的问题，也可以看作是常规性风险，如隐私泄露和数据安全的问题等。因为人工智能系统通常需要大量的数据进行训练和优化，而在这些数据中，往往包含着用户的个人信息和隐私，如此一来，会不会导致隐私的泄露与数据安全的风险？还有一种情况，如果人工智能发出错误的指令会怎么样？这在流水线上曾多次发生过。
第二层，人工智能可能造成的负面经济、社会、文化后果。人们关心最多的，就是就业问题。AI技术的广泛应用，将可能导致大量的工作岗位被自动化替代，从而引发失业问题。这会在社会的层面产生什么样的影响？这个问题现在看已经越来越现实，波及面可能比原来人们想象的还要大。还有，AI技术如果在军事领域得到广泛应用，带来的可能后果会是什么？等等。
第三层，人工智能的失控问题。对于人工智能更深层的忧虑，是人工智能会不会失控？如果失控会怎么样？霍金是最早表达这种忧虑的人之一。霍金认为，人工智能可以比人类的智慧发展得更快，那么，当机器发展到能自己演化的重要阶段时，它们的目标与人类愿望之间的相符程度就很难预料了。现在看，这也已经是一个越来越现实的问题。
但今天我想说的不是这些。上面的这些担忧，都是很具体的，设想的情景，也都是在某种情况发生后会怎么怎么样。但在这里，我想在一个更一般、更抽象似乎又有点虚，同时又是一种常态的层面来讨论这个问题。
这个问题就是：即使不发生常规性风险，即使人类设计的制度安排足以解决其在经济和社会层面带来的副作用，即使失控的问题在技术上能得到很好的解决，但如果有一种远远超过我们人类的智慧笼罩在我们的周围，如果我们人类每日每时的生活是由一种远远超过人类的智慧所设定和支配的，那会是一种什么样的情形？人们的感觉又会是什么样的？
在我看来，这才是人工智能可能给我们带来的最大问题。
从根本上来说，这个问题涉及的是人类自身的意义与存在的问题，在这样的情况下人类为什么还要活着，而其可能是很卑微地活着？活着的意义是像猴子有一种优渥的生活，而这个生活并不是你自己创造出来的？
但说句老实话，这个问题太大了，已经远远超出我能讨论的范围。下面将我这两天与网友互动时一些想法的片段，摘录如下，供各位思考和讨论：
我：尽管人类有了这么漫长的历史，但有一个关于自己的问题我们一直没有真正弄清楚，这就是人生的意义，换句话说，是什么支撑你活着。我想，首先是存在感，我们还先不说成就感。我们假设一种情形，一群人在一个客厅里聊天，客厅很舒适，有茶水咖啡水果，你可以尽情取用，但就是没有任何一个人和你说一句话，甚至没有人看你一眼。这时你的感觉是什么？如果你还有某种程度的自尊的话。
我：两口子在一块儿过日子，有意思在什么地方呢？存在感和成就感。为什么很多人不愿意一个人做饭一个人吃？因为做饭不完全为了自己，你看到别人吃你的饭，不用说吃得很尽兴，就是仅仅是吃饱了，你都会有一种成就感，至少有一种存在感。
我：其实，存在感或成就感，不是一种很玄虚的东西，甚至体现在很琐碎的地方。还是用两口子过日子来比方，对方弄一个东西，弄不好，或者是弄不动。你说，我来。弄完之后，你心里可能有一句没说出口的话是，看，你不行吧。这是一种对存在感或成就感的自我感受。人生的价值是什么？就是这些琐琐碎碎感受的总和。
好了，假如现在你身边有一种巨大的能力和高超的智慧存在，在这种力和智慧的面前，你就像一个傻子一样，就是无能儿，就是一个窝囊废，你会是一种什么样的感觉？形象一点说，假如你是一个小学生，而在你的班级里，几乎所有人的智力都比你高很多倍，10倍，100倍，1000倍，1万倍，而你就像一个傻子一样，这时候这感觉会是什么样子？
如果每个人都觉得自己傻子一样，这会是一个什么样的物种，什么样的世界？
我：退休了，和我年龄相仿的一些人在学画画。是想当艺术家吗？是想在艺术上有所成就吗？也不是。为什么呢？就是想从中找到一种成就感。看，我画得不错吧。但最近我就听到有的朋友说，不画了，人工智能合成的比我画的还好呢。当然，你可以说，毕竟自己画出来的和人工智能合成的毕竟不一样嘛。但不可否认的是，这时的成就感已经打了相当的折扣。
我想，这种感受，也许就是人类在被更高智慧碾压时的一种最初的感受。各位可以再想想我们经常说的“没劲”这个词的意思是什么。
网友：看起来可以安顿人心的归属是宗教。在这种情况下，人类需要宗教和艺术的繁荣。
我：如果在宗教和艺术的目前，人类也会失去智慧的尊严呢？过去有一句话，说人一思考，上帝就会发笑。但如果在人工智能的时代，上帝一思考，人工智能就会发笑呢？
近期文章：
许多挚友被或左或右极端潮流裹挟而去，剩下我形影相吊
对“白左”的非正式研究：标签的后面是什么？后果是什么？
过去的这一年，难忘那些逝去的人
2024这一年经历了什么？借助这篇奇文来一一盘点！
美国与俄罗斯两位重量级政治思想家对话全文
川普再次进白宫，与八年前首次进白宫面对的中国大不一样
下一代人若想有出息，就别听我们这一代人的话
没想到这部俄罗斯小说竟成为习近平的精神指南
写回忆录尽量让被追忆的人物和事件保留鲜活的草根气息
美国的名校为什么左翼思潮占绝对上风
特朗普看到了美国真的病状，但他是否能开出对的药方？
