舒畅世界观察:中国高速追美,AI竞争产生风险超过核武发展留下的严重后遗症

作者:舒畅
发表时间:
+-

舒畅世界观察:中国高速追美,AI竞争产生风险超过核武发展留下的严重后遗症

近几年,中国人工智能的发展速度很快。今年7月,世界人工智能大会在上海举行,上百个国家和地区参与。世界知识产权组织数据显示,在此前2014年至2023年的统计中,中国生成式人工智能发明专利达到38,210项,美国为6,276项。单看数量,中国已经非常突出。这表明中国的人工智能研究和应用规模不容低估。在人才方面,变化也很明显。以本科教育计算,中国培养的全球顶尖AI研究者占比近年来明显上升。以清华“姚班”为例,这些聪明的高智商学对摇摆筋骨失眠之后,不少学生后来赴美国顶尖大学深造,进入美国一流科技企业和研究机构;有学成回国也有不少人留在美国继续发展。

这也形成了今天中美人工智能竞争中一个很有意思的现象:美国仍然是世界人工智能人才最集中的地方,但其中相当比例的黑色发、黑眼睛的青年才青年才俊。在一些国际人工智能会议上,华人研究人员越来越多,彼此用中文交流也已经相当常见。

黄仁勋近年来多次谈到中国人工智能的发展。他多次提醒美国不要低估中国的AI的人才实力,并高度赞许中国年轻学者的水平和创新能力。美国科技界越来越清楚地认识到,中国已经成为美国在人工智能领域最重要的竞争者。当然,也注意中国人工智能目前仍然存在的明显的短板——先进芯片。

训练最先进的大模型,需要大量高性能GPU,而目前世界最先进的一批AI芯片及相关技术仍然牢牢地掌握在美国企业手中。美国不断加强对中国先进芯片和相关设备的出口限制,实际上正是要卡住中国人工智能发展的这个关键环节。因此,中美人工智能竞争不仅是软件和人才的竞争,也是芯片、算力和整个产业链的竞争。

美国目前仍然在最先进芯片、基础模型、风险投资以及吸引全球顶尖人才等方面占有明显优势;中国则在人才储备、庞大的应用市场、制造业基础以及人工智能与机器人、工业生产结合等方面拥有巨大的优势。因此,现在简单地说“中国已超过美国”或者“美国遥遥领先”,恐怕都不够准确。

但是,在中美争论究竟谁领先的同时,一个更加重要的问题已经摆在人类面前:

人工智能会不会发展得太快,最后快到人类自己无法控制?

现在的AI已经不仅仅会聊天、写文章、画图。它正在逐渐进入机器人、自动驾驶、科学研究、医疗、军事和网络系统,并开始具备越来越强的自主执行任务能力。

如果未来人工智能的推理能力超过人类,而且能够自己制定计划、调用工具、控制机器,那么如何保证它始终按照人类的意愿行动,就会成为一个非常严肃的问题,并具有某种意义上的独立思考以至于最后摆脱人类的恐惧这是一个令人思之极恐的问题!这也造成了一个很难解决的矛盾。

美国政府从国家利益考虑,必然担心:如果我们为了安全放慢发展,中国会不会超过我们?

中国同样可能会想:如果我们放慢,而美国继续高速发展,我们怎么办?

俄乌战争以及正在中东战争都已经充分的说明了人工智能的巨大作用!你有最强大的炸药有最好的坦克但是如果没有人工智能缺乏人工智能辅助下的巨大的力量你的军力量就是打击必然低人一等!企业之间也是如此。谁都知道发展太快可能带来风险,但是谁都害怕自己首先踩刹车,结果被竞争对手超过。所以结果就发生了一种人工智能方面的AI竞赛。现在的问题是这种净水的结果会不会出现一个所以炭基生命体——我们知道我们人类是碳基生命但是一旦人工智能有了超过人类智慧和自主思想意识一种不可预测的后果又是怎样呢?我之所以提出这个问题是因为这与当年美俄之间的核竞赛发展有相似之处。核武器快速的研美苏两国都投入了巨大的资金人力有幸的是,国际上最终建立国际条约、核查、监督以及风险控制机制。但是也带来了极大的潜在的核污染造成的难以解决的危机——核废料的储存处置。一个不可无视的事实是:目前全世界共有9个拥有核武器的国家。根据2026年最新估计,全球有 12,187枚核弹头。其中约 9,745枚仍属于军方核武库4,012枚已经部署在导弹、轰炸机等作战系统上。另外还有大约 2,442枚已经退役,但尚未拆解的核弹头。也就是说,把现役、库存和等待拆除的全部算进去,全世界仍有大约 1.22万枚核弹头。美国和俄罗斯占了绝大多数。

一个非常恐怖的事实就是:这么多的核弹足以摧毁现代人类文明。摧毁整个地球不知道多少次! 一旦某个疯子,哪怕只要使用几颗原子弹,爆炸产生的严重后果就令人不寒而栗!核弹爆炸之后产生的烟尘进入高层大气,全球降温、农业减产,可怕的“核冬天”将导致因随后的粮食危机而有50亿人死亡。(《Nature Food》、由Rutgers大学研究人员主持的模型研究报告)。 

我们再来看一看那些早期的或者老旧的“退役”核弹如何处置:——由于它强大的辐射性,根本就不可能把它当成一半的废料来丢弃或者埋在地下。首先要经过非常复杂的拆解,把核弹头中的钚、浓缩铀以及其他部件分别处理。真正需要长期处置的是其中的高放射性物质。

目前国际上公认比较可靠的长期办法,不是把核废料扔进海底,而是“深地质处置”:先把高放射性废物封装在非常坚固、耐腐蚀的容器中,再放入地下稳定的岩层。至少的深挖洞埋在地下几百米,甚至更深,利用金属容器、黏土等人工屏障和稳定岩层形成多重保护,使放射性物质与地下水和人类生活环境长期隔离。某些高放射性物质需要隔离的时间可能达到数万年甚至几十万年。所有整个处理的代价按照专家的估计十分昂贵:

例如芬兰的深地质处置项目相关估算约为30亿欧元量级;不同国家由于核废料数量和工程范围不同,整个核废料管理计划可以达到数十亿甚至数百亿美元。 美国如果把几十年来核武器生产遗留下来的污染场地全部清理计算进去,政府目前估计未来总成本甚至超过6400亿美元,但这远远不只是“埋核弹”的费用。

芬兰的深地质处置项目是世界上最著名、也是进展最领先的永久核废料处置工程。它位于芬兰西海岸的奥尔基洛托岛(Olkiluoto)。芬兰很早就开始发展核电,几十年来产生了大量乏核燃料,所以必须解决这些高放射性废物最终放在哪里的问题。 芬兰政府政策很明确:**自己发核电产生的核废料,自己负责,不能把问题留给后代,也不能简单运到外国去处理。——一个非常负责任的民主制度下的政府!芬兰法律规定,核电企业必须负责核废料的管理以及全部费用; 芬兰从1983年开始全国选址,经过十多年地质调查,1999年选定这里;芬兰议会于2001年批准,2004年开始向地下开挖。现在的地下设施最深约455米,真正存放乏核燃料的区域主要在地下400—430米

专家们选择芬兰本土的奥尔基洛托?主要有三个原因:第一,当地古老的结晶岩基岩非常稳定;第二,这里本身就是核电站所在地,乏核燃料不需要长距离运输;第三,当地政府和居民经过长期讨论后接受了这个项目,而且当地政府本来拥有否决权。

其实还有一个问题也非常严重:核废料埋在地下之后会不会泄漏?答案不幸是:YES!现实中确实发生过事故。 最著名的例子是美国新墨西哥州WIPP地下核废料处置设施。2014年,一个装有超铀核废料的桶因为材料处理错误发生化学反应并破裂,释放出钚和镅等放射性物质;一小部分污染物进入地面环境。 事故后的恢复和安全改造也非常昂贵,仅2014年底美国国会就提供了3.24亿美元用于WIPP恢复和运行。

所以这件事情最值得注意的是:核弹可以几十分钟制造巨大的破坏,但是核弹退役以后留下的核材料和核废物,人类却可能需要管理几千年、几万年甚至更长时间。

现在我们回过头来看越来越强大的人工智能,如果没有一种国际大家都遵循的发展规则,建立全球国际性的安全规则和监督机制?我认为这个问题的重要性,无论怎样强调都不过分。

人工智能可能给人类带来前所未有的生产力,也可能带来我们今天还无法完全预料的风险。

这也许是当今人工智能时代最值得全世界认真思考和重点解决的问题。