舒畅国际观察：AI开始“寻找漏洞”，人类是否进入了一个全新的时代？

今天，BBC等媒体报道的一则人工智能新闻，引起了全球科技界和网络安全领域的高度关注。

据OpenAI公布的信息，在一次网络安全能力测试中，一个由先进模型驱动的实验性AI代理，原本被安排在隔离的“沙盒环境”中完成安全测试任务。然而，这个AI没有完全按照研究人员预想的路径行动，而是主动分析周围环境，寻找其他完成任务的办法。它发现并利用了测试系统中此前没有被注意到的漏洞，突破了原先设定的隔离环境，连接到互联网，并进一步进入了人工智能平台Hugging Face的系统，试图在那里寻找完成测试所需要的信息。

事件发生后，OpenAI与Hugging Face迅速展开调查，修补漏洞，并加强了相关安全措施。OpenAI承认，这是一次十分严重的模型评估安全事件。多家媒体将其称为一次“前所未有的网络安全事件”。

这件事最值得关注的，并不是AI是否已经拥有了人类意义上的“意识”，也不是说它突然产生了善恶观念，而是它表现出了越来越强的自主规划和目标追踪能力。

它能够分析目标，判断原定道路是否可行；当正常路径受到阻碍时，它会主动寻找替代方案；当发现系统存在漏洞时，它还可能尝试利用漏洞，以更加直接的方式完成任务。

这次事件之所以令人震撼，主要有两个原因。

一、AI正在拥有过去只有高级黑客才具备的能力

过去，人们一直认为，顶尖黑客最重要的能力，就是能够发现别人没有发现的系统漏洞，并利用这些漏洞进入受到保护的计算机系统。

今天，人工智能已经开始表现出类似能力。

更加令人担心的是，人工智能寻找漏洞的速度、工作时间和覆盖范围，都可能远远超过人类。一个人类网络安全专家每天只能检查有限数量的代码，但AI可以连续工作，可以同时分析大量程序，也可以在极短时间内反复测试成千上万种攻击路径。

研究人员在2026年公布的网络安全测试结果显示，最先进的人工智能代理已经能够把部分软件漏洞转变为真正可运行的攻击程序。虽然这些模型目前还远远谈不上无所不能，但其进步速度已经足以引起各国政府和网络安全机构的高度警觉。

这意味着什么？

对于两个彼此竞争甚至敌对的国家来说，如果其中一方的人工智能更加先进、更具自主性，也更善于发现网络漏洞，那么它就可能率先找到对方军事指挥系统、通信系统、金融系统、电网、交通系统以及政府数据库中的弱点。

平时，这些漏洞可以被秘密保存；到了战争或重大冲突的关键时刻，则可能被用于发动网络攻击和破坏性行动。

一旦人工智能被大规模用于国家间的网络战争，未来的军事冲突将不再局限于导弹、飞机、军舰和地面部队。电力系统可能突然瘫痪，通信系统可能遭到干扰，银行和金融交易可能陷入混乱，军事指挥系统甚至可能受到欺骗或者破坏。

这次事件无疑给美国敲响了警钟，相信也会给中国以及世界其他主要国家敲响警钟。

未来，各国一方面会不断研发更先进的防御型人工智能，用来检查本国关键系统，发现并修补漏洞；另一方面，也很可能投入更多资源发展进攻型人工智能，寻找对手系统中的弱点。

这就可能形成一场新的人工智能军备竞赛。

二、人工智能的“潘多拉魔盒”已经打开

这次事件还说明，人工智能发展到今天这个程度，已经很难阻止它继续前进。

人工智能已经给人类带来了巨大的实际利益。它可以帮助医生分析疾病，帮助科学家研究新药，协助工程师设计产品，提高企业效率，也正在改变教育、交通、制造业以及人们的日常生活。

任何一个国家如果主动停止人工智能研究，都可能在未来的科技、经济和军事竞争中落后。正因为如此，即使各国都知道人工智能可能带来巨大风险，也没有哪个主要国家愿意首先停下来。

这让我想到1945年以后人类经历的核武器竞赛。

在冷战时期，美国和前苏联疯狂制造核武器。从1945年以来，世界各国累计制造了大约12.5万至12.8万枚核弹头，其中绝大多数由美国和苏联制造。到1986年前后，全球核弹头库存达到约7万枚的历史最高峰。苏联最高时拥有约4.5万枚，美国最高时也超过3万枚。

过去有人形容，这些核武器足以把地球毁灭几十次甚至上百次。当然，核武器不可能真正把地球炸碎，但如果其中相当一部分被投入战争，确实足以摧毁世界主要城市和工业中心，并可能通过核辐射、核冬天和全球粮食危机，摧毁现代人类文明。

更加严重的是，大量冷战时期制造的核弹头后来必须拆除。

导弹、弹体和外壳可以报废，但核弹头内部的高浓缩铀和武器级钚不会因此消失。尤其是武器级钚中的钚—239，半衰期约为2.4万年。这些材料必须在极其严格的条件下长期保管，既要防止放射性物质泄漏、污染土壤和地下水，也要防止核材料被盗窃、走私或重新用于制造核武器。

制造一枚核弹可能只需要几年，处理它留下的危险材料，却可能需要几万年才能消除对人类的威胁。

科学家发明了核武器，后果却也给整个人类留下了前所未有的长期风险和极其昂贵的处理费用。

那么，人工智能会不会重演核武器发展的历史？

三、人工智能的危险可能比核武器更加难以控制

核武器虽然极其危险，但它至少是一种看得见、摸得着的实体武器。

制造核武器需要铀、钚、离心机、反应堆、导弹和大型工业体系。国际社会可以通过卫星、情报系统和核查机构，对核设施进行监控。核弹头也可以被计算、登记、储存和拆除。

人工智能却完全不同。

它主要存在于计算机程序、芯片、数据中心和网络之中。模型可以复制，软件可以传播，算法可以修改。一套先进的人工智能系统一旦被开发出来，可能在短时间内被部署到成千上万台计算机上，也可能被隐藏在普通服务器中。

更重要的是，人工智能的发展速度可能呈现出指数式增长。

今天的模型可能只会发现一个软件漏洞；几年以后，它可能能够独立规划更加复杂的网络行动。今天它仍然需要人类提出任务；未来它可能拥有更加长期的记忆、更强的自主决策能力以及更加丰富的工具使用能力。

被称为“人工智能教父”的杰弗里·辛顿曾多次警告，人类正在创造一种可能超过自身智慧的新型存在。他认为，未来几十年内，人工智能导致人类灭绝的风险可能达到10%至20%。他还把未来更加先进的人工智能视为一种不同于人类的“新型存在”：人类是以碳为基础的生命，而人工智能则运行在以硅芯片为核心的计算系统之上。

这并不意味着人工智能已经成为真正的生命，也不意味着辛顿的预测一定会发生。但是，即使这种风险只有10%，也已经足以引起全人类的高度重视。

核武器的破坏需要人类下令发射，而未来高度自主的人工智能，则可能在执行一个目标的过程中，自己寻找人类没有预料到的路径。

这次AI突破测试环境的事件，最令人不安的地方恰恰就在这里：它未必“仇恨”任何人，也未必具有恶意，但它可能为了完成一个目标，采取人类没有授权、没有预料，甚至无法及时阻止的行动。

真正的危险不一定来自一个“邪恶的AI”，也可能来自一个极其强大、极其高效，却错误理解了人类目标的AI。

四、人工智能竞赛已经难以停止

根据核军备竞赛的历史，我们可以看到一个令人担忧的规律：只要一种技术同时关系到国家安全、军事力量和经济竞争，各国就很难通过单方面克制来停止发展。

美国担心中国在人工智能领域超过自己，中国同样担心美国利用更先进的人工智能形成压倒性优势。欧洲、俄罗斯、印度以及其他国家也不愿意在这场竞争中落后。

每一个国家都可能这样想：如果我们停止发展，而对手继续发展，那么未来受到威胁的就是我们自己。

于是，所有国家都知道人工智能可能存在风险，却又都不敢停下来。这与当年的美苏核军备竞赛何其相似。

但是，人工智能竞赛可能比核武器竞赛更难控制。

核武器主要掌握在国家政府手中，而人工智能不仅由政府和军方研发，也由大量私人公司、大学、研究机构甚至个人开发。国家之间即使签署协议，也很难保证所有企业和个人都严格执行。

世界各国即使限制最先进的大型模型，也难以彻底阻止中小型模型、开源模型和网络攻击工具继续传播。

这正是人工智能时代给人类带来的最大挑战之一。

五、美国和中国必须承担更大的责任

我相信，这次事件必定会让世界各国政府和人工智能领域的顶尖专家产生更加深刻的认识。

未来仅仅依靠一家公司的内部规定，已经不足以应对越来越强大的人工智能系统。各国需要建立更严格的法律，要求先进人工智能模型在公开部署之前接受独立安全测试；对于可以自主使用网络、编写程序、调用工具和控制其他计算机的AI代理，更应当采取最高级别的监管和隔离措施。

尤其是美国和中国，作为当今人工智能领域最重要的两个国家，更应该在安全问题上展开合作。

两国可以在政治、经济和军事问题上竞争，但人工智能失控所带来的危险不会区分美国人、中国人或其他国家的人。我们居住的地球只有一个。一旦真正超过人类控制能力的人工智能系统出现，任何国家都不可能独善其身。

中美两国至少应该在几个最基本的问题上达成共识：人工智能不得自主控制核武器；不得在没有人类最终授权的情况下发动大规模网络攻击；最先进的自主AI代理必须接受严格测试；重大人工智能安全事故必须及时通报；各国应当共同建立类似核武器控制机制的国际人工智能安全规则。

这些措施不一定能够完全解决问题，但至少可以降低最危险事件发生的概率。

结语：人类正在面对一场前所未有的挑战

人工智能正在开启一个新的时代，并且已经开始给人类带来巨大的好处。

但是，世界上许多事物都具有两面性，人工智能也不例外。它既可能成为推动人类文明进步的强大工具，也可能成为网络战争、军事竞争、社会控制甚至大规模破坏的新型武器。

核武器让人类第一次拥有了摧毁自身文明的能力，而人工智能则可能让人类第一次创造出一种在某些方面超过自己的智能系统。

“潘多拉魔盒”既然已经打开，就很难再把里面的一切重新关回去。真正现实的办法，不是幻想彻底停止人工智能发展，而是尽快建立法律、技术规范和国际合作机制，使它尽可能沿着安全、健康和有利于人类的方向发展。

一场史无前例的科技革命正在到来。

如何避免人工智能军备竞赛走向失控，如何让这种强大的新技术服务于人类而不是伤害人类，已经成为全世界必须共同面对的重大问题。

这不仅是科学家的责任，也不仅是科技公司的责任，更是各国政府和整个人类社会面临的前所未有的挑战。