美国的超级智能困境
人们既已享受到人工智能带来的益处，同时也对它可能引发的问题感到担忧。约翰斯·霍普金斯大学高级国际问题学院亨利·基辛格全球事务杰出教授、美国企业研究所高级研究员哈尔·布兰兹（Hal Brands）近日在《外交事务》杂志发表的评论－－“美国的超级智能困境及如何避免一场人工智能灾难”，正试图唤起美国对这一问题的关注：
多年来，专家们一直预测，人工智能将彻底改变世界政治。历史或许会将2026年记载为这场革命真正到来的时刻。从今年年初开始，一系列持续不断的发展凸显了人工智能时代的机遇与危险，从人工智能被用于美国军事干预，到能够在很大程度上超越人类操作员的人工智能网络武器出现。“失控”事件——即人工智能模型脱离人类控制和监督的案例——也变得更加普遍。包括总统川普（Donald Trump）在内的美国官员，一方面宣扬美国在人工智能发展前沿保持领先，另一方面也担忧未来地平线之外潜藏着哪些危险。
一些专家认为，人类距离实现通用人工智能已经近在咫尺：这种技术能够在广泛的任务上表现得与人类一样好，甚至优于人类。越来越多的人猜测，人工超级智能（Artificial Superintelligence，简称ASI）——一个界定并不明确的概念，通常被宽泛地定义为在所有任务和所有领域都远远超越人类能力的人工智能模型——可能会在未来几年内出现。相比之下，当今最先进的人工智能模型仅在数学、数据处理等狭窄领域超越人类，而在常识和深度推理等方面仍落后于人类。人工超级智能的出现，可能带来突飞猛进的经济和科学进步，或开启足以颠覆全球力量平衡的革命性军事突破。但它也可能从根本上改变机器与人类之间的关系，甚至在最糟糕的情景下，使近乎无所不能的系统消灭创造它们的人类。
上述许多内容仍然属于假设。目前仍无法确定人工超级智能是否能够实现、何时能够实现，以及它是否能够始终与人类繁荣发展的目标保持一致。这些不确定性主导了关于任何政策应对方案的讨论。但由于人工超级智能所带来的影响将是震撼性的，因此，评估美国应如何应对这项技术，以及不同的人工超级智能战略将如何影响华盛顿与世界的互动，显得尤为重要。
一种选择是追求霸权，即全力冲向人工超级智能，同时遏制竞争对手的发展。这一战略建立在这样一种信念之上：对美国而言，最大的危险并不是无法控制的人工超级智能技术，而是竞争对手掌握了这种技术。另一种选择是共同开发，即美国寻求在一个注重安全的国家联盟内部开发人工超级智能，以负责任地释放其造福人类的潜力，同时抑制围绕其研发而展开的危险竞赛。第三种选择则是压制，即美国放弃开发人工超级智能，并阻止任何其他国家或组织开发，因为超级智能一旦被释放到世界上，将过于危险。
这些选择中的每一种，都优先考虑了人工超级智能挑战的不同方面——追求地缘政治优势、安全开发革命性技术，以及尽量降低生存性风险的重要性。然而，每一种方案都存在严重风险或缺陷，并要求人们针对一个目前仍无法预知的未来作出可能无法挽回的押注。如果推动某项战略的根本前提被证明是错误的，那么这一战略就可能以灾难性的方式失败。因此，美国领导人此时若完全拥抱其中任何一种选择，都将是一个错误。近期最好的选择，是采取审慎的对冲策略，使美国能够在各种可能的未来中占据有利位置，同时逐步提高自身能力，最终作出更加明确的选择。
风险与回报
围绕人工超级智能的辩论之所以愈发迫切，源于人工智能不断攀升的成就与预期。最先进的人工智能模型在越来越多的领域中，解决复杂问题的能力不断增强。有些模型已经在网络战等领域展现出超越人类的能力。一些顶尖专家推测，所谓的“智能爆炸”即将到来——也就是人工智能能够快速且持续地自我改进的时刻。广受关注的《AI 2027》情景——由非营利机构“人工智能未来项目”于2025年制定的一项预测，逐步描绘了人工智能如何实现快速跃升——假设人工超级智能可能会在本十年内出现。同样，Anthropic联合创始人达里奥·阿莫代伊（Dario Amodei）也曾写道：“人类即将被赋予几乎无法想象的力量。”
如果人工超级智能真的出现，其影响可能具有划时代意义。人工超级智能的乐观主义者预测，它能够通过开发新的碳捕获技术征服气候变化问题，或者通过破解人类生物学之谜治愈癌症。由人工超级智能推动的推进技术突破，还可能使深空旅行和殖民其他星球成为现实。然而，这种巨大的经济和科学前景，也伴随着可能具有史诗级规模的破坏。人工超级智能可能通过帮助实施毁灭性的网络攻击和生物武器，赋予不法行为者更大的能力；可能开启军事决策自动化时代，使战争变得更快、更难控制；或者催生改变战争规则的“奇迹武器”，例如使海洋几乎变得完全透明的传感器。它还可能改变全球力量平衡，为率先实现人工超级智能的国家带来巨大的军事优势。而这些优势并不能保证一定属于民主社会。阿莫代伊警告说，人工超级智能可能通过实现无所不包的监控和压迫自动化，制造一场“极权主义噩梦”。
最严重的风险在于，超级智能可能奴役甚至消灭人类。人工超级智能可能帮助人类毁灭自身，例如协助虚无主义者释放新型大流行病，或者引发自动化“闪电战争”，最终导致核灾难。又或者，一种比其创造者更加聪明的技术，最终会将创造它的人类视为应当消灭的威胁，或可供利用的资源。一些人工智能企业高管认为，这种“毁灭概率”高达25%，甚至50%。
然而，上述所有预测都并非确定无疑。一些专家怀疑人工超级智能在技术上是否能够实现，或者认为算力（compute）和电力等物质条件的限制，可能会阻止它的到来。另一些专家则质疑人工超级智能是否能够带来持久的先发优势，他们认为，其经济和军事收益将像以往大多数技术一样，以渐进且不均衡的方式累积。对于“对齐”是否可能——即人工超级智能是否能够受到控制，并始终支持人类繁荣发展——这一问题，主要观察人士之间也存在分歧。曾担任Meta首席人工智能科学家的杨·勒昆（Yann LeCun）认为，毁灭概率仅为0.01%。现有信息无法消除这些不确定性，但它们在关于美国应如何推进人工超级智能发展的辩论中，占据着举足轻重的地位。
领先至上
一种潜在的选择是追求人工超级智能霸权——确保超级智能首先且仅在美国出现。这一战略利用人工超级智能来支持民主价值观和美国的主导地位。它认为，在地缘政治挑战和生存性风险面前，主导地位才是通向安全的道路。
支持这一战略的逻辑有三个方面。首先，人工超级智能霸权之所以不可或缺，是因为它能够带来革命性的收益。如果一个专制竞争对手掌握了这一最关键的技术，美国就无法维持全球主导地位或维护世界秩序；如果超级智能被压制性的新极权主义国家所利用，自由甚至可能被消灭。其次，霸权至关重要，因为递归式自我改进——即先进人工智能模型几乎能够持续不断地提升自身能力——意味着早期领先优势将呈指数级扩大。最后，美国的霸权是防范地缘政治灾难和失控人工超级智能的最佳保障。如果这项技术扩散到流氓行为者或不负责任的行为者手中，使人工超级智能始终与人类繁荣发展保持一致将变得更加困难，甚至不可能。但如果人工超级智能仅在美国诞生，华盛顿就能够确保它在审慎的安全保障之下发展，并与民主价值观保持一致。
在实践中，追求人工超级智能霸权意味着一边竞速，一边限制他人。美国政府将通过从大规模建设数据中心到加强网络防御、强化防范破坏活动或其他实体攻击等措施，帮助前沿实验室加速迈向人工超级智能。华盛顿还需要强制投入大量资源开展安全研究，同时建立国内算力治理体系，确保只有可靠的开发者才能构建前沿人工智能模型。与此同时，美国将通过严格的半导体出口管制和其他限制性措施，阻止中国获得驱动先进人工智能模型所需的算力。如有必要，美国甚至可能通过网络攻击、破坏行动或直接打击中国的人工智能基础设施，以扰乱北京的发展进程。加速美国创新、阻碍对手发展，将成为国家安全体系最重要的使命。
霸权战略设想的是单方面优势，但它只有在多边同意的情况下才能奏效。美国如果没有盟友和伙伴的帮助，就无法加速前进，而这些国家已经占据全球人工智能生态系统中的关键节点——日本、荷兰、韩国、台湾以及其他国家和地区皆是如此。如果这些盟友无视美国的出口管制，美国也无法压制中国的能力。因此，追求霸权要求将关键盟友纳入人工超级智能的发展进程，或者至少通过军事联盟和技术扩散安排，与它们分享人工超级智能带来的收益。正如美国对原子武器的垄断曾帮助奠定第二次世界大战后现代国际秩序的建立一样，人工超级智能霸权战略也将使美国的主导地位以及民主价值观的优势在未来几十年得以延续。
如果人工超级智能真的出现，其影响可能具有划时代意义。
但华盛顿不能忽视其中的风险。这一战略假定人工超级智能能够实现、将在地缘政治上带来颠覆性影响，并且能够始终与人类繁荣发展保持一致。然而，这些都并非确定无疑。如果人工超级智能不过是一种幻想，或者仅能带来有限优势，那么美国可能会为了追求其霸权而浪费巨大的资源。如果人工超级智能最终失控，其后果则可能是灾难性的。理想情况下，霸权战略通过减少从事超级智能研发的企业数量，并推动严格的安全程序，来对冲这些负面结果。但这一战略内在的竞争逻辑——战胜中国的冲动——可能会削弱这种努力，因为它会迫使企业创新速度超过安全规范能够跟上的速度。
当华盛顿寻求人工超级智能霸权时，北京也不太可能袖手旁观。半导体出口管制帮助美国建立了巨大的算力优势，但一场全面推进人工超级智能的发展行动，可能引发中国同样全面的规避行动——通过走私、加大对算法效率的投入，以及加强窃取美国突破性成果的努力。或者，中国的回应可能更加激烈。如果北京认定华盛顿正全力冲向人工超级智能霸权，它可能收紧稀土出口，以削弱美国的创新能力，或者对台湾发动攻击，以切断美国获取最先进芯片的渠道。
最后，霸权战略在国内和国际政治层面都面临巨大挑战。如果由此带来的痛苦——例如就业岗位流失和安全担忧——比收益更早到来，美国选民可能会拒绝支持争夺人工超级智能霸权的行动。人工超级智能霸权还要求盟友对美国抱有极大的信任，因为它们将帮助美国发展可能被用于善或恶的突破性能力。然而，今天，即便是美国最亲密的盟友，也正在寻求大幅降低对一个看起来比过去更加不可靠、更加掠夺性的超级大国的依赖。
携手共进
华盛顿的第二种选择是推进共同开发，即美国通过一个包括盟友和竞争对手在内的集体项目，共同迈向人工超级智能。共同开发同样建立在三个方面的逻辑之上，首先是合作：开发人工超级智能很可能需要来自世界各地研究人员的集体智慧。其次是合法性：由于人工超级智能关系到全人类的命运，因此它的开发必须由一个具有包容性的联盟来承担。最后是安全：人工超级智能带来的危险，与其说源于技术本身，不如说源于围绕获取它而展开的激烈竞赛。消除这种竞赛机制，将使这一革命性技术能够以更加负责任的方式发展，为所有人带来共同提升，而不是导致自我毁灭。
共同开发战略包括建立一个全球性的人工超级智能开发架构。一个国际监督委员会将决定技术创新应推进到何种程度、以何种速度推进。多边机构将负责管理前沿算力、开展联合安全研究，并测试新的人工智能模型。加入这一联盟的国家将获得人工超级智能研究的优先准入，而那些坚持单独开展项目的国家则将面临孤立和惩罚。
至关重要的是，共同开发要求中国参与。如果将中国强大的人工智能能力排除在外，那么任何全球安全机制都缺乏可信度；而且，只有中国参与，才能缓解围绕人工超级智能展开危险竞赛的态势。因此，共同开发意味着美国地缘政治战略将发生全面转变，从聚焦大国竞争转向强调与北京开展深入而敏感的合作。为了争取中国参与，美国甚至可能不得不接受牺牲以往优先事项的代价，例如保护台湾或维持技术领先地位。这一战略对私营部门的影响同样深远。那些已经投入数十亿美元开展专有研究的美国企业，将被迫与全球竞争对手合作，并接受全球监督。
一些人工智能企业高管认为，“毁灭概率”高达25%，甚至50%。
理论上，共同开发能够在降低风险的同时获得人工超级智能带来的收益。但在实践中，很可能会遇到问题。建立国际机制是一项缓慢的工作，而制度建设的进展可能赶不上技术发展的速度。《不扩散核武器条约》及其配套机构的建立就耗费了多年时间。而今天，人工超级智能的创新完全可能轻易超过治理能力，特别是在突破性进展快速出现的情况下。坚持全球共识，可能导致决策瘫痪，而人工超级智能模型却在不断向前发展。
共同开发还意味着放弃美国已有的优势。美国必须分享突破性成果，并限制本国人工智能企业的能力，从而放弃任何相对于中国获得非对称优势的希望。如果共同开发真的能够超越大国竞争，这样的牺牲或许是合理的。但中国真正参与其中的可能性似乎并不大。长期以来，美国一直寻求中国在跨国挑战和风险降低措施上开展合作，而北京则长期要求美国作出地缘政治让步作为交换。此外，北京从未表现出愿意接受共同开发所要求的监督或深入检查。新极权主义政权通常不会真诚地将主权让渡给国际机构，除非它们打算进行欺骗并最终退出。
事实上，共同开发很可能天生就存在一种不对称性：秘密主义的专制国家比透明的民主国家更容易作弊。中国可能会加入共同开发机制，以获取美国研究的内部信息，然后在时机成熟时退出，转而单方面全力冲刺。因此，最终的风险在于，共同开发仍然可能以一场人工超级智能竞赛告终，同时却致命地削弱了华盛顿赢得这场竞赛的能力。
限量版
最后一种选择是压制：确保没有任何国家跨越人工超级智能门槛，包括美国在内。支持这一方案的理由在于，哪怕承担任何发生人工超级智能灾难的风险，都是一种对人类生存极不负责任的行为，而这种风险也根本不可能降至零。人类又如何能够确信，自己能够永远控制一种智力远远超过自身的存在？此外，仅靠自愿克制并不足够。虚无主义者或恐怖分子可能正是因为追求灾难而寻求人工超级智能；而在一个充满竞争的世界里，各国也可能面临追求决定性优势的巨大诱惑。因此，压制战略寻求通过多边合作停止人工超级智能的发展，但归根结底，它仍依赖于美国政府在国内外阻止此类创新的能力。
这一战略要求美国政府对国内人工超级智能研发设定严格界限，对人工智能实验室可获得的算力实施监管，使其始终低于危险门槛，并对领先企业进行严密监控。美国还需要牵头建立一个多边机制，将这些限制扩展到全球范围，联合理念相近的国家共享情报，并惩罚违反规定者。但由于背离这一体系的诱惑将十分巨大，而争取广泛合作又需要时间，美国不得不承担大部分压制任务，采用制裁、网络攻击甚至军事行动等严厉手段，阻止违规者继续推进。
压制战略将安全放在首位。如果无法确保人工超级智能始终与人类繁荣发展保持一致，那么压制便是唯一安全的选择。另一方面，如果只要投入足够的安全研究，就能够实现这种“对齐”，那么压制也可以为这些研究赢得成熟所需的时间。然而，这一战略未必能够奏效。
人工超级智能所涉及的不确定性，无法依靠目前掌握的信息加以消除。
在人类限制危险军事技术——例如核武器——方面，历史记录并不完美。压制机制有时能够延缓，但从未真正阻止具有广泛经济价值的通用技术扩散。支持者认为，算力的核心地位形成了一个技术瓶颈，美国可以对此实施监管。但随着算法效率不断提高或其他创新出现，算力可能不再构成真正的限制。而如果某个外国行为者率先开发出人工超级智能，美国就很容易发现自己站在超级智能革命的失败一方。
推行压制战略还可能改变美国在全球和国内的权力性质。压制并不是一种和平战略；它可能要求对违规者采取侵入性措施，甚至使用武力。而且，由于在阻止违规者方面行动过晚所带来的代价极其高昂，华盛顿很可能宁可提前采取行动，也不愿承担迟缓行动的风险。如果没有关于放弃人工超级智能开发的全球共识，压制战略便可能导致美国无休止地干涉其他国家的事务。它还可能扭曲美国自身的社会契约：长期禁止创新以及侵入性的国内监控，可能改变美国社会与国家之间的关系。
同样重要的是，压制战略意味着放弃本可以获得的巨大收益。创新始终伴随着回报与风险。工业革命期间，无数人死于事故、战争及其他副产品。核武器给人类带来了生存性危险，但也在第二次世界大战和冷战期间，为美国带来了巨大的地缘政治利益。压制战略或许能够提供某种程度上的生存性保护，但代价却是放弃人工超级智能可能带来的全部收益——包括生产力的突破，以及解决饥饿和疾病等问题的新方法。
不要仓促选择，而要明智抉择
霸权、共同开发和压制这三种战略，都不是完美的选择。每一种战略都要求美国政府具备高度一致的目标和坚定无情的执行力，而这未必容易实现。然而，更根本的问题在于，这三种战略都建立在各种猜测之上——关于技术创新的发展速度、全球合作的前景，或人工超级智能是否能够真正服务于人类福祉。如果这些猜测是错误的，代价可能极其惨重。在这种情况下，美国决策者无法负责任地承诺采用其中任何一种战略。更好的办法，是采取一种对冲战略，以减少过早作出选择所带来的风险，同时使美国在未来真正需要作出选择时，占据更加有利的位置。
这首先意味着，应当推迟那些代价高昂或具有不可逆后果的政策行动。一场全面瘫痪中国人工智能基础设施的行动，将有利于华盛顿追求霸权，却会使共同开发彻底失去可能。严格而单方面限制前沿人工智能的发展，将有助于压制战略，却会削弱美国在未来任何人工超级智能竞赛中的竞争能力。因此，华盛顿当前应选择那些能够保留未来选择，而不是封死未来选择的行动。
为此，美国应当维护由前沿技术领先所带来的影响力和战略灵活性。无论华盛顿是在全力冲向人工超级智能，还是在谈判共同开发的条件，技术优势都具有重要价值。走这条道路，需要采取确保半导体供应链安全、扩展能源电网等促进人工智能发展的政策，同时运用政府能力保护前沿实验室免遭窃取或破坏。保持技术优势还意味着继续实施并逐步加强半导体出口管制，同时开展规划和情报工作，为未来可能采取更加强硬的遏制北京措施做好准备。
当华盛顿追求人工超级智能霸权时，北京不太可能袖手旁观。
华盛顿还必须进一步加大对安全研究的投入，并建立审慎的安全护栏。由于人工超级智能是否真正能够与人类繁荣发展保持一致，是一个至关重要的问题，因此，加强安全研究，是作出知情决策的前提。同样，采取措施限制事故或恶意使用——例如限制那些能够设计生物武器的先进模型过早发布——可以降低发生严重事件的风险，从而避免未来可供选择的空间被进一步压缩。
制定应急预案和设定决策触发条件，同样十分重要。美国政府应当通过推演各种可以预见的情景——例如极端失控事件，或实现递归式自我改进的重大突破——来理解这些情景所需要的应对措施及其长期影响。如果中国人工智能能力出现出人意料的飞跃，华盛顿应当考虑，一个类似“曼哈顿计划”的人工超级智能项目需要具备哪些条件；如果发生重大人工超级智能灾难，又需要建立何种严格的监管体系来加以应对。
同样至关重要的是，投资于能够支持多种战略的制度建设，以及有助于在各种战略之间作出选择的信息能力。上述每一种战略，都设想建立某种国内算力监管体系，不论是为了促进创新，还是为了监控和放缓创新。因此，美国政府或许应在人工智能标准与创新中心的领导下，研究各种此类监管体系的框架、成本与收益，以及实施这些体系所需要的新机构或扩充后的制度能力。同样，加强对中国关于人工超级智能的看法、领先模型的能力，以及安全研究现状的情报了解，也至关重要。
在人类限制危险军事技术方面，历史记录并不完美。
当然，无论采取哪一种战略，华盛顿都需要民主盟友的支持。如今毫无必要地破坏美国的同盟关系，只会削弱华盛顿未来在人工超级智能问题上的全球影响力。但与此同时，只要不以预先在其他技术或地缘政治优先事项上向中国作出让步为代价，美国也有理由谨慎地与中国就人工智能安全展开接触。如果未来某种意外的人工智能冲击改变了大国竞争的激励结构，这样的对话有朝一日可能成为美中合作的平台。至少，它还能帮助美国通过了解中国的战略盘算，为自身政策提供参考。
最后，美国必须增强自身抵御最坏结果的韧性。兰德公司的分析人士提出了一项“挺过战略”，旨在帮助美国在对手取得人工智能突破的情况下实现适应和恢复，同时在此期间减少自身脆弱性——例如，加强核指挥与控制基础设施的防护。这类准备工作将为华盛顿争取时间，使其能够在美国于竞赛中屈居第二的情况下，认真思考应如何最好地应对人工超级智能。
当然，对冲战略也存在缺点。人工超级智能技术的发展速度可能快到使对冲策略被现实迅速超越。由于缺乏一个明确目标所带来的专注和紧迫感，那些在政治上或官僚体系中本就难以推进的政策，将变得更加难以实施。如果围绕人工超级智能的关键问题始终无法得到解决，不确定性变成一种长期状态，那么对冲可能会令人感觉只是原地踏步。如果对冲最终演变为犹豫不决，它反而可能削弱美国应对各种人工超级智能情景的能力。但至少在目前，对冲战略之外的其他选择，都是建立在信息不足基础上的危险赌博。当赌注如此巨大，而不确定性又如此普遍时，一种聪明而积极的对冲战略，或许才是最有把握的选择。