保守派会约束机器吗？
卢克·尼卡斯特罗（Luke Nicastro）是《美国保守派》杂志高级编辑。在加入该杂志之前，他曾在政府和产业界从事国防与外交政策工作近十年，最近担任美国参议员乔什·霍利的国家安全顾问。他还曾供职于国会研究服务处、海军部、国防大学以及数家国防承包商。今天9月16日，尼卡斯特罗先生在该杂志发表评论指出－－“对人工智能作出政治回应的必要性正变得日益紧迫。” 请读他的评论：
人类文明的终结已经变得稍微更可以想象了。
上周，一名27岁的年轻人雅各布·考克森（Jacob Coxon）辞去了他在安特罗匹克收入丰厚的工作。安特罗匹克可以说是世界上最重要的人工智能实验室，因为他相信自己的雇主正在制造一种可能“在本十年结束前杀死我们所有人”的东西。值得注意的是，他那些仍然留在公司的前同事证实了他的担忧：负责领导安特罗匹克对齐工作（也就是确保人工智能受到人类价值观和目标约束）的埃文·胡宾格（Evan Hubinger）表示，考克森是“正确的”，并认为导致人类物种灭绝的灾难发生的可能性超过10%。
更加值得注意的是，在他离职几天后，安特罗匹克首席执行官达里奥·阿莫代伊（Dario Amodei）呼吁整个行业放慢人工智能研究的速度，其中既包括科技公司之间的自愿合作，也包括政府监管。“我们必须放慢提高人工智能模型能力的速度，”他在一篇标题古怪的文章《我们必须控制前沿发展速度》中写道（这是一个毫无意义的说法，除非他的意思是让我们所有人都沿着边界来回行走）。阿莫代伊警告说，否则，人类将面临大规模经济动荡、毁灭性的网络攻击和生物攻击，而最为不祥的是，我们可能彻底失去对人工智能系统的控制。
这一主张得到了其他科技巨头的支持，例如萨姆·奥尔特曼（Sam Altman），甚至还有通常对监管持怀疑态度的埃隆·马斯克（Elon Musk），此外还有将近1,400名前沿人工智能公司的其他员工。这促使人们呼吁国会放弃再次休会的计划——天哪！——而且还把史蒂夫·班农（Steve Bannon）和伯尼·桑德斯（Bernie Sanders）这样看似不可能站在一起的人聚到了一起，他们昨天在华盛顿举行的一场“支持人类大会”上担任主要演讲者。
那么，就是现在吗？这是不是美国以两党合作的方式团结起来，在问题真正变得非常严重之前冷静应对问题的时刻？
恐怕没那么快。白宫也已经介入这个问题。
“人工智能唯一需要的控制或‘防护机制’，就是一位强大而聪明（高智商）的总统，”川普周一在真实社交上写道，而且正如他谦虚地提醒我们的那样，“美国恰恰拥有这样一位总统，而且绰绰有余！”他随后连续发帖声称，人工智能风险是一场由“为邪恶恶劣事业效力的革命分子”推动的“骗局”。
川普传递的信息得到了五角大楼的放大——五角大楼通过一张看起来像是21世纪头十年情绪摇滚专辑封面的图片，宣称自己是一个“人工智能优先的战争部”——此外还有那批一贯“比川普更川普”的网络影响者、国会共和党人以及帕兰提尔公司的高管。
他们已经确定了一套主要理由，那就是：击败中国。他们还在试用一个内部假想敌，也就是有效利他主义（本质上是旧式功利主义的一个带有旧金山湾区风格的更新版本），这样，他们就可以把所有对人工智能不受约束发展的怀疑，都归因于有效利他主义邪恶而有组织的影响。不过，正如人们所说，每一项指控都是一种自白，而白宫迅速围绕一个恰好符合自身需要的故事形成一致立场，与它所回应的那种现象相比，要远没有那么自然，也远没有那么草根。
这一切并不是说，阿莫代伊等人的论点应当毫无质疑地接受。（事实上，有充分理由对一家正在高速冲向首次公开募股的营利性公司的说法进行审视，尤其是当这些说法涉及远远超出普通美国人理解能力的技术问题时。）但这确实意味着，这些论点不能不假思索地被驳回，而在公元2026年这样做，纯粹就是鲁莽。
而且，保守派尤其应当敏锐意识到这种远非寻常的技术可能产生的影响。毕竟，我们希望“保守”一些东西：我们的价值观、我们的制度、我们目前的生活方式。我们喜欢我们的国家和社会的大体轮廓；虽然我们绝非反对改善，但无论迅速而激进的变化来自哪里，我们往往都会对其保持警惕。
然而，很少有什么发展比人工智能的持续进步更可能带来更加迅速、更加激进的变化。从经济到战争，再到知识本身的性质，实际上几乎不存在任何一个人类活动领域尚未受到人工智能的塑造。随着每一天过去，这项技术的影响力都在增长，而且——至少如果你相信那些真正正在制造它的人——随着每一天过去，我们理解并引导这种影响力的能力都在下降。
面对如此令人目眩的前景，需要保持一点谦逊。
遗憾的是，政治在这里再次介入。要形成这样一种态度只会变得越来越困难；因为正如上述发展所表明的那样，人工智能正在形成一种政治极化，而此前由于它的新颖性和独特性，这种极化一直没有出现。党派斗争的界线正在形成。等到2028年到来时，两党在人工智能问题上的立场可能都已经固化，最可能出现的结果看起来将是一个主张最大限度发展人工智能的共和党和一个对人工智能持怀疑态度的民主党。而一旦政治极化形成，我们就可以向理性讨论告别了。
幸运的是，我们还没有走到那一步。右翼内部仍在继续进行一场强有力的运动内部辩论（有时甚至是字面意义上的辩论，例如上周人工智能批评者乔·艾伦（Joe Allen）与人工智能支持者乔·朗斯代尔（Joe Lonsdale）之间的正面交锋）。与川普白宫以及国会大多数共和党人的乐观态度相对的，是班农和塔克·卡尔森（Tucker Carlson）、乔什·霍利（Josh Hawley）以及罗恩·德桑蒂斯（Ron DeSantis）的怀疑态度。因此，对于保守派而言，未来一年半将具有决定性意义。