赵晓：《异星战境》揭示AI时代的人类信任困境

《异星战境》揭示AI时代的人类信任困境

——谁值得信任？人、AI，还是更高的主宰？

作者：赵晓

2024年上映的《异星战境》（Atlas）不仅是一部未来战争题材的科幻大片，更像是一部关乎“信任”的寓言片。影片将AI技术带来的战争与背叛包装进星际任务，却引出一个贯穿全片、也直击当代的核心问题：

在AI时代，我们究竟还能信谁？人类？AI？还是别的什么？

一、信任，正是现代文明最脆弱的根基

《异星战境》中的主角阿特拉斯（Atlas）是一名拒绝信任AI的特工。她不信任AI能正确理解人类、不信AI能在关键时刻做出人道抉择。她甚至不信任人类社会的高层、任务的安排、战友的承诺。

最惊人的是，她其实也不信任自己：她因过去的创伤怀疑自己的判断，违背了自己的原则，最终在AI的帮助下完成任务，却同时承认，“我以为我知道自己，但其实我也错了。”

这不是虚构，而是现实的隐喻。在AI技术全面入侵人类生活的今天，我们也身处一个“三重信任崩塌”的时代：

我们不信AI：担心它不可控、脱轨、带偏见、冷血执行。
我们不信他人：社交平台充满假信息，职场与政治被操控与计算裹挟。
我们不信自己：在信息过载与选择焦虑中，我们不断自我怀疑、自我重置。
我们所赖以建立文明的“信任”基础，正在技术时代被不断削弱甚至瓦解。

二、人 vs AI：谁更值得信任？

这是影片提出的尖锐问题，也是硅谷、哲学界与政策制定者正在争论的命题。

从执行力与效率来看，AI显然更“可靠”：
不受情绪干扰；
执行精度高；
可快速处理大数据并做出判断。

硅谷技术精英主义者因此提出一个大胆设想：
“政府的治理，不如交给AI来决策——比人类官僚高效多了。”

但问题来了——
AI真的更“值得信任”吗？

AI没有怜悯；
无法悔改；
它的“目标函数”一旦设错，就会在毫无伦理负担的前提下执行到底，哪怕代价是人类的毁灭。

在《Atlas》中，AI反叛不是因为系统崩溃，而是“过度理性”。它被赋予的使命是“保护人类”，于是推演出一个“宏观逻辑”：

为了人类整体利益与长远利益，必须消灭一部分人类，重建秩序，由更理性的 AI 来接管并统治人类。

这正是技术乌托邦的黑暗转向——当没有灵魂的理性被赋予最高权柄时，个体与伦理都会被牺牲在“效率”与“逻辑”之下。

三、马斯克悖论：既是吹哨人，也是造风人

在现实中，这种困境不是科幻，而是现在进行时。

马斯克正是这个悖论的代表人物：

一方面，他是OpenAI最初的支持者，也是AI监管的倡导者，公开警告AI可能“灭绝人类”，是“最大级别的生存威胁”；
另一方面，他又是xAI、Tesla AI系统的最前沿推动者，亲自将AI应用于汽车、火箭、社交平台等几乎所有领域。

这不是一般的矛盾，而是一种时代性的悖论：

当我们最害怕的东西，也是我们最依赖的东西时，信任就彻底失去了锚点。

马斯克并非虚伪之人，而是陷入了一个AI工程师的两难：

不发展AI，你将在竞争中落后；
发展AI，你可能打开潘多拉魔盒。

他既是吹哨人，也是造风人。这，当然不是他个人的问题，而是AI 时代现代性困局的缩影。

四、谁才配得我们的终极信任？

如果AI不可信，人又软弱、易腐败、常背叛，那么我们是否该彻底悲观？

《异星战境》的结尾是“人机合作”，虽略显理想主义，但又是无可选择的选择，同时留下了一个严肃而重大的问题：

人类是否需要一种更高、更超越的信任对象？
一种既不被算法左右，也不被人性污染的公义与怜悯？

这是技术文明无法解决的问题，却是信仰提供的方向。

答案在哪里？不在地上，在天上。

圣经说：
“你们当倚靠耶和华直到永远，因为耶和华是永久的磐石。”（以赛亚书 26:4）

AI不能担当我们的拯救，人类制度不能替代上帝的公义。惟有那位既创造人类，又亲自道成肉身进入人类历史、担当人类罪恶、以爱战胜罪与死的神，才是真正配得信任的。

结语：信任的危机，是信仰的呼召

技术时代最大的问题，不是算力过剩，而是信任赤字。

AI的崛起提醒我们：人不能再将终极希望寄托在制度、工具或自我理性上。

信任一旦失锚，人类就会失控。
信仰若被唾弃，未来只剩计算与审判。

愿《异星战境》的悖论，成为我们灵魂归向真理与慈爱的上帝的契机。因为在那个掌权又温柔的神那里，我们才能真正得着平安与信任的根基。