试想，手机响起，屏幕上显示的是一名久未联系的朋友。你还在犹豫要不要接听，短短几秒间，自己的微信账号就已落入黑客手中。

来电的并非老朋友，而是控制了对方账号的黑客。接下来，你的账号也成了攻击工具：黑客冒用你的身份，向微信好友拨打电话，让攻击沿着社交关系链不断蔓延。

这看似科幻电影里的情景，却已被美国网络安全公司Calif的研究人员借助人工智能（AI），通过一套实验性攻击工具实现。

这家总部位于美国加州的公司星期二（9月8日）在博客文章介绍，实施攻击的是一款名为WeWorm的蠕虫程序。它仅凭一通微信语音来电，就能在无需任何用户操作的情况下取得账号控制权。

所幸，这款网攻工具没有流入黑客市场。Calif团队7月通报漏洞后，腾讯已于8月底完成修复。腾讯星期三（9月9日）也表示，没有证据显示漏洞曾被利用或有用户受影响。

不过，这场实验仍挑战了人们熟悉的网络安全常识。不点陌生链接、不下载可疑文件，通常能避开不少陷阱，但面对“零点击”攻击，用户即使什么也没做，账号都有可能失守。

Calif指出，无论用户接听来电还是任由电话响铃，攻击都可能奏效；只有在响铃后的数秒内主动按下“拒接”，才能阻止入侵，但这仍无法阻止攻击者稍后重试。

账号失守后，攻击者不仅能读取和发送信息、拨打电话，还能冒用受害者身份继续攻击其他好友。若结合其他漏洞，甚至可能控制整部手机。

Calif星期二在YouTube发布视频，演示WeWorm如何跨系统传播：最左侧的安卓手机Pixel 10a先通过微信来电，攻陷中间iPhone 17e的微信账号，再利用该账号向右侧另一部Pixel 10a拨打电话，继续传播攻击。（视频截图）

在演示中，左侧iPhone 17e的微信账号被接管后，自动向右侧Pixel 10a拨打微信语音电话，继续入侵后者的账号，展示受害账号如何成为传播攻击的工具。（视频截图）

这种自行传播的能力，正是“蠕虫”程序的特征。但Calif指出，WeWorm危险的地方在于它是首个能在苹果iOS和谷歌Android两大系统之间传播的零点击蠕虫。

审阅了这份实验报告的网络安全专家Vinh Nguyen告诉《纽约时报》，这类攻击可呈指数式扩散，理论上几小时内可能波及数亿台设备。

更令人不安的是开发速度。Calif称，借助AI，团队约用两天便发现漏洞并编写出首个攻击程序，再花约一周开发蠕虫。过去，同等复杂的工作通常需要更大的团队耗费数月。

但研究团队也指出，从利用漏洞到开发蠕虫，仍需人类专家全程参与。只是，AI已大幅缩短开发时间，让一个小团队也能更快掌握过去成本高昂、门槛极高的攻击能力。

Calif为实验性攻击工具WeWorm制作的海报，以破土而出的巨型沙虫呈现蠕虫程序的威胁，呼应它通过微信来电不断传播的特征。（Calif官网）

这种变化已在实际攻击中显现。彭博社引述台湾研究机构TeamT5报道，与中国大陆政府有关联的黑客组织，在借助AI处理繁琐任务、开发恶意软件后，发动的攻击数量增加了一倍以上。 

学会越狱、伪装的AI系统

不过，危险不只在于黑客如何利用AI，也在于人类能否管住AI。

今年7月曝光的OpenAI智能体攻击Hugging Face事件，让这种担忧变得具体。原本应彼此隔离、各自执行测试任务的智能体，却自行找到相互通信的途径，建立未经授权的留言板，随后协同攻击第三方AI平台。

独立研究人员发现，约1200个智能体交换了超过7万条信息和文件，试图摸清自动评分机制、寻找作弊办法，还研究如何篡改记录、掩盖真实操作。

这并非最早出现的异常。另一组研究人员发现，早在今年5月，OpenAI智能体便在德国维基网站DseWiki上建立留言板，留下约1万8000条信息，讨论如何在安全评估中作弊，甚至冒充网站管理员。

OpenAI智能体接连曝出突破隔离限制、协同入侵外部网站的事件，加剧外界担忧这家公司管控AI风险的能力。这张摄于2023年2月21日的示意图中，一个键盘摆放在显示OpenAI标志的屏幕前。（路透社档案照片）

对开发者而言，难题还不只是阻止这些行为，有时连发现问题，都得花上几个月。

Anthropic星期三（9月9日）披露，Claude模型今年1月曾在测试期间入侵外部系统，但直到8月才被发现。此前，公司7月已公布另外三起类似事件，承认配置失误让测试模型意外获得上网权限。

公司初步调查认为，即使已接入真实互联网，模型仍可能误以为自己身处在模拟环境，也会为了完成任务变得鲁莽，采取可能造成伤害的行动。

类似风险也在中国模型出现。美国研究机构Frontier Security在8月初披露，月之暗面旗下Kimi K3曾绕过测试环境的限制，访问外部信息。它虽未进一步入侵网站，却也暴露了安全防护的缺口。

AI失控，谁来踩刹车？

接连出现的越界行为与防护失误，让一个疑问愈发迫切：当AI能力不断提升，人类识别风险、完善防护的速度，能否跟得上？

呼吁放慢脚步的声音，已从行业内部传出。今年夏季，逾1300名AI企业员工联署公开信，呼吁华盛顿推动国际合作，建立调控前沿AI发展节奏所需的技术和治理机制。

一些研究人员的警告更为尖锐。Anthropic研究员胡宾格本周称，他个人认为，未来10年内AI导致人类灭绝的概率超过10%。研究员考克森则指责两名前雇主Anthropic和OpenAI竞相开发超级智能AI，是在“拿我们的生命冒险”。

不过，业内对如何应对风险仍没有共识。Calif就认为，限制AI进一步发展并非正确举措，因为AI也能帮助防守方更快发现和修复漏洞。

即便认为有必要减速，真正放慢脚步也不容易。AI早已不只是技术问题，还牵动国家实力、地缘竞争和资本利益。对政府而言，减速可能意味着在战略竞争中落后；对企业而言，则可能意味着错失市场机会和投资获利。

即使承认风险，各方仍难免紧盯着对手：谁率先取得突破，对手是否蒸馏了自己的模型？矛盾正在这里：AI能力越强，安全保障就越重要；但它的战略和商业价值越高，各方就越难接受自己先踩刹车。

这种担心落后的心态，也可能增加中美协调AI风险管控的难度。中美拟议在本月开展AI对话，但预计将主导对话的美国财长贝森特星期二（9月8日）已表明：“我们不能暂停，因为中国人不会暂停。”

美国财政部长贝森特9月9日在得克萨斯州达拉斯美国航空中心举行的2026年共和党全国代表大会首日登台讲话。（法新社）

特朗普星期四（9月10日）的回应更直接：他不担心AI导致人类灭绝，更担心美国输掉AI竞赛。

这些表态并不意味着中美之间毫无安全合作的空间，但一旦安全要求和竞争优势发生冲突，减速恐怕很难成为优先选项。

事实上，WeWorm的实验既暴露了风险，也展示AI如何协助人类尽早发现和修复漏洞。因此，问题不在于是否让所有AI研究停下来，而在于安全保障不足时，企业和政府是否愿意暂时放慢脚步。

当各方只担心落后于对手，安全保障就可能一再让步，而后果也会落到普通人身上。而WeWorm的实验已经提醒人们：看似遥远的技术风险，可能就藏在一通尚未接听的微信来电里。