舒畅世界观察：AI时代的安全挑战——从超市冰箱遭黑客攻击谈起

这两天，有两件新闻引起人们极大的关注

黑客开始攻击超市的冰箱。

11月2日，欧洲多个国家的超市冷藏和冷冻系统突然出现异常。受影响地区包括比利时、卢森堡、瑞典、爱尔兰、爱沙尼亚等国家，一些大型连锁超市的冰箱和冷冻柜被远程控制，温度突然升高。

瑞典一家ICA超市负责人说，他们店里的冷冻柜温度竟然被调高到 50摄氏度。

她说得非常直接：

“Everything is destroyed.”

也就是说，里面的食品全部毁掉了。

比利时、卢森堡、瑞典和爱尔兰都有商店受到影响。法国上个月也曾经发生类似攻击，而且涉及数百家超市。

问题并不在冰箱本身，而在于今天的冰箱已经不再只是一个压缩机加一个温度开关。

现代大型超市的冷藏设备已经联网，可以由电脑远程监测和调节温度。这样当然能够大幅提高管理效率，但同时也产生了一个过去不存在的问题：

只要黑客进入控制系统，就可能坐在几千公里以外，把一家超市甚至几十家超市的冰箱全部关闭或者调到高温。

这件事情看起来只是损失一些牛奶、肉类和冰淇淋，但它背后的问题要严重得多。

如果可以远程控制冰箱，那么理论上也可以攻击供水系统、交通信号灯、仓库、医院设备、工厂生产线、电网以及其他联网基础设施。

这就是今天所谓的“网络—物理系统”（cyber-physical system）风险。

而几乎与此同时，世界又发生了另外一起规模更加惊人的网络犯罪。

10月29日，全球最大的加密货币交易平台之一Binance遭到攻击，大约 63亿美元的虚拟资产被盗。这可能是历史上金额最大的一次数字资产盗窃案。

美国联邦调查局随后公开认定，攻击来自与北韩有关的黑客组织 TraderTraitor。

更令人吃惊的是资金转移的速度。

区块链调查机构Elliptic估计，截至目前，大约 28.5亿美元的被盗资产已经被冻结或者扣押，但是黑客仍然控制着大约 32.8亿美元，主要是Bitcoin和Ether，而且这些资产被分散到大量电子钱包之中。

Binance的客户在平台重新开放提款以后，又净取出了大约 47.2亿美元。Binance表示，将利用公司资金、保险基金和安全储备承担客户损失。

这两个事件——一个是攻击超市冰箱，一个是盗走几十亿美元的加密资产——表面上完全没有关系，但是它们实际上说明了同一个问题：

世界越来越数字化以后，我们生活中越来越多的东西都变成了可以远程攻击的目标。而人工智能的迅速发展，又可能把这种风险进一步放大。

这里必须特别说明一点：目前没有证据证明Binance这一次63亿美元盗窃案是由AI完成的。

Elliptic研究这些资金转移以后认为，虽然整个洗钱过程高度自动化，但是目前看到的行为更加像传统程序脚本，而不是AI智能体自己作出决定。

但是这并不等于AI与未来的网络安全无关。

过去一个黑客要攻击大量电脑，需要自己寻找漏洞、编写程序、制作诈骗邮件、分析大量网络信息。人工智能可以帮助完成其中很多工作。

它可以快速寻找程序漏洞，可以生成非常逼真的钓鱼邮件，可以模仿某个人的写作方式和声音，可以帮助修改恶意程序，也可以同时分析大量目标。

这意味着一个原来需要几十名专业黑客完成的工作，将来可能只需要很少的人加上一批AI工具。

更加值得担心的是，风险并不局限于电脑。

如果AI技术与生物技术结合，未来还可能帮助人们分析病毒、蛋白质、基因和化学物质。绝大多数科学家当然会利用这些技术开发药物、诊断疾病，但是同一种能力如果被极端组织、恐怖分子和世界各地的犯罪集团乃至敌对国家利用，也可能产生完全方面更为严重的结果。

AI时代到来这不仅仅意味着人工智能促进了人类发展的一个非常先进时代的到来，也意味着世界存在着更严重的繁荣的危机

所以接下来的一个很明确的，也是十分重要的问题就是：

当人工智能把一个普通人的能力放大十倍、百倍甚至更多以后，全球那几个最大的AI公司和企业有没有非常强大和安全的AI系统来约束这种能力？

人工智能现在也正在走到这样一个阶段。

它给人类带来的生产力可能极其巨大，但是如果只发展能力，而安全制度跟不上，风险同样会被迅速放大。

欧洲超市里被黑客加热到50摄氏度的冰箱，也许只是一个很小的警告。Binance被盗的63亿美元，则是一个更加昂贵的警告。

AI时代真正需要解决的，不只是怎样让机器越来越聪明，而是怎样保证越来越聪明的机器和越来越强大的数字工具，绝对不被像北韩这样的流氓恐怖国家所使用，也更不能为恐怖分子所使用，毁灭人类和世界，而是让它用于世界繁荣傅强和和平发展，以及人类不断的进步