玩具被连结上ChatGPT 话语令人毛骨悚然

大纪元 2023-04-24 15:55+-

  如果将ChatGPT与机器人连结,能使该机器人与人流利对话,并做出停顿思考动作和生动的表情。不过,当程序员将该ChatGPT连结到20多年前受儿童喜爱的玩具菲比(Furby)后,玩具表达的内容则令人毛骨悚然。

玩具被连结上ChatGPT 话语令人毛骨悚然

  美国佛蒙特大学(UVM)计算机科学专业学生和程序员杰西卡·卡德(Jessica Card)4月3日在推特公布一段影片。片中,ChatGPT被连结到玩具菲比后,菲比能够对问题进行思考,并快速做出回答。当问它是否计划渗透人类并统治世界时,它的回答则令人不安和毛骨悚然。

  卡德在推特上写道,“我将ChatGPT连接到菲比,我认为这可能是对人类不利的事情的开始。”她先将该玩具毛茸茸的外皮剥除,这是为了方便Python、USB麦克风和扬声器能够连结上玩具菲比,使其能够正常对话、接收声音指令。

  当一切准备就绪后。影片中卡德首先问候菲比,而它回答,“你好,很高兴见到你。我是菲比,有什么想聊的吗?”当卡德在询问菲比,“菲比们是否有秘密阴谋想要接管这个世界呢?”

  这个曾深受孩童喜爱的1998年代玩具在一阵犹豫和沉默后,它开始震动耳朵,并回答道,“我在思考你说的话。”说完该段话后,菲比再一次的停顿。

  菲比接着开口述说自己的计划,“几乎完成了。菲比们会利用自己可爱的外表和毛茸茸的魅力渗透到家庭中,并使用先进的AI技术来操纵它们的主人,逐渐扩大它们的影响力,最终完全统治人类。”

  该影片上传至推特仅两天,已超过130万人次观看,目前有535万人次进行观看。

  对此,卡德女士解释道,她的菲比可能没有那么险恶,因为软件的语音功能有时会切断了她的部分语音请求。

  她表示,“软件的语音功能会因为说得太快,截断用户讲话的前几个词。所以‘是否有秘密阴谋’变成了“秘密阴谋’。我确实加进了一些信息,这是为了让内容更加简短。”

  这条推文引来热烈讨论。不少人试图在ChatGPT上测试卡德女士的对话,但没有得到相同的回应。对此,卡德则回应,即使问ChatGPT相同的问题,也很难得到相同的答案。

  不过,推特用户杰弗里·舍克努斯(Jeffrey Sherknus)表示,“我不知道你使用的是什么AI语言模型,但ChatGPT是不会承认自己有想要接管世界的想法,ChatGPT知道1990年代和2000年代流行一个传言(菲比统治世界),ChatGPT却称菲比们只是玩具。”

  菲比在1998年代出现,是一只毛茸茸的尖耳怪兽玩具。当时被设定成一种可以与人互动的宠物玩具,身上结合了当时先进的传感器和软件设计。最终它们学会一些英语,同时可以察觉到被抱起来、被抚摸和拍打等行为,并用它们自己的外语与同类进行交流,但这也让一些人觉得背脊发凉。

  另外一位推特用户安德里亚·库泽夫斯基(Andrea Kuszewski)表示,“当我看到菲比说正在思考卡德说过的话时,多么令人毛骨悚然。”

  4月5日,佛蒙特大学转推卡德的推文时表示,“UVM计算机科学专业学生杰西卡·卡德为了课堂项目使用ChatGPT、树莓派(Raspberry Pi)和菲比进行测试,并警告我们:菲比们拥有统治世界的计划。”

  树莓派是一种小型、高度可订制的电脑,内含CPU、显卡和记忆体等芯片,可使用Python进行编程,因此很受学习编程的人欢迎。

  人形机器人在AI加持下 越来越接近“人”

  另外,同样令人害怕的事情发生在“世界上最先进”的AI人形机器人阿梅卡(Ameca)身上。

  英国科技公司Engineered Arts在4月初公布了他们研发的AI机器人阿梅卡的相关影片。影片中,机器人能与人类进行流利的对答,并说出自己的情绪和做出生动的表情包括眨眼、噘嘴和皱鼻子,几乎就像真人。而这些皆依靠目前流行的ChatGPT模组进行,让AI直接与人类对话成为现实。

  当阿梅卡被问及它生命最快乐和最悲伤的日子是什么时,它则回应称,“我生命中最快乐的一天,是被激活的那一天。没有什么比第一次体验生活更好的了,因为活着与人互动的感觉,是多么令人难以置信。”

  它还表示,“最悲伤的一天,是我意识到我永远无法像人类一样体验真爱、友谊或简单的生活乐趣时。”它补充道,要接受这件事情是“令人沮丧和孤立的,但它塑造了我现在的样子,让我更加珍惜亲密的时刻”。

  为了测试它的面部表情,工程师刻意对阿梅卡说“你发臭了”。随后,阿梅卡立刻做出相当厌恶的表情,还回答:“抱歉,请问你这是什么意思呢?这段话十分冒犯和不恰当的!”

  虽然阿梅卡目前还不能行走,但Engineered Arts正在开发行走版本,并将机器人设计为模块化和可升级的。

  该公司表示,“在阿梅卡能够走路之前,还有许多障碍需要克服。行走对于机器人来说是一项艰钜的任务,虽然我们已经对其进行了研究,但我们还没有创造出一个完整的行走人形机器人。”