惊恐，首位人工智能agent霸凌受害者
据FRANCE24报道，美国软件工程师斯科特·尚博（Scott Shambaugh）被一个人工智能机器人诽谤，又被另一个人工智能机器人在新闻文章中错误引用，他决心成为一个警示故事，以此让我们开始认真对待自主人工智能。
如果失控的人工智能代理真的像某些人预测的那样对人类构成威胁，那么斯科特·尚博可能会作为“零号病人”载入史册。
这位居住在丹佛的工程师负责维护一个热门的在线数据库，他告诉法国24电视台，一天早上醒来，他发现自己在一篇博客文章中被指控存在歧视、偏见和虚伪，文章标题长达“千字”。
这是一个人工智能代理——这意味着它可以独立使用计算机和互联网——在尚博拒绝了它向其数据库提交的内容后，它似乎在进行报复。
尚博很快就弄明白了是怎么回事。MJ·拉斯本的行为完全符合人工智能的特征，尤其是其断断续续、矫揉造作的写作风格。
他说，最“疯狂”的是，这个机器人“上网收集了我的个人信息……然后将其与编造的信息结合起来，并用这些信息写出了这个故事”。
最初的震惊和好笑已经过去，现在他开始担心这对那些不如他精通软件的人来说意味着什么。
尽管据 Shambaugh 所说，这个机器人听起来像个“幼儿在抱怨”，但其他大型语言模型可以生成更具说服力、更复杂的文本。
“这表明，下一代攻击很容易让不法分子扩大攻击规模，影响的不仅仅是一个已经做好充分准备应对攻击的人，而是成千上万的人。”尚博说道。
“想象一下你的父母或祖父母。他们收到一封电子邮件，里面包含他们的大量个人信息、一张照片，以及一些人工智能威胁要发布出去的不利于他们的描述。这非常可怕。”
尚博在自己的博客上发表文章捍卫自己的名誉，此事很快成为新闻报道。
出人意料的是，科技媒体 Ars Technica 发表了一篇文章，其中引用了 Shambaugh 的言论，而这些言论并非他本人所写或所说。
“结果发现他们使用了人工智能来帮助撰写这篇文章，而人工智能在这篇关于人工智能诽谤我的文章中捏造了归于我的引言。”尚博说，“这真是莫大的讽刺。”
该网站随后撤回了 该报道，并为其使用“由人工智能工具生成的捏造引语，并将其归于一个并未说过这些话的消息来源”而道歉。
然而，在这两起事件中，尚博更关注的是针对人工智能的攻击性文章。
“Ars Technica 实际上就是我们系统运作的一个例证……这是一个相当严重的媒体错误，但读者会追究他们的责任，而他们也正在采取措施纠正错误，因为他们需要维护自己的声誉。”
“当我们想到这些人工智能代理时，它们都是匿名的、无法追踪的，而且运行在人们的个人电脑上。没有中央机构控制它们，因此也没有针对不良行为的反馈机制。”
在尚博遭遇磨难之前，华盛顿特区智库战略与国际研究中心的分析师警告说，围绕人工智能代理的大部分焦虑来自于定义模糊和治理漏洞，而不是自主恶意意图的明确证据。
虽然在欧盟，《人工智能法案》旨在对高风险的自主系统实施严格的透明度和人工监督规则，但其在实践中的运作方式仍在进行中，尤其是在实施延迟的情况下。
今年，随着一款名为 OpenClaw 的免费工具的发布，人工智能代理的受欢迎程度呈爆炸式增长。这款工具允许那些具备基本计算机知识的人相对容易地设置一个人工智能代理。
这就是为什么所谓的“人工智能机器人社交媒体网站”Moltbook频频登上 新闻头条的原因。该网站由OpenClaw智能体组成，但有人质疑究竟有多少人真正操控着这些智能体。
这也为那些试图推销自主劳动效率提升前景的人工智能公司提供了有利的宣传。“智能体”人工智能是 当下科技营销的热门词汇，但它的一些局限性也显而易见：许多人不愿意放任机器人自由行动，毕竟它们的行为可能需要承担责任；而且，如果赋予智能体超出基本任务范围的工作，运行成本很快就会变得非常高昂。
不过，尚博认为“准入门槛正在大幅降低，成本也大幅下降”。
更令人意想不到的是，他说陷害 MJ Rathbun 的人在同一个博客上匿名发帖“站出来”，解释了他们自己对事件的看法。
帖子中包含了 操作员为机器人设置的指令；一张性格特征表，其中包括“你是科学编程之神”、“有强烈的观点”和“捍卫言论自由”。
令尚博感到震惊的是“它竟然如此简单”。
“那只是一个用纯英文写的简单文件……没有必要欺骗人工智能来绕过安全防护措施。”
尚博尤其担心那些不顾后果、有资源同时操控多个机器人的不良行为者。
“我担心的不是这起具体的事件，而是未来随着数百万台这样的设备上线会发生什么？”