“深度伪造”正席卷全球选举，监管措施却仍滞后
近日，战略与国际问题研究中心的两位研究员，研究新兴技术及其对国家安全、经济安全和战略竞争的影响的安德烈·戈纳韦拉（A’ndre Gonawela）和该中心战略技术项目的项目协调员兼研究助理库胡·巴德吉（Kuhu Badgi）在其同名杂志发表评论－－‘“深度伪造”正席卷全球选举，监管措施却仍滞后’ ，供君一阅：
巴西现任总统路易斯·伊纳西奥·卢拉·达席尔瓦（Luiz Inácio Lula da Silva）与弗拉维奥·博索纳罗（Flávio Bolsonaro）之间的这一轮选举较量，于2026年10月25日在投票箱前落下帷幕，卢拉赢得了史无前例的第四个任期。然而，这场竞选最关键的教训之一，并非关乎左派与右派之争，而是关乎一个国家能否跟上技术发展的步伐。在这一案例中，选举凸显了政府判断某项技术所生成内容是否为“虚假”的能力。
巴西前总统雅伊尔·博索纳罗（Jair Bolsonaro）正被软禁。他被禁止发表公开声明，甚至不能在社交媒体上发声。那么，他是如何在7月举行的本党代表大会上，当着庞大人群的面，支持儿子竞选总统的呢？通过一个人工智能虚拟化身。这段长达46秒的视频在披露其由人工智能生成后，老博索纳罗的虚拟化身猛烈抨击了对他实施软禁的性质，并将儿子弗拉维奥“加冕”为自己选定的接班人。当卢拉领导的劳工党牵头的一个联盟向法院质疑这段视频时，弗拉维奥阵营声称，由于视频披露了人工智能的使用，因此不存在任何不当行为。此外，现实中的雅伊尔·博索纳罗通过其代表否认曾授权制作这段视频。一个多月后，巴西选举法院裁定，该国的深度伪造禁令不适用于这段视频，因为它是在一场非公开的党内活动上播放的，并未用于竞选广告。在同一裁决中，法院还缩小了该禁令涵盖的内容范围。
那么，什么样的人工智能生成内容才算深度伪造？民主国家又该如何对其进行监管？面对这些问题的并非只有巴西。人工智能生成内容正成为现代政治竞选的常见组成部分，其用途从讽刺到对候选人的误导性呈现，无所不包。随着其使用范围不断扩大，各地监管者都面临着三场政治上充满争议的辩论：（1）什么算深度伪造；（2）正当的自由表达在何处结束，蓄意欺骗又从何处开始；（3）任何法律规则能否以人工智能快速演进的速度得到执行。
人工智能生成内容在选举中的普遍使用
今年另外几场重大选举凸显了人工智能内容的使用传播得有多快：
在5月举行总统选举的哥伦比亚，几乎所有候选人都将人工智能生成视频用于竞选活动。例如，历史公约联盟候选人伊万·塞佩达（Iván Cepeda）发布了一段以动画冰箱为主角的视频，支持政府提高最低工资。
10月下旬举行议会大选的以色列，人工智能生成内容出现爆炸式增长，据估计，每8条与选举有关的社交媒体帖子中，就有1条经过人工智能修改。其中一些帖子直接来自以色列最知名的政治人物，包括总理本雅明·内塔尼亚胡（Benjamin Netanyahu）、财政部长贝扎莱尔·斯莫特里赫（Bezalel Smotrich）、国家安全部长伊塔马尔·本－格维尔（Itamar Ben-Gvir），以及正直党领导人加迪·艾森科特（Gadi Eisenkot）。
在将于11月29日举行大选的西班牙，据报道，人民党传播了一段人工智能生成视频，冒充首相佩德罗·桑切斯（Pedro Sánchez）的妻子及其他社会党人士，让他们承认存在不当行为。
在美国11月3日中期选举前，据估计，已有1.37亿美元用于投放220多段使用人工智能生成内容的视频。约70%的视频没有披露人工智能的使用。
在上述每一个国家，制作和传播这些内容的，不仅有边缘或匿名账号，还有政治领导人和政党，而后者在许多情况下拥有资金和竞选组织体系的支持。
监管面临的挑战
近期人工智能在选举中的使用，揭示了监管面临的三项关键挑战：界定什么构成政治深度伪造，区分政治表达与欺骗，以及以人工智能生成内容的传播速度和规模执行限制措施。
什么构成深度伪造？
在巴西2024年市政选举之前，巴西最高选举法院就面临深度伪造的挑战。法院通过决议，全面禁止在政治竞选中使用深度伪造，并要求对人工智能内容加以标注。当时，法院将深度伪造定义为音频和／或视频形式的“合成内容”，即“通过数字方式生成或操纵，即使获得授权，以创造、替换或改变在世、已故或虚构人物的形象或声音”的内容。即便获得当事人同意，这项禁令仍然适用。
这项禁令在设计上涵盖范围广泛。然而，法院今年缩小了其适用范围。在博索纳罗案中，最高选举法院以5票对2票作出决定，将选举竞选中的深度伪造禁令限制于具有“一定程度的真实感或逼真性”的内容，而且只有在其被认定为“选举宣传”时才适用。法院院长卡西奥·努内斯·马尔克斯（Kassio Nunes Marques）认为，后一项条件就足以解决此案。由于这段视频面向非公开代表大会上的党员，而且并非“明确请求选票”，因此深度伪造禁令不适用。上述两个条件都遭到了异议。最高选举法院法官里卡多·维拉斯·博阿斯·奎瓦（Ricardo Villas Bôas Cueva）认为，这段视频有利于博索纳罗参选（而且以是否属于“宣传”作为判断标准是错误的）；另一位最高选举法院法官弗洛里亚诺·德阿泽维多·马尔克斯（Floriano de Azevedo Marques）则表示，这段视频确实属于深度伪造，主张深度伪造的定义无需将“真实感”列为一项特征，并赞同对2024年规则作更严格的解读。最高选举法院院长努内斯·马尔克斯表示，鉴于这种媒介演进迅速，法院需要重新界定什么是深度伪造。
此后，巴西选举法院已下令删除双方阵营制作的人工智能内容，包括博索纳罗的三段视频、劳工党国会议员林德贝格·法里亚斯（Lindbergh Farias）发布的一段人工智能视频，以及总检察署负责人分享的一段支持卢拉的视频。
人工智能内容监管的支持者可能曾赞赏巴西2024年的规则，认为其雄心勃勃、范围广泛且严格，尤其是因为被禁止的深度伪造，其定义相当简单：任何可能帮助或损害政治候选人的“合成”人物形象。然而，在2026年总统竞选的压力之下，这项规则的适用范围收窄了，而这场竞选是它迄今面临的最重大考验。巴西如今拥有的是一项更精确、但执行起来困难得多的规则。法院现在需要逐案判断，而且往往是在内容传播之后，判断其是否属于“选举宣传”，然后才能权衡对“真实感”的不同解释。无论这项规则在保护表达方面有何优点，巴西的规则在经历压力测试后，其清晰程度都大打折扣。
巴西的经历为其他民主国家提供了一个警示性的教训。深度伪造禁令原则上很容易制定，但将禁令适用于利害攸关的选举或全国主要候选人时，可能会引发政治和法律上的审慎，而这种审慎可能削弱其最终目标的实现。
政治表达与欺骗
比是否使用了人工智能更为重要的问题，是人工智能是否被用于欺骗。
巴西的深度伪造规则仅涵盖竞选广告，因此未将普通公民或匿名账号发布的大量人工智能生成内容纳入其中。卢拉和博索纳罗双方的支持者都使用了描绘候选人及其他政治人物的人工智能内容。有些内容呈现候选人跳舞的场景，另一些则模拟逼真的新闻报道——这两类内容的影响截然不同。尽管巴西其他法律确实规定，明知是虚假信息而加以传播属于违法行为，但潜在漏洞以及证明主观故意的举证负担，使这些法律更难适用于深度伪造的大规模传播。
相比之下，以色列选择了更为宽松的做法。2026年7月，以色列开始要求对竞选活动中由人工智能生成或操纵的内容加以标注。具体而言，这些规则涵盖呈现“人物、地点、事件、文件或物体，而这些内容可能看似经过真实记录，实际却并非如此”的内容。
尽管此类要求提高了透明度，但也引出了一个问题：这些标注究竟旨在识别什么。批评宽泛标注要求的人认为，这种做法没有解决实际问题，因为标注要求并非仅针对欺骗性内容，而是普遍适用于合成内容。例如，以色列规则的判断依据是内容是否可能被视为“真实”，而非其是否意在欺骗——这意味着，经过标注的欺骗性内容也符合规定。
与此同时，即便要求加以标注，披露人工智能的使用能否减轻蓄意欺骗性内容对选民的影响，仍然受到质疑。标注往往难以察觉或容易被忽略，限制了其抵消误导性信息的能力。7月，担任以色列中央选举委员会主席的法官诺阿姆·索尔贝格（Noam Sohlberg）命令财政部长斯莫特里赫删除一段反对派领导人艾森科特与巴勒斯坦民族权力机构主席马哈茂德·阿巴斯（Mahmoud Abbas）握手的人工智能视频。尽管斯莫特里赫披露了人工智能的使用，但由于脸书网站的显示方式，其脸书受众不太可能看到免责声明。然而，到了10月，同一位法官拒绝下令删除斯莫特里赫发布的另一段人工智能视频，该视频描绘司法官员被警察拖走的场景。他表示，这段视频应“由选民评判，而非由选举法评判”。在这一案件中，索尔贝格驳斥了正直党提出的视频威胁执法部门、构成选举干预的法律主张。
同样的问题也出现在西班牙。西班牙政府于2025年批准了一项法案，要求对未标注人工智能生成内容的企业处以最高3800万美元的罚款。人民党发布的一段贬损社会党人士的人工智能视频附有人工智能标注，但标注很小，也很不显眼。即便如此，这个不显眼的标注仍可能帮助抵御视频中被描绘的人士可能提出的法律挑战。可以说，近期西班牙和以色列的这些案例存在误导选民的风险，因此可能被视为“政治欺骗”。这引出了一个更广泛的问题：监管者和法官手中拥有多大的自由裁量权，来判定什么属于“政治表达”，什么属于“政治欺骗”。当这些判定取决于主观解释时，就存在影响哪些政治信息获准传播、哪些不得传播的风险，可能导致一些欺骗性内容继续留在网上，而另一些情况下的表达却受到限制。
这些做法无一能够清晰区分自由表达与蓄意欺骗。巴西的禁令（包括其目前的细化规定）针对竞选活动，无法涵盖相当一部分人工智能生成内容。在以色列，同一位法官要求删除一段煽动性视频，却允许另一段保留。而在西班牙，一个淡到难以察觉的标注，仍可能为发布视频的政党提供法律保护。人工智能内容是否违反规则，最终取决于法官逐案作出的解读。有时，法官会将判断留给选民自己，这体现了一种基于原则的审慎态度，即不愿让国家决定哪些政治信息可以传播。然而，随着许多人越来越难以区分合成内容与真实内容，这种尊重选民判断的做法也有其自身风险。
以人工智能发展的速度执行监管
即便政府已经对政治深度伪造设定了限制，执法本身仍然构成挑战。生成式人工智能工具降低了制作和传播合成内容的资金与技术门槛，使深度伪造的传播速度远远超过监管者的应对速度。据估计，2023年至2025年间，网上的深度伪造内容从50万份增加到了800万份。
主管部门必须先判定人工智能生成内容是否违反规则，才能下令删除，而这一过程往往发生在内容已经传播之后。在选举前的最后几天和几周，这种延误可能尤其成问题，因为在执法机制启动之前，人工智能生成内容就可能触及大量受众。西班牙人民党制作的视频体现了这一挑战：在法律投诉提出之前，该视频不到一天就在各社交媒体平台获得了超过200万次观看。而在以色列，索尔贝格对斯莫特里赫两段人工智能视频作出的裁决，均是在视频首次发布数周之后。
这些问题对美国意味着什么？
随着更多选举临近，人工智能工具日益精密且更易获取，深度伪造带来的挑战只会更加紧迫。巴西、以色列、西班牙以及其他尝试监管合成内容的国家所提供的案例表明，有效的法律机制并非禁止内容或要求披露那么简单。相反，监管者必须考虑一种能够有效区分正当表达与欺骗性内容的做法，同时及时处理这些内容，赶在其向选民传播虚假信息之前采取行动。
随着11月3日中期选举临近，距离总统选举还有两年，美国尚无专门针对深度伪造的联邦法律。2024年，联邦选举委员会决定不另行制定监管选举中人工智能生成内容的规则，认定现有反欺诈条款已经适用。2026年6月提出的《选举欺诈性人工智能监管法案》将禁止在选举媒体中传播虚假的人工智能生成内容，但该法案尚未通过成为法律。
在缺乏全面联邦监管的情况下，目前的深度伪造监管格局由各州法律拼凑而成，其限制措施和法律后果各不相同。加利福尼亚州、马里兰州、明尼苏达州和得克萨斯州均在选举前长短不一的时段内禁止政治深度伪造，另有27个州则要求披露。然而，人工智能生成媒体本质上不受边界限制，这表明拼凑式做法将难以奏效，因为无论这些内容源自何处，都能跨越州界传播。
巴西、以色列和西班牙的经验表明，监管人工智能生成政治内容的挑战，不仅在于禁止深度伪造或要求披露，还在于判断哪些内容存在从政治表达越界为欺骗的风险。归根结底，这些不同做法的有效性，不仅取决于它们明确禁止什么，还取决于它们能否在选举日之前得到有效执行。