Deep Dive
Shownotes Transcript
人工智能 (AI) 的进步有可能加剧世界各地选举中错误和虚假信息的传播。在这个具有历史意义的选举年，Valerie Wirtschafter 剖析了生成式人工智能已经在虚假信息活动中扮演的角色，以及政策制定者、科技公司和选民如何建立保障措施来保护选举信息的完整性。节目说明和记录：https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation 在 Apple 或 Google podcast 或 Spotify 上关注 The Current 和所有 Brookings podcast。发送反馈邮件至 [email protected]。</context> <raw_text>0 您正在收听 Brookings Podcast 网络的一部分 The Current 节目。我是您的主持人 Adriana Pita。人工智能工具的日益普及引发了选民和政策制定者对人工智能将如何影响就业、版权问题、隐私、公平与安全等诸多担忧。其中最令人担忧的是生成式人工智能工具可能会加剧选举中的谣言和虚假信息，因为今年有大约 20 亿选民将在 60 多个国家/地区投票。
在 11 月美国大选之前，布鲁金斯学会旨在提请公众关注选民和政策制定者面临的重要政策问题。您可以找到解释器、政策简报、其他播客等等。此外，请访问 brookings.edu/election24 注册双周电子邮件。
在今天的节目中，我们将与 Valerie Wertschafter 讨论人工智能驱动的选举错误和虚假信息带来的挑战。Valerie，感谢您今天与我们交谈。非常感谢您邀请我。因此，对滥用生成式人工智能工具的担忧已经持续了一段时间，但选举中的错误和虚假信息当然也早已存在并蓬勃发展。
有时，当我们谈论人工智能时，我们会谈论一些恐惧是否被夸大了，或者至少是为时尚早的。所以也许让我们从现状开始吧。当我们谈论人工智能在选举中的危险时，我们究竟在谈论什么，它与之前的有何不同？
我认为这两种情况兼而有之。我们已经看到对人工智能生成内容可能掩盖真实信息这一潜在风险的非常合理的担忧。但人们也确实认识到，夸大威胁的风险也同样存在。因此，在美国的背景下，我已经对此进行了一些研究，但在其他一些地方也是如此，我认为我们已经看到这些工具在信息领域被广泛采用的证据非常有限。
实际上，它们并非绝对必要，因为信息领域本身就是一个充满挑战的领域。即使没有人工智能的生成，人们也会使用脱离语境的剪辑、视频等。
所以说，这是一种额外的优势，我们可以这么说。到目前为止，我们真正看到的是人工智能生成内容实际上可能会加剧现有趋势，例如，通过提高说服力，消除一些语法错误（例如，针对鱼叉式网络钓鱼的努力），或者允许进行更大的个性化定制。
我认为它肯定可以通过降低某些事情所需的的技术门槛来吸引更多参与者进入这个领域。你知道，语言障碍之类的问题是过去常见的挑战，而现在我认为这些问题更容易解决了。
我们已经看到了一些备受瞩目的案例。当然，每个人都会提到在新罕布什尔州初选中试图阻止人们参加初选、为大选节省选票的乔·拜登机器人电话。这些都被迅速揭穿了。然而，情况可能并非总是如此。这是一场备受瞩目的竞选，这是一场受到高度关注、许多人关注当地选举情况的竞选，在媒体可能不太突出的地方，或者在媒体不自由、没有独立媒体的国家，情况就是这样。我认为这是一个巨大的挑战，因为他们最终将能够探索这个领域，并对其中一些内容进行反击，这些内容包括传播的生成内容、真实内容
使用这些工具完全捏造的内容。因此，你知道，我认为这确实取决于具体情况。这取决于竞选的级别，特别是关注这个领域的人数。然后我认为最重要的是人工智能真正发挥作用的地方。对我来说，我认为这是最重要的领域，仅仅是因为它进入了公众的视野。因此，这就是平衡真正重要的原因。
因为从某种意义上说，知道某些东西可能是人工智能生成的，可能会让人们在感到不舒服时、当它可能对他们偏好的选择有害时、当它使他们喜欢的东西产生怀疑时，允许他们否认真相。因此，现在你可以有这种掩护，如果事情不方便，你可以把任何事情都当成人工智能生成的。因此，我认为，即使没有
实际存在，但仅仅存在于公众意识中，它也会破坏信息领域的信誉，我认为这是一个巨大的挑战。是的。因此，今年已经举行了几次大型选举，包括台湾、印度、墨西哥，欧盟刚刚举行了大型议会选举。您刚才提到了新罕布什尔州初选的例子。我们在这些选举或其他选举中是否看到了人工智能驱动的虚假信息的任何其他例子？
是的，我的意思是，我们肯定在台湾看到了零星的事件。我们看到了一些旨在试图诽谤最终获胜的候选人、加剧对美国与台湾关系的担忧的深度伪造活动。在印度，我们看到围绕假设的未来和政治背景的深度伪造活动。
利用名人进行背书，诸如此类的事情，以及让死者为心爱的人物进行背书。我要重点介绍一个领域，因为我认为这是一个有趣的方面，或者说是一个反面例子，即我们最近在白俄罗斯的选举中确实看到了人工智能，在那里，一位人工智能候选人实际上竞选公职。
尽管禁止反对派候选人。所以我认为这非常有趣，因为它是一个高风险的环境。这位候选人能够以我认为真正的反对派候选人未必能够做到的一种方式来挑战专制现状。
这位候选人不是真实的。它无法被识别。它无法被监禁，但它可以传播信息，对吧？所以我认为，在考虑人工智能在选举中的部署方式时，这是一种复杂的情况，既包括恶意和有害的，以加剧现有的虚假信息趋势、加剧公众舆论的分歧等，也包括在其他情况下可能根本不会有任何政治辩论的情况。
这真的很有趣。是的。那么让我们开始讨论一些可能的解决方案吧。可以为虚假信息设置哪些可能的防御措施？也许您可以为我们区分一些针对人工智能虚假信息的可能的防御措施，以及一些现有的更广泛的虚假信息保护措施。是的。我认为这取决于媒介，对吧？有生成的文本、生成的音频、视频、图像、视频。
所以我认为每种类型的媒介都存在挑战，并且根据媒介的不同，一些检测可能性也不同。但是，如果我们以图像为例，例如人工智能生成的图像，您可以将其通过图像生成检测工具运行。它们的质量差异很大，一些更好的工具实际上并不公开提供，我认为这非常不幸。但是
但是它们可以让你对像素中的信号进行某种程度的查看，对图像是否生成的可能性进行某种程度的预测。一些领先的人工智能实验室还在做一些关于水印的工作，如果我们考虑一下那种在图像上贴上大……
文字或其他东西的大水印，这些可能就像像素中微小的信号。但这允许人们，特别是那些技术水平更高的人，深入挖掘并找到这些信号，以确定图像是否已生成。还有内容来源标准。因此，一些生产人工智能图像生成器的领先科技公司已经签署了这些内容来源标准，基本上是在构建相当于营养标签的东西，告诉你这张图像是在这里创建的，它是在这里编辑的，关于图像生命周期的元数据。当然，所有这些东西在某些方面都是有缺陷的，对吧？你知道，找到水印中的微小信号需要一些努力
也许不够快。我可以截屏并删除一些内容来源信息。因此，尤其是在技术方面，存在各种不同的方法。它们各有优缺点。所以我认为所有这些都已在发挥作用。我们也在考虑其他媒介的类似问题。但我认为，图像方面进展最快。然后，你知道，考虑一下
在更广泛的虚假信息活动中使用的真实图像。我们在以色列-加沙冲突的早期实际上看到了很多这样的情况，对吧？循环使用的图像。这些是来自特定时间和地点的真实图像，但它们可能是 10 年前的，或者来自不同的冲突。因此，使用反向谷歌图片搜索来了解图像在脱离语境时来源的方法，我认为也是可用的其他工具。
至于谁有责任这样做，很多事情听起来像是最终用户需要去做的事情，嗯，让我检查一下这张图片。政府或科技公司是否承担责任？您提到了这些人工智能图像公司中的一些公司，它们有责任尝试开发一些水印工具。媒体在报道和尝试核实信息方面是否承担责任？
这种责任是如何分配的？是的，我的意思是，我认为有很多责任需要承担。我认为，有些个人或群体在这个领域比其他群体更活跃。目前，现有的监管框架对于管理与人工智能相关的这种特定于选举的挑战装备不足。
但可能更适合人工智能相关的其他挑战。我们已经看到了一些执法行动。所以我认为，实际上非常有希望的是，联邦通信委员会 (FCC) 在乔·拜登机器人电话事件发生后立即采取了行动。他们说，不，这是非法的。这是欺骗行为。我们将对您处以罚款，并将对您提起诉讼。我认为他们最近提议对负责此电话的人处以约
600 万美元的罚款。所以我认为，这些类型的执法至关重要。
但最近几周有一些报道围绕着联邦通信委员会 (FCC) 和联邦选举委员会 (FEC) 之间的竞争，即谁负责，这是谁的领域，我认为这有点不幸。然后在立法方面，有很多很多讨论，很多人都认识到这是一个问题。我们还没有看到很多立法。
参议院规则委员会确实推进了一系列关于人工智能和选举问题的法案。目前尚不清楚这些法案是否、何时以及如何推进。我认为其中一项法案确实着眼于考虑人工智能实际上是如何在选举中使用的。
这可能会向前推进，并且确实得到了两党支持，更广泛的两党支持。其他法案可能不太可能通过。所以我认为，在没有立法和立法行动的情况下，科技公司一直处于这一领域的前沿。
当然，这对于自我治理、考虑竞争、利润激励等来说是一个挑战。谁将成为先行者，谁将拥有最新的炫酷玩具？所以我确实认为在这个领域存在很多挑战。但是，你知道，我们看到了一些合作，特别是关于这些内容来源标准的合作。
所以我认为这非常重要，尽可能多地进行合作。我们看到一些公司在他们将生成的内容方面设置了保障措施。举个例子，这是真实的，我们……
我尝试过，就是你可以要求一个图像生成器生成贾斯汀·特鲁多的图像，它不会这样做。它会说：“我无法生成那个真实人物的图像。”但是，如果你要求它生成一个看起来非常像加拿大领导人的图像，它基本上会生成贾斯汀·特鲁多的图像，或者一个看起来非常像贾斯汀·特鲁多的人的图像。
所以我认为这些，你知道，这些现有的保障措施存在很多挑战和很多问题，但我确实认为它们很重要。但它们是有缺陷的，就像该领域中的许多技术解决方案一样。我认为科技公司方面确实做了一些非常非常重要的工作，我们实际上看到了一些工具被搁置。OpenAI 拥有一个非常非常令人印象深刻的语音克隆工具。
基本上只需要这个播客或任何其他音频的 15 秒音频，就可以生成任何人的声音中的更多内容。他们一直在搁置它进行大量的安全测试。我认为这非常重要，你知道，他们可以说他们已经做到了这一点，他们发布了一个预告片，祝贺，旗帜插上了。但是，你知道，就实际影响而言，我认为更好地理解这一点非常重要。
然后我们还看到一些科技公司发布了透明度报告。人工智能实际上是如何作为外国影响行动的一部分被使用的？因此，让大家更好地了解范围、目的和影响，我认为这非常有价值，因为目前我们在这一领域没有那么多工作。
您今年早些时候参加了一次活动，专门研究其他国家在选举中建立保障措施方面的情况。我认为他们研究了台湾，因为他们的选举是在年初。从中学到的任何好的例子，也许美国领域可以从中学习？是的，我认为台湾的例子非常有趣。这是一个应该并且确实被淹没的背景。中国对选举结果的走向非常感兴趣。
可能会发生变化。因此，它成为许多虚假信息的重点关注对象。他们建立了一个庞大的事实核查机构，开展了全国性的宣传活动，真正关注媒体的信任度。从某种程度上来说，这是一种为民众建立盔甲的方式。他们能够在这一点上达成共识，我认为这非常重要。
另一个国家有点争议，因为他们，你知道，关于政府如何看待政治言论有很多讨论，但那就是巴西。在巴西的背景下，选举法院……
基本上禁止在选举中使用深度伪造技术。所以我认为，你知道，仅仅划清界限就非常重要。他们关于言论的法律与我们的法律大相径庭。所以我认为，鉴于国家背景，存在监管挑战，但我认为这些只是少数已经……
你知道，无论是明确规定什么可以做什么不可以做，还是采取强化社会的方法，我认为这些都非常有用。最后，距离 11 月的选举还有不到四个月的时间。我们还有时间做出任何改进吗？就像您提到的那样，他们正在努力推进一些立法法案。您对在今年选举之前短期内可以做些什么来发挥作用有什么建议或优先事项吗？
是的，我的意思是，你知道，我认为进行这样的对话非常非常重要，既要提高对这些挑战的认识，又要避免产生那种压倒性的厄运感。因此，我认为对挑战的范围进行界定非常重要。然后用知识武装人们，特别是关于如何以及在哪里获取投票信息、如何投票、如果投票日出现问题，在哪里检查这些信息。
因为一个主要担忧是，在选举日会有一次有针对性的机器人电话，而纠正这一点为时已晚，对吧？但是人们知道，等等，仅仅因为我看到了那件事或听到了那件事，而且听起来可信，我应该再次检查一下吗？我认为所有这些都非常非常重要。因为我认为人工智能时刻和人工智能未来的一件事是，
创造的是，你知道，我们有这种口头禅，无论它多么陈词滥调，那就是看到就是相信，对吧？我们必须稍微重新调整一下大脑，知道我们
看到并不一定就是相信，对吧？我们必须在人们处理信息和寻找替代来源的方式上更加怀疑一些。我认为这种调整肯定需要一些时间，但肯定应该开始，正在开始，并且需要持续到选举结束。
我认为还有一些非常重要的努力，实际上是用工具来装备选举管理人员，考虑基本的网络安全卫生协议。
特别是考虑到人工智能可能通过鱼叉式网络钓鱼等方式影响选举，对吧？我认为所有这些都非常重要，只是为了增强这种教育能力。你知道，希望我们也许可以看到一项关于选举的法案，范围非常狭窄，但我目前不会指望它。
所以我确实认为公司将不得不继续发挥这种非常重要的作用，无论是围绕透明度方面，还是考虑进一步增加这些障碍，对吧？例如，我给出的加拿大例子，例如考虑所有其他不同的变通方法，继续在这个领域进行迭代，我认为这非常重要。然后促进更深入的合作，对吧？
内容来源很好，但也许可以围绕这样一个联盟：如果在一个平台上共享人工智能生成的图像，它可以进入一个存储库，然后其他平台可以获取该存储库。因此，在恐怖主义内容方面有一些这样的例子，但考虑一下扩展这些类型合作的其他方法。
这可能不是短期解决方案。这可能更像是一个中期解决方案。但我确实认为在接下来的几个月里，有更多机会能够进行合作。好吧，您有一份优秀的报告涵盖了更多这些细节，我们将在节目说明中链接到这份报告，以及我提到的活动和我们围绕这些问题的其他一些内容。Valerie，非常感谢您今天与我们讨论这个问题。谢谢你的邀请。