Sunday Pick: Humanity’s first AI election with WIRED's Vittoria Elliott | The TED AI Show
39:45 Share

每周日，TED 都会分享一期我们认为您会喜欢的其他播客剧集，由我们为您精心挑选……今天，是 TED AI 节目的一期。2024 年是现代历史上最大的一年，全球超过 50 个国家举行了选举。人工智能已经完全渗透到全球政治中——从深度伪造到可以吸收数千份文件以制定政策的 AI 机器人。TED AI 节目主持人 Bilawal Sidhu 与记者 Vittoria Elliot 进行了交谈，后者一直领导着 WIRED 的 AI 选举项目，讨论 AI 如何以令人惊讶的方式重塑政治格局。两人探讨了 AI 的好处、坏处和完全怪异之处——并分享了美国可以从其他国家学习什么，以适应并批判性地参与“新常态”。节目托管在 Acast 上。更多信息请访问 acast.com/privacy。</context> <raw_text>0 这里是来自 Int Mobile 的 Ryan Reynolds。由于通货膨胀导致几乎所有东西的价格都在上涨，我们决定降低我们的价格。

为了帮助我们，我们请来了一位反向拍卖师，这显然是一件事。Mint Mobile 无限高级无线服务。我准备以 30、30、准备以 30、准备以 20、20、20、准备以 20、20、准备以 15、15、15、15，只需每月 15 美元的价格出售！请访问 mintmobile.com/switch 尝试一下。预付 45 美元，相当于每月 15 美元。仅限前三个月套餐的新客户。税费另计。每 GB 数据超过 40 GB 后速度会降低。

有史以来最棒的礼物。是的。前往您附近的 Nordstrom Rack 商店选购。优质品牌，超值价格，有史以来最棒的礼物。

今年所有住宅和商业供暖需求，请致电 Crop Metcalf 的 5 星供暖专家。1-800-GO-CROP 或访问 cropmetcalf.com。Crop Metcalf 是拥有 5 星评价的那家。Crop Metcalf，5 星技师之家。

您好，TED Talks Daily 的听众们。我是您的主持人 Elise Hu。今天，我们有一期来自 TED 音频集的另一个播客剧集，由我们为您精心挑选。今年是重大选举年，也是人工智能主导对话的第一年。生成式人工智能比以往任何时候都更容易通过深度伪造和误导性假新闻文章制造选民困惑。

本周，我们将分享一期 TED AI 节目，内容全部关于这项新兴技术对我们政治格局的影响。记者 Vittoria Elliott 分享了人们目前如何使用人工智能程序以及政府需要做些什么来防止未来的 AI 混乱。如果您想听到更多关于人工智能的精彩讨论，请在您收听播客的任何地方收听 TED AI 节目。访问 audiocollective.ted.com 了解更多关于 TED 音频集的信息。

现在进入正题。我一直都在思考今年的选举，因为今年感觉不一样，但原因并非您所想的那样。我想说，今年的国家和地方选举与以往任何选举都客观不同，因为它将成为我们第一次 AI 选举。距离选举日不到 100 天，您可能在所有其他选举新闻中都看到了这一点。AI 正在加入聊天。

但直到有一天我在 X 上滚动浏览时，我才意识到未来几个月可能会是什么样子。X 刚刚更新了他们的 AI 聊天机器人 Grok，使其可以使用名为 Flux 的很大程度上未经审查的开源模型生成图像。结果立即比我们见过的任何东西都要疯狂得多。

过去我们能够生成图像，但这是我们第一次将这些功能放入每天有 2.5 亿人使用的社交媒体应用程序中。

我看到了卡玛拉·哈里斯和唐纳德·特朗普在各种奇异场景中的逼真照片，从他们深情地握手的容易点击的图片到他们庆祝 9·11 的令人毛骨悚然的图片。突然间，我的信息流里充满了哈里斯和特朗普的疯狂表情包，我开始意识到，很难想象未来 AI 不会对选举产生影响。

这感觉像是未知领域。但实际上，在许多方面，美国在这场特定聚会上姗姗来迟。世界各国的其他国家一直在根据 AI 的兴起调整他们的选举。这不仅仅是表情包。深度伪造和聊天机器人已在一些世界上最大的选举中以令人惊讶的方式被部署，例如在印度和巴基斯坦。在欧洲，甚至还有 AI 候选人竞选公职。

那么，我们可以从世界其他地区学习什么来为我们的第一次 AI 选举做准备呢？这仅仅是厄运和悲观吗？或者 AI 实际上对民主有益吗？我是 Bilal Velsuddu，这是 TED AI 节目，我们将在这里弄清楚如何在 AI 改变一切的世界中生活和蓬勃发展。太好了，太好了，太好了。刚刚好，太好了。数千项冬季特惠现已在 Nordstrom Rack 商店推出，这意味着……

数千个新的理由来抢购。因为我们以更低的价格获得最新的潮流。因为我一直在寻找这些。因为最好的交易很快就会售罄。节省高达 60% 的费用。Sam Edelman、Sorel、Free People、Cole Haan 和更多冬季新款。优质品牌，超值价格。这就是您抢购的原因。这里是来自 Intmobile 的 Ryan Reynolds。由于通货膨胀导致几乎所有东西的价格都在上涨，我们决定降低我们的价格。

为了帮助我们，我们请来了一位反向拍卖师，这显然是一件事。Mint Mobile 无限高级无线服务。它怎么卖到 30、30，怎么卖到 30，怎么卖到 20、20、20，怎么卖到 20、20，怎么卖到 15、15、15、15，只需每月 15 美元？成交！请访问 mintmobile.com/switch 尝试一下。预付 45 美元，相当于每月 15 美元。仅限前三个月套餐的新客户。税费另计。每 GB 数据超过 40 GB 后速度会降低。

今天，我将与 Vittoria Elliott 谈谈，她是 Wired 的记者，专门研究虚假信息和社交媒体平台。她正在进行一项大规模的努力，为 Wired 的 AI 选举项目收集来自世界各地关于 AI 和选举的故事。如果您访问该网站，您会看到他们有一个地理空间地图，基本上追踪了这项技术的所有使用方法。当我查看它时，我被这样一个工具的重要性所震惊。

这是我所说的开源情报的完美示例，它汇集了可以反映相关见解并提高认识的公共资源。谁知道呢，也许这些见解可能是更新我们民主固件的关键，以应对我们的第一次 AI 选举。我真的很想请 Vittoria 帮我回顾一下她遇到的一些最重要的故事，以及 AI 如何重塑全球选举。你好，Vittoria。欢迎来到节目。你好，Bilal。非常感谢你邀请我。

让我们直接进入正题。你能先带我们了解一下 Wired AI 选举项目吗？是的。今年是迄今为止最大的一年，全球大约有 65 次选举。这对民主来说是重要的一年。而且它不仅是我们可能见过的最大选举，而且肯定也是互联网和社交媒体出现以来的最大选举。我认为我们将其视为真正评估技术和民主互动时刻的契机，尤其是在生成式 AI 的这个时刻。因此，一部分工作是看看这实际上将如何影响民主，而且，你知道，人们害怕的事情，那些是我们会看到的趋势，还是会是其他什么？这些趋势在世界不同地区会如何展现出不同的面貌。许多技术讨论都以美国为中心，因为许多大型科技公司都是美国公司。但这并不意味着技术或创新在其他地方也会是这样的。但这并不意味着它在其他环境中的使用方式也会如此。我们有一张大型世界地图，上面显示了今年举行选举的每个国家，以及是否出现了与该选举相关的生成式 AI 实例。

因此，这可能看起来像是在新罕布什尔州初选前发生的乔·拜登机器人电话，其中乔·拜登的语音克隆给新罕布什尔州的所有选民打来电话，劝阻他们不要参加民主党初选。这是生成式 AI 的一个例子。但我们也看到了诸如……

在巴基斯坦，前总理伊姆兰·汗，他授权的他的深度伪造视频，他的政党授权他发表讲话，因为他在狱中。因此，我们看到了这些非常有趣的例子，有些是被批准的，有些是没有被批准的。我们在项目中看到了这些类型的例子，它们被细分为北美、非洲、欧洲等区域类别。因此，用户可以查看地图，查看这项技术在选举中出现的范围，以及事件发生的时间、地点和描述，然后链接到……

我认为将所有这些信息整理在一个地方非常令人兴奋。这也略微令人不安。关于这一点，我认为当人们想到生成式 AI 和选举时，人们会立即想到深度伪造。

到目前为止，深度伪造是如何影响美国全国和地方层面的竞选活动的？你举了拜登的例子，但也包括地方层面。我认为深度伪造是最明显的形式，有时也是最容易检测到的形式。我认为这就是为什么我们看到这么多这样的例子。我认为即使在项目中，您也会看到对视觉媒体存在偏见，因为在许多情况下，确认某事物是伪造的更容易。

而且很多时候，仅仅因为我们知道某件事是假的并不一定意味着它没有情感共鸣。我认为一个很好的例子是几周前，埃隆·马斯克（Elon Musk），前推特（现 X）的所有者，发布了一段副总统兼民主党总统候选人卡玛拉·哈里斯的恶搞视频，说她是最终的 DEI 雇员，这是右翼人士非常喜欢对她说的其中一件事。但它使用了她的声音，以竞选广告的风格说道，

当他最初发布它时，它没有免责声明说明它是恶搞。它没有标签说明它是 AI 生成的，许多平台都要求这样做。但我认为，即使那些确实相信卡玛拉·哈里斯的人也相信。

可能知道该视频不是真实的，但它仍然具有很强的感情共鸣，因为这是这位政治家说的话，人们多少已经相信了。与其说人们被欺骗了，不如说他们在世界上看到的东西代表了某种东西，直到现在，他们才个人相信是真实的。然后我认为当我们关注地方层面时，一个非常有趣的例子是……

彼得·迪克森（Peter Dixon），加利福尼亚州的国会议员候选人。他在竞选广告中使用了 AI，让自己看起来像是在他生命中的不同地点跳跃，以说明他的背景。然后我们有杰森·帕尔默（Jason Palmer）的例子，他是一位投资者和商人，在美国萨摩亚的民主党初选中竞选。他非常公开地使用 AI 来进行竞选。他使用 AI 来……

拥有他自己的深度伪造化身，它回答了人们关于他的公共政策的问题，人们可以向它询问事情，所以你知道，这是一种广泛的用途，它可以用一种非常合法的方式来表达，嘿，这个人不会飞到美国萨摩亚，但美国萨摩亚的人们如何才能与这位候选人建立联系，也许对他来说，拥有一个可以回答问题、陈述其政策立场的人工智能化身会很好……

然后，你知道，在更地方的层面上，实际上有人作为 AI 候选人竞选怀俄明州夏延市市长，也就是说，他创建了一个 AI 机器人。这个机器人的名字是 Vic，虚拟集成公民。而且……

Vic 正在吸收数千份市议会文件以制定政策决策。这就是我们在地方层面看到的。那不是深度伪造。所以我认为我们看到它们以所有这些真正创新的方式使用，而不仅仅是试图欺骗人们，更多的是它们如何对竞选活动有用？更具体地说，即使人们知道他们正在处理的不是真人，它们如何才能让人们与这些问题建立联系？

你知道，这让我想到了一种从纯粹的效用到，比如说，另一端的欺骗性的滑动标尺。这是一条模糊的界限。你举的例子是，你知道，一位政治家基本上让自己更容易接近，几乎就像一个异步虚拟市政厅，在那里你可以去问这位政治家问题，并可能以更直观的方式更多地了解他们的观点。看到人们增强他们要推出的媒体也很有趣，例如……

说明一个人旅程的各个阶段，并能够让人们参与其中，你知道，让这种感觉更具感染力和真实感，我认为这非常令人兴奋。然后是最后一部分，也就是表情包部分，你可以创作的内容是公开的，嘿，这意图是假的，但它仍然会对你产生强烈的影响，无论是好的方面还是坏的方面，因为它会绕过你的……

因为它会在你心中产生这种情感反应。即使你知道，嘿，这是不正确的，你仍然会受到它的影响。对。完全正确。我的意思是，我认为当我们想到在以下情况下使用 AI 和讽刺和恶搞时，再次，你……

人们知道这是假的，仅仅因为人们知道这是假的并不意味着它对他们没有共鸣。关于这一点，界限有时会变得模糊。我们正到达这样一个点，事件和照片被称为引号 AI。当然，最近的例子是，你知道，唐纳德·特朗普声称，你知道，卡玛拉的人群规模是 AI 的引号。你认为这种动态如何改变竞选的运行方式，当你能够像指出事实一样指出虚假的事情时？我……

即使我认为这些都是被大量拍摄的事件。所以实际上有一个术语来形容这个。它被称为说谎者的红利。这是一种想法，当所有事情都可能是假的时，没有什么东西是真的。

作为曾经专门报道全球南方科技的人，所有事情都会回到原点。我们在其他地方看到它，然后它才来到这里。我们在印度或菲律宾等地看到社交媒体被滥用于虚假信息宣传活动，然后它才成为美国的一个问题。我认为当我们谈论说谎者的红利时，

去年在印度也是如此。我们有一些政治家，他们泄露的真实录音正在被分享，说了一些不好的话。他们立即回应说，那是假的。那不是真的。

是 AI。而且，你知道，我想起了唐纳德·特朗普的《好莱坞录音带》。我认为如果现在发生这种情况，他会说那是假的音频。他会说那是 AI 生成的。所以我认为我们真正会看到的是对共享现实感和共享真相感的进一步模糊，因为如果没有什么东西是真的，那么任何事情都是可能的。这太有趣了。

我敢说，这具有惊天动地的意义？因为这就像在重量的核心，我再也无法相信自己的眼睛了，因为你知道，有真实的证据表明有不当行为。现在越来越多的人正在部署和使用它。我必须问你，当你看到这种情况发生，现在你正在追踪所有这些例子，好的和坏的，你在你的……

从兴奋到极其害怕的 0 到 10 的量表上的净值是多少？我认为我的净值在中间，主要是因为这对我来说表明，我们在更宏大的层面上对我们正在创新的东西进行了令人难以置信的错误优先级排序，而不是考虑社会影响。硅谷一直以来都是快速行动，打破常规。我认为……

人工智能对我来说总是非常有趣，因为它重复了 Web 2.0 的许多错误。在了解其社会影响之前部署技术的想法，没有考虑某事物如何在您认为自己正在设计的精确环境之外被使用，无法区分什么是真实和好的，什么不是，无法控制谁使用您的产品。

像所有这些我们仍在努力弄清楚的基本问题一样，即使我认为在公司层面，我们甚至都不了解如何在政策层面处理内容审核。从基本上 2010 年开始，讨论一直是如何处理 Web 2.0 上的内容审核？而不是考虑如何处理这个问题，而是……

所有相同的错误，所有相同的行为，在人工智能革命的不同迭代中再次出现。感觉我们并没有学到很多东西。现在，这让我想到甚至 Web 2.0，你知道，让我们说社交是它的一个例子。

在选举环境中也相当有价值。对。我记得读过一篇文章，内容是当书呆子们进入白宫时，这是奥巴马 2012 年左右的竞选连任。所以我很好奇，鉴于我们掌握的工具，你认为 AI 可以成为有效的政策信息传递工具吗？

如果它是真实的。而且似乎有一些方法可以使其比不真实更真实。是的。我的意思是，最大的问题是透明度。我认为一个很好的例子是，例如，今年印尼大选期间。该国前独裁者领导下的前军事首长赢得了那次选举。

并且有为他政党工作的人公开承认使用 AI，特别是撰写竞选演讲。这很好，除了他们显然是在 ChatGPT 之上构建的，而 OpenAI 已经说过我们不希望他们的产品用于政治。他们是如何追踪的？

他们是如何确保不会发生这种情况的？所以我认为，是的，这可能会有真正有价值的方式来用于，比如说，你知道，竞选信息传递，或者像我们在美属萨摩亚看到的例子一样，某人可以像你描述的那样，像一个异步市政厅。

你知道，这让我回到了你如何看待社交媒体参与其中。我的意思是，自从上次总统大选以来，我们已经看到了它在竞选活动中以及在传播错误信息和虚假信息方面的重要性。联邦选举委员会今年早些时候做出了一个决定，他们不会对 AI 和政治广告施加新的限制，这意味着它将在平台上出现。你举了一个例子，有人在竞选广告中说明了他们生活旅程的各个阶段。

平台现在正在做些什么来为这个非常关键的一年做准备，以遏制可能与选举相关的 AI 生成内容？他们是否试图领先一步，或者你认为它会再次更具响应性和追溯性？首先，平台，你知道，他们现在所做的一切都是自愿的。其次，你知道，他们中的许多人非常依赖于标签，他们说，你知道，如果我们的平台上有生成的 AI 内容，则必须对其进行标记。

但他们经常很难检测到他们平台上 AI 生成的东西。我们并没有真正了解他们如何检测这些东西，他们有哪些系统到位等等。

公司并不一定会在他们的平台上生成什么数据来回分享。因此，某些内容可以在各个平台上始终如一地进行标记。我们也看到了虚假信息问题，例如，你知道，某些内容可能会在 Twitter 上被删除，但它会出现在 Facebook 上，或者它可能会从 Facebook 上删除，但它们仍然会在 YouTube 上被平台化。你知道，所有这些……

差距是因为这些公司没有共享信息或相互协调，除非是在儿童性虐待材料或恐怖主义等存在实际法律影响的事情上，对吧？许多拥有 AI 模型的公司表示，你知道，我们将开始添加水印，这意味着从我们的平台上出现的任何内容都将带有某种签名，无论这是否对人类可见，但机器可以读取以说，嘿，这是 AI 生成的。

好的，这很好。但这意味着每个人都必须是一个好演员。是的，完全正确。每个人都必须同意添加水印，并且每个人都必须能够读取其他人的水印。对。如果你是坏人，你没有动力使用会给你的内容添加水印的技术。你知道，我们谈论的是机器可以检测到的东西。但这对人类来说是否可以检测到？谁知道呢？

是的，这将非常具有挑战性。你完全正确。就像，是的，好演员，你知道，哦，是的，你知道，我从商业图像生成器上传的图像中恰好有一些水印。当人们滚动浏览他们的信息流时，他们真的会在乎吗？当然，坏人会积极地尝试避免，你知道，要么删除水印，要么使用没有水印的技术。这是在视觉方面。我的意思是，我甚至很好奇，例如，

虚假参与和机器人至少已经存在了五年多。这是 2016 年以来广为人知的策略，对吧，俄罗斯在社交媒体上散布不和谐，他们的策略几乎是，嘿，让我们开始煽动，你知道，在线上这些非常两极分化的议题。

而且，你知道，你模仿那种会引发参与的愤怒诱饵。这是一个混乱的局面。你认为有什么策略可以解决可以开始冒充选民并将其添加到公共讨论中的 AI 生成的机器人农场吗？是的，我的意思是，这是一个巨大的问题。这实际上非常有趣。OpenAI 发布了它。

5 月底发布了第一份威胁报告。它实际上表明，外国行为者仍在试图弄清楚这项技术。就像他们仍然不确定它有多有用一样。你知道我的意思吗？我认为这很有趣。我想，哦，我想我们都感到困惑。但我们确实看到了他们的例子。因此，我们在外国影响行动中看到的一个非常大的策略是，他们……

他们会链接到旨在看起来像合法信息来源的网站。然后，他们将使用生成式 AI 来填充文章，以加强某些政治观点。然后，这些文章会在社交平台上分享。因此，它不一定是机器人或内容本身，尽管这些内容有时也是 AI 生成的。对。

它创建了这些网站，这些网站充满了 ChatGPT 风格的 AI 胡说八道文章，然后在社交平台上分享这些文章。但我们确实看到外国影响行动正在尝试使用它。再说一次，我认为，你知道，这是那些事情之一，就像他们仍在测试它，并查看什么最有效一样。休息后，我问 Vittoria 关于 AI 如何以您意想不到的方式重塑全球选举。

太好了，太好了，太好了。刚刚好，太好了。数千项冬季特惠现已在 Nordstrom Rack 商店推出。这意味着……

数千个新的理由来抢购。因为我们以更低的价格获得最新的潮流。因为我一直在寻找这些。因为最好的交易很快就会售罄。节省高达 60% 的费用。Sam Edelman、Sorel、Free People、Cole Haan 和更多冬季新款。优质品牌，超值价格。这就是您抢购的原因。

Ryan Reynolds 在这里，我想，这是我第 100 个 Mint 广告。不，不，不，不，不，不，不，不。我的意思是，说实话，当我开始做这个的时候，我以为我只需要做四个这样的广告。我的意思是，无限高级无线服务每月 15 美元。为什么还有人支付两到三倍的价格？对不起。

对不起，我不应该在这里指责受害者。随时访问 midmobile.com/switch 尝试一下。预付 45 美元，相当于每月 15 美元。仅限前三个月套餐的新客户。税费另计。速度在超过 40 GB 后会降低。查看详情。

所以我想转向全球选举，因为，你知道，正如你提到的，这里的全球视角非常有趣，因为我们经常看到这些技术的初始实例在海外被用于好坏，然后才回到这里。对我们美国人来说，甚至对欧洲人来说，这感觉都是新的。

但世界其他地区的人们却说，伙计，我们一直在处理这个问题。所以我有一些在巴基斯坦的朋友一直在用 WhatsApp 与我联系，他们说，是的，深度伪造的政治家，你知道，新的录音。太常见了。几乎每周都会在 WhatsApp 群组中出现另一个。那么，AI 如何在巴基斯坦使这种内容正常化？南亚，特别是印度、巴基斯坦，这些地方拥有大量受过高等教育的人才和技术人才。

这就是我们看到很多这种情况的地方。我认为，你知道，在巴基斯坦，正如我们与伊姆兰·汗提到的那样，存在这种技术的合法用途。然后在大选期间，还有当地政治家的深度伪造视频，告诉人们不要投票，告诉人们他们将退出竞选。我认为，特别是来自全球南方的一件大事是，

音频信息特别常见，尤其是在人们使用 WhatsApp 的情况下。因此，有很多音频深度伪造的例子，而且它们非常难以检测，因为您不会拥有与视觉媒体相同的信号，例如，嗯，那个人有六根手指，或者，嗯，那看起来有点故障。它纯粹是一种媒介。而且很多时候它在 WhatsApp 等平台上流传，WhatsApp……

不是在 X 或 Facebook 等社交媒体上公开流传。它在这些封闭的社区中通过加密平台流传。它非常难以检测，也很难反驳。印度和巴基斯坦，它们都拥有大量真正优秀的技术人才，我们看到许多公司涌现出来为这个市场服务。但总的来说，我们看到的大多数 AI 工具和……

检测AI生成内容的工具是基于西方市场的数据进行训练和构建的。当我们关注全球南方市场时，人们使用手机录制的内容质量可能不如iPhone，这意味着内容的基准质量可能较低。这使得这些检测工具更难以标记数据。

如果某些内容是伪造的。当内容来自这些低质量手机时，误报和漏报更为常见。其次，当处理以非西方方式使用英语的市场时，例如英语的变体形式、带有口音的英语，则更有可能将内容标记为深度伪造，因为AI在处理非白人方面臭名昭著。因此我认为……

当我们谈论巴基斯坦和全球南方等地区时，你知道那里对这些技术有很多兴趣，但它们的使用方式以及它们能否被检测到的方式也完全不同，而所有这些都是巨大的问题，因为这类技术正在进入这些市场，但也带来了所有这些其他问题，坦率地说，这些公司几乎没有优先考虑解决这些问题。

完全正确。我很好奇，你知道，在所有这些例子中，它是否真的改变了人们最终的投票方式或改变了选民的投票率？

我认为这真的取决于你关注的地方。一个很好的例子实际上来自一篇我没有撰写的《连线》杂志文章。它是由我的朋友Nilesh Christopher和他的报道伙伴Varsha Bansal在印度大选期间撰写的。现在印度涌现出大量为印度市场服务的AI公司。显然，印度在语言、宗教、文化等方面是一个极其多元化的地方。他们发现，在大选前夕，

在印度大选中，许多地方政客雇佣这些AI公司来创建他们自己的深度伪造视频，类似于乔·拜登的机器人电话。但他们授权了它，他们拨打了选民的电话号码。在美国，我们可能会认为这种事情非常烦人和具有侵入性。但Nilesh发现，实际上人们

感受到了这种个性化的外展，即使他们知道这是一个AI工具，即使他们知道它是自动化的。他们感觉自己被看到了，并且感觉自己受到了重视。这实际上确实让他们想要投票给某个候选人，让他们感觉自己通过使用这些AI工具获得了这种个性化的关注。因此，从某种意义上说，它可能非常强大。例如，在印度尼西亚，

在竞选期间，最终赢得大选的前苏哈托独裁统治下的将军普拉博沃·苏比安托使用了Midjourney来创建一个他看起来非常可爱、友好的爷爷形象的化身。他们将其分享到TikTok上，获得了190亿次观看。这绝对有助于提高他的知名度。

在那些不记得苏哈托独裁统治的年轻人中很受欢迎。他们没有经历过那段时期。因此，他们很容易受到这种更柔和形象的影响。这是竞选活动完全授权的。你知道，这种技术可以用于竞选和形象管理等等。这确实可能会影响人们对特定候选人的看法。

绝对的。我的意思是，这很有趣，你之前也提到的印度的例子。有一家名为Rephrase AI的公司，宝莱坞最著名的演员之一沙鲁克·汗做了一个吉百利巧克力的广告宣传活动，其中购买巧克力的号召性用语是所有这些地区的当地糖果店。就像，嘿，如果你要去买这些东西，就去这里买。

现在有趣的是看到它被应用于政治背景中。我认为这可能会产生巨大的影响，对吧？就像如果感觉像是个性化的外展，那么就分发而言，对吧，我们谈论的是一对一的东西。还有你提到的TikTok的例子，也许在另一方面，就像，是的，如果这些视频病毒式传播，当然，这至少会产生影响，至少会让你成为许多人（大概是在这种情况下，年轻选民）的首选，对吧？

回到WhatsApp，中间的东西似乎更令人担忧，因为它感觉更难以控制和阻止传播。我记得几年前在印度克什米尔地区，那里有点不稳定，互联网基本上被关闭了。但WhatsApp大约在那个时候也实施了。

嘿，我们只允许你将消息转发给有限数量的人。其想法是，这是一种限制传播范围的方法，因为，你知道，如果我们谈论的是端到端加密渠道，那么你到底该如何阻止虚假信息的传播呢？当分析师将信息发送给欧洲的专家进行深度伪造评估时，损害已经造成，对吧？

是的。我认为，你知道，如果每个人都同意，嘿，我们要加水印或使用哈希工具，那么就是这样。这就是他们处理加密信使的方式。这就是他们处理儿童安全的方式。

性虐待材料是哈希值。因此，图像将被哈希化。它将被输入数据库。它将具有特定的签名。如果你试图发送它，甚至在它离开你的手机进入加密空间之前，它将被平台捕获，你将无法转发它。

因为你正在根据这个数据库查找它。没错，因为它将再次被哈希化。这是一种数字签名。哈希值将确保这一点。因此，也许有一种方法可以这样说，我们将对AI创建的所有内容进行哈希处理，任何可以针对此哈希数据库进行检查的转发内容。

自动标记为AI。如果每个人都同意并投资于此，那么可能有一种方法可以做到这一点。但这需要大量的时间和技术。我认为人们在谈论所有这些AI生成内容的创建时并没有真正考虑到的问题是，现在你需要另一面，即检测。

你知道，你现在创造了一个全新的行业，也与检测有关。这也需要大量的技术、投资、时间和资金才能扩大规模以应对这个问题。完全正确。我真的很想和你谈谈AI史蒂夫。你知道，我的想法真的被打开了，我认为它非常棒，这是一个非常有趣的故事。那么，你为什么不从介绍AI史蒂夫开始呢？

是的，他是一位英国政治候选人，来自布莱顿镇，竞选议员。AI史蒂夫实际上就是候选人。他是现实生活中史蒂夫的数字化身，一个名叫史蒂夫的真人，他正在竞选公职。竞选活动向我描述的方式是，

现实生活中的史蒂夫将是AI史蒂夫的物理体现。他将在议会进行谈判，与人交谈，但他所有的决定都将由AI史蒂夫提供信息。AI史蒂夫也以类似的方式，是一个可以回应选民并

收集他们的问题的AI化身。拥有这个AI模型的目的是，选民可以说，这是我们关心的问题。这是我们希望你如何投票的问题。这些是我们关心的问题。然后，真正的史蒂夫的工作是去议会执行AI史蒂夫指示的行为。AI史蒂夫没有获胜。

但原则上，我认为这是一个非常有趣的想法。实际上，竞选活动告诉我，当他们第一次推出时，人们最感兴趣的两件事是加沙冲突和垃圾收集。

但是，你知道，我认为即使那样也有其自身的局限性，对吧？因为议员、国会议员会一直收到机密简报，并根据公众可能没有的信息做出决定。因此，你仍然需要与这种竞选承诺进行谈判，以根据AI能够从选民那里收集到的信息做出所有决定。因为现实情况是，AI不会参加机密——

国家安全简报。AI不会像政府成员那样获得特殊文件和数字。因此，可能有一种方法可以将AI技术融入善政的意义中。但我认为这并不是我们所看到的优先考虑正在构建的内容。当然，当AI本身就是候选人时，这也不一定可能。对。

好吧，你当然回答了我的问题，比如，这到底是如何运作的？所以这几乎就像，

这就像政治家的公共领域的数字孪生或代理。实际上，这是一种了解选民脉搏的方式，如果你愿意的话，也是了解国家脉搏的方式。但这并不是唯一的例子，对吧？世界各地还有其他AI候选人的例子。你能告诉我今年早些时候白俄罗斯大选的故事吗？白俄罗斯是一个独裁国家，有人可能会认为它是一个代理国。

俄罗斯。俄罗斯军队目前驻扎在白俄罗斯，参与对乌克兰的战争，卢卡申科独裁统治是欧洲最后剩下的独裁统治之一。而且

对异议人士进行了令人难以置信的镇压。一位流亡的异议人士创建了一个名为Yas Gaspadar的AI候选人，参加该国的议会选举。显然，这位候选人没有获胜。今年早些时候白俄罗斯的大选被普遍认为是不自由的。但因为

异议人士在白俄罗斯被严重刑事犯罪化。而且因为许多可能真正参加选举的人都在流亡，所以这是一种利用AI来代表这些人。你知道，他不会被逮捕。他不会受到政府过去利用武力镇压异议人士的方式的影响。所以我认为这实际上是AI的一种非常巧妙的运用。就像，你知道，我们看到

中东人民使用社交媒体来真正推动阿拉伯之春。像这些技术一样，存在良好、创造性、民主的创造性用途，人们会发现这些用途。但这并不意味着这总是他们所针对的目标或最常见的用途。完全正确。我的意思是，如果你是政治异议人士，这是一个AI有效的完美例子，对吧？就像我被那篇文章中的一句话震惊了，它基本上是说，

是的，这个人不会入狱，因为他只是代码。我当时想，哇，这是让沉默者发声的一种方式。所以是的，

我们已经经历了当前状态的许多方面，让我们称之为美国AI选举的现状以及从其他国家吸取的一些经验教训。我认为在这一点上，我只需要退一步问一下，我们真的应该有多担心AI会影响2024年美国大选？我还不知道。是的。

我认为有很多因素在起作用。我认为我们没有触及的一个重要因素是，社交平台已经减少了对信任和安全的投资。信任和安全是指确保仇恨言论、虚假信息等内容不会出现在平台上的人员和团队。最重要的是，我们正在添加额外的层。所以我认为我们肯定会在所有平台上看到大量的AI废话。我

我认为我们会看到更多这样的情况。但我认为真正的问题是，就我个人而言，我更不担心选举本身，而更担心选举之后会发生什么。

我们正处于一个信任度越来越低、前所未有的时刻。我们现在有了马斯克，他拥有X。他已经开始传播关于非法移民投票的叙事，这些叙事很容易形成质疑民主党胜利的智力基础。

这些是平台仍然没有解决的旧问题。我认为我们会看到AI在其中发挥作用，无论是通过虚假信息宣传，还是通过AI生成的媒体，还是通过例如，Grok AI最近返回的答案说，卡玛拉·哈里斯错过了在九个州登记参加投票的截止日期。其中五个州的秘书长不得不写信给X，说你们的AI聊天机器人正在散布错误信息。我认为我们会看到这样的事情。

但我认为更深层次地支撑这个问题的核心问题是，缺乏对信任和安全的投资，缺乏对这些技术的含义和必要保障措施的思考，以及在共享世界中缺乏信任感和现实感，以及对机构和制度的信任。

比任何技术的变异都更深刻地支撑着这个问题。这是一个非常深刻和细致的答案。维多利亚，感谢你参加节目。谢谢。在与维多利亚交谈后，我有一些关于我们如何为未来几个月的选举季做准备的想法。

我首先想到的是我们在这个播客的第一集中讨论过的事情。当我与Witness的Sam Gregory交谈时，他推荐了一个我认为仍然非常适用的媒体素养练习：SIFT。作为复习，它代表停止、调查来源、寻找替代报道和追踪你认为可能不合法的内容的原始内容。特别是由于政治格局正在以前所未有的速度变化，SIFT

非常重要的是要始终遵循这四个步骤，并掌握各种可靠的来源。但第二件事很难分解成具体的步骤，因为它与维多利亚提出的概念有关。

说谎者的红利。这就是说，在一个任何事情都可以被伪造的世界里，没有什么东西是真实的。因此，即使你能够识别出野外的虚假信息，它的信息仍然可以极大地影响人们，即使他们知道这是不真实的。这就是为什么模因可以成为政治信息传递如此强大的武器。它们可以绕过我们大脑中质疑某些事情是否真实的部分，直接进入我们的情绪。

当我看到我在节目开头提到的那些AI生成的模因时，我意识到在大选日之前几个月推出这个工具为全面爆发的模因战争打开了大门。这意味着我们所有人都必须接受这样一个事实，即我们没有人能够免受内容（无论是AI生成的还是非AI生成的）的影响。这将很难，但我们必须改变我们的信息饮食。这意味着调整我们如何让内容影响我们对现实的感知。

AI技术有一些非常令人兴奋的可能性，可以使政治更易于获取、更具代表性，甚至更具革命性。但在我们第一次AI选举之前，我们将依靠我们自己从世界其他地方学习，并规划我们自己通往未来的道路。

《TED AI Show》是TED音频集的一部分，由TED与Cosmic Standard联合制作。我们的制作人是Ben Montoya和Alex Higgins。我们的编辑是Banban Shang和Alejandra Salazar。我们的节目主持人是Ivana Tucker，我们的工程师是Asia Pilar Simpson。我们的技术总监是Jacob Winnick，我们的执行制作人是Eliza Smith。

我们的研究员和事实核查员是Christian Aparta。我是你的主持人Bilal Velsadu。我们下次再见。

Sam Edelman、Sorrell、Free People、Cole

Han以及更多寒冷天气发现。伟大的品牌，伟大的价格。这就是你摇滚的原因。

加入克拉克银行，通过我们的“与BOC一起给予”活动，为我们的社区做出贡献。在2024年的剩余时间里，我们的分行选择了一个慈善机构，通过我们的主题标签“与BOC一起给予”来支持。要了解如何提供帮助，请访问我们的网站bankofclark.bank/givewithboc，或关注我们的社交媒体渠道和主题标签givewithboc。表达你的支持，并考虑今天在您当地的分行捐款。克拉克银行，我们是您的银行。

克拉克银行全体员工祝您节日快乐。会员FDIC。平等住房贷款人。