cover of episode What role is AI playing in election disinformation?

What role is AI playing in election disinformation?

2024/6/26
logo of podcast The Current

The Current

People
V
Valerie Wirtschafter
Topics
Valerie Wirtschafter 指出,人工智能技术,特别是生成式 AI 工具,能够通过提高虚假信息的传播效率和说服力来加剧选举中的虚假信息问题。她认为,AI 可以放大现有的虚假信息传播趋势,例如提高说服力、减少语法错误,从而增强网络钓鱼的有效性,并实现更个性化的信息传播。此外,AI 也降低了参与者门槛,使得更多人能够参与到虚假信息传播中。她还强调,AI 的影响程度取决于事件的关注度和媒体环境,在媒体不自由的国家,AI 生成的虚假信息的影响更大。她还指出,AI 的存在本身,即使没有实际的虚假信息出现,也会削弱公众对信息的信任度。她分析了台湾、印度和白俄罗斯等国家选举中 AI 驱动的虚假信息案例,并讨论了 AI 在选举中的两面性,既可以被用于恶意传播虚假信息,也可以在缺乏政治辩论的环境中发挥作用。她还探讨了多种应对 AI 驱动的虚假信息的方法,包括技术手段(如图像检测工具、水印技术、内容来源标准)、政府监管、科技公司自律以及媒体事实核查等。她认为,政府、科技公司和媒体都应该承担起打击 AI 驱动的虚假信息的责任,并指出现有的监管框架难以有效应对这一问题。她还分析了美国 FCC 和 FEC 在监管方面的职责不明确问题,以及美国参议院规则委员会提出的相关法案。她还提到科技公司在应对 AI 驱动的虚假信息方面发挥着重要作用,但同时也面临着自我监管的挑战。她还分析了台湾和巴西在打击选举虚假信息方面的经验,并提出了在短期内可以采取的措施,例如提高公众对 AI 驱动的虚假信息的认识,教会公众如何识别和应对这些信息,以及为选举管理人员提供网络安全培训等。最后,她强调公众需要改变“眼见为实”的观念,学会批判性地思考信息来源,并呼吁加强科技公司之间的合作,例如建立共享数据库来识别和打击 AI 生成的虚假信息。 Adriana Pita 主要负责引导访谈,提出问题,并对 Valerie Wirtschafter 的观点进行总结和补充。

Deep Dive

Shownotes Transcript

Advances in artificial intelligence (AI) have the potential to amplify the spread of mis- and disinformation in elections around the world. In this historic election year, Valerie Wirtschafter breaks down where generative AI has already played a role in disinformation campaigns and how policymakers, tech companies, and voters can build up guardrails to protect the integrity of election information.

Show notes and transcript: https://www.brookings.edu/articles/what-role-is-ai-playing-in-election-disinformation

Follow The Current and all Brookings podcasts on Apple or Google podcasts, or on Spotify. Send feedback email to [email protected]).