cover of episode 低音侃侃 E05 | 别拿走我的脸:AI 技术发展如何造成女性新困境

低音侃侃 E05 | 别拿走我的脸:AI 技术发展如何造成女性新困境

2024/10/17
logo of podcast 低音播客

低音播客

People
文静
Topics
文静分析了韩国"N号房2.0"事件的再次爆发,认为其原因在于 Deepfake 技术门槛降低和政策执行不力。她详细阐述了 Deepfake 技术的运作逻辑,以及数据偏见如何导致 AI 算法中存在性别偏见。她指出,Deepfake 技术主要用于制作色情内容,这与技术门槛低和制作成本低有关。全球范围内,针对 Deepfake 色情内容的法规不完善,惩治力度不足,不同国家和地区对 Deepfake 色情影片的法律处理方式不同,这可能与对该行为的定义模糊有关。她认为,判断 Deepfake 色情影片是否为性犯罪,应以受害者是否遭受伤害为标准,并批判了"复仇式色情"一词的用法。她还分析了 AI 平台对 Deepfake 色情内容的处理方式,以及 AI 伦理领域中对算法公平性的讨论,指出其可能忽视了社会偏见本身。最后,她结合亚马逊 AI 招聘系统和微软 AI 聊天机器人的案例,说明了日常生活中的科技产品也存在性别和种族偏见,AI 的偏见会放大和加速社会中的偏见。

Deep Dive

Chapters
本期节目探讨了“N号房2.0”事件,分析了韩国修订《性暴力犯罪法》后,深伪色情事件再次爆发的两个主要原因:技术门槛降低和政策执行不力。技术门槛的降低使得生成深伪色情视频的门槛降低,而政策执行的不到位使得许多参与者并未受到应有的惩罚。
  • 技术门槛降低:生成深伪色情视频的技术门槛降低,导致更多人参与其中。
  • 政策执行不力:韩国对性暴力犯罪法的执行不够严格,导致许多参与者没有受到惩罚。
  • 受害者不满:大量受害女性的不满情绪,导致事件再次爆发。

Shownotes Transcript

本期内容简介

今年8月底,“N号房2.0”再次掀起网络热议。一些自称来自韩国的高中女生,在中国的微博和小红书上相继发帖,指韩国存在大范围的 Deepfake 深伪色情影片;在韩国确认这一新型“N号房”存在的同时,中国互联网也迅速沸腾。

本期“低音侃侃”「反 Deepfake」专栏的下集,我们邀请了前科技记者 Wenjing,从网络性犯罪的角度,聊了聊全球各地应对 Deepfake 技术滥用的举措;我们还延伸到“N号房2.0”所掀起的有关 AI 技术的讨论:聊了聊如何理解 AI 算法中的性别偏见,以及这种偏见和厌女文化的社会偏见之间的联系。

“低音侃侃”是一档圆桌节目,我们希望能营造和建立深度交流的环境和氛围。你可以来信参与节目讨论,请发送邮件至  [email protected]) (PGP 公钥))。

节目精彩时刻

  • 00:01:56 为什么韩国修改《性暴力犯罪法》后,“N号房”爆发了第二次?
  • 00:05:55 色情内容才是 Deepfake 技术应用重灾区
  • 00:07:30 不同国家地区针对深伪色情片的法规
  • 00:10:28 是性幻想,还是性犯罪?
  • 00:18:53 从 AI 的运作逻辑,理解 AI 的偏见
  • 00:25:29 AI 平台如何处理色情内容
  • 00:29:26 技术的透明度作为一种权力的体现

 

本期节目嘉宾

  • Wenjing,科技行业从业者,曾任科技记者,关注科技伦理,科技与人文等话题,目前在欧洲念性别研究。

欢迎关注低音Spotify)  |  YouTube)  |  Apple Podcasts)  |  Twitter)  |  Instagram) | Mastodon) | Matters) | 关于低音诞生于 2023 年夏天的“低音”是一家非盈利的独立媒体,我们希望发出时代的低音,为那些被忽视的社会人群和议题发声,用不一样的方式与这个世界相处。欢迎访问我们的网站:www.diyin.org)  也欢迎给我们写邮件:[email protected]