cover of episode S4E10|AI 换脸,请准备好韩国 N 号房 2.0 的冲击

S4E10|AI 换脸,请准备好韩国 N 号房 2.0 的冲击

2024/9/13
logo of podcast 商业WHY酱

商业WHY酱

AI Deep Dive AI Chapters Transcript
People
丸子
杨轩
Topics
杨轩:AI换脸技术降低了性侵害犯罪门槛,扩大了受害范围,引发了韩国N号房2.0事件,凸显了技术进步与社会伦理的冲突。韩国女性在中国社交媒体上呼救,反映了韩国社会对此问题的忽视和法律体系的滞后。 丸子:AI换脸技术使得制作逼真性剥削照片和视频的成本极低,几乎人人都能做到。单人即可制作大量性剥削内容,且常针对熟人作案,加剧了受害者的痛苦。韩国的受害者地图显示,该问题几乎覆盖了韩国所有的小学、中学、大学,受害者数量巨大。 阿菜:采访中发现,许多加害者是未成年人,他们利用网络平台和低成本的AI换脸服务进行犯罪。受害者中也包括中国女性,她们在国内寻求帮助无果后,选择在海外社交媒体上发声。许多受害者因为取证困难、法律体系不完善等原因,无法获得有效的法律保护,甚至不敢报警。 许多韩国男性将参与此类事件作为融入集体的一种方式,体现了韩国社会中存在的男性集体主义和对女性权益的漠视。韩国政府和警方的不作为,以及部分男性对该问题的轻描淡写,加剧了问题的严重性。 韩国占据了全球Deepfake色情视频来源的53%,这并非单纯的技术问题,而是与韩国的社会文化、法律体系和性别权力结构密切相关。 一些女性利用网络平台和媒体发声,积极抗争,推动社会关注和政府行动。她们的努力和抗争不断推动社会进步,但同时也面临着巨大的个人风险和社会压力。 技术可以对抗技术,但技术的掌握和使用依然是不平等系统的一环。技术公司有责任在技术开发和应用中,考虑其可能带来的负面社会影响,并采取措施进行预防和控制。

Deep Dive

Chapters
AI换脸技术极大降低了制作性剥削影像的难度和成本,使得几乎任何人都可以轻易地生成逼真的伪造图像和视频。这导致受害者范围空前扩大,从陌生人到熟人,甚至包括未成年人,都可能成为目标。韩国的受害者地图显示,该问题几乎覆盖了所有学校和社会层面。
  • AI换脸技术使性剥削影像制作成本极低,小白用户也能轻松操作。
  • 受害范围扩大,熟人作案增多,对受害者造成更大心理创伤。
  • 韩国受害者地图显示,几乎覆盖所有小学、中学、大学。

Shownotes Transcript

在「N 号房 1.0」时期,犯罪者通过加密渠道分享未经允许拍摄的私密影像,这些行为牵涉到个人隐私的严重侵害,并演变为涉及性剥削的广泛网络。如今,不法分子利用深度伪造(deepfake)技术将人脸合成到影像中,加剧了隐私问题,进一步升级了对女性的侵害。

某些网络群体的成员数量甚至高达 2,000 人,而其中的部分受害者为未成年人,许多犯罪嫌疑人本身也是青少年。他们通过偷拍身边的路人、同学,甚至是家人,以这些隐秘的偷拍内容作为加入群组的「门票」,获得团体的认可,成为「男性联盟」的一部分。

技术的进步让伪造不当内容的成本和技术门槛已大幅降低,AI 技术使得伪造变得更加简单,影响范围日益扩大。这一现象不仅在制作端显现,还有庞大的需求群体支撑,这导致隐私侵害的进一步扩散,涉及到各类学校与社会层面,他们的需求也推动了这一黑色产业链的进一步发展。

主要话题

02:50 AI 技术让犯罪的难度下降,几乎覆盖韩国所有的小学、中学、大学

08:02 政府的作壁上观与加害者的恬不知耻相互助长

20:24 韩国占据了全球 deepfake 视频来源的 53%,这不是一个纯技术问题

25:11 报案体系、立法体系的不完善,导致法律体系的系统性不平等

33:55 技术可以对抗技术,但技术的掌握和使用依然是不平等系统的一环

48:44 求助国内资源无果后,韩女利用政府的民族荣誉感倒逼政府正视问题

54:37 女性的努力和抗争不断推动社会进步

59:29 科技公司可以用自己的力量去让世界变得更美好的时候,不应该回避这个责任

本期人物

杨轩,「商业WHY酱」主播、36 氪主编

丸子,36 氪作者

阿菜,36 氪作者

幕后制作

监制:可特

编辑:Riley

后期:可特

设计:饭团

运营:George

关于节目

在这个快速变化、信息爆炸的世界,跟随资深商业编辑杨轩,和各行各业的聪明人一起,聊点文字报道中看不到的料,探寻商业背后的关键问题和本质逻辑**。**

支持我们,加入新一年的播客创新

2021 年我们发起了「声动胡同会员计划」,这是一个纯支持项目,支持「声动活泼」在播客内容上不断探索和创新。回顾 2023 年,得益于这些支持,「声动活泼」的每档节目都不断突破,不仅荣登苹果中国的年度热门节目榜单,还在 CPA 和喜马拉雅等平台都榜上有名。2024 年全新付费节目「不止金钱)」现已上线,欢迎收听。同时,新一季「跳进兔子洞)」已经上线。

欢迎 点击链接) 查看 我们 2023 年收获和 2024 年内生容计划。如果你认同或喜欢我们做的事情,也期待我们不断尝试并产生好内容,欢迎付费支持。

商务合作

声动活泼商务合作咨询)

关于声动活泼

「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。

欢迎扫码添加声小音,在节目之外和我们保持联系~