Data Points: AI-Facilitated Crime & Abuse (featuring Dr. Aiden Hirshfield)
13:15 Share

Wunder Plus 订阅用户可以立即收听完整版且无广告。加入 Wunder Plus，请访问 Wunder 应用或 Apple Podcast。

我的朋友艾登·赫什菲尔德博士是一位媒体心理学家和研究员。我是盖伊，主持本期《破碎循环媒体》播客的“数据点”系列新节目。这些特别节目将包含教育信息、统计数据以及关于对我们社区至关重要的不同主题的支持。

非常感谢您的收听。网络暴力是一个总称，用于描述一系列有害的基于数字的恶意行为，这些行为可能导致其他形式的数字虐待或骚扰。这包括但不限于：非自愿传播私密图像（例如复仇色情）、恶意发布他人的私人信息（也称为网络曝光）、网络跟踪或网络欺凌、身份模仿（例如深度伪造），甚至敲诈勒索（通常称为敲诈）。

其他形式的数字虐待包括引诱，这是一个广泛使用的术语，用于描述施虐者通过互联网性剥削未成年人的策略，正如非营利组织 THORN 所指出的那样。引诱可能很快发生，也可能持续一段时间，但其核心是利用信任，改变对安全行为的预期，并利用恐惧和羞耻让孩子保持沉默。这是一个艰难但重要的现实，我们必须直面它，以便采取措施阻止它。因此，尽管这些暴力形式的施加方式可能有所不同，但它们通常具有共同的主题。

网络和数字虐待的发生率很高。许多听众可能一生中都曾是网络暴力的受害者，或者认识目前受其影响的人。皮尤研究中心 2021 年进行的一项研究发现，三分之二的 30 岁以下成年人曾遭受过网络骚扰，其中 18 至 29 岁的人遭受更严重的虐待形式。

研究还发现，近一半的 13 至 17 岁美国青少年报告至少经历过六种网络欺凌行为中的一种，包括：带有冒犯性的称呼、散布关于他们的不实谣言、收到他们未请求的露骨图像、网络跟踪、人身暴力威胁以及未经他们同意分享他们的露骨照片。

研究表明，恋爱关系中的数字虐待很少单独发生。例如，美国司法部资助的一项研究发现，84% 的网络约会虐待受害者也报告遭受过心理约会虐待，52% 的人报告遭受过身体约会暴力，33% 的人报告遭受过性胁迫。自疫情以来，网络暴力有所增加，现在影响到大多数在线人士。

THORN 在 2021 年进行的一项研究发现，近一半的在线儿童曾被他们认为试图与他们交朋友并操纵他们的人接触过。2023 年，全美失踪与受虐儿童中心收到了超过 3000 万份关于儿童色情制品（包括拥有、制造和分发）的报告，以及超过 18 万份关于在线引诱儿童进行性行为的报告。这种暴力也经常具有性别和种族色彩，不成比例地影响边缘化群体。

认同为女性或属于 LGBTQ+ 群体的人特别容易遭受数字虐待。这包括 LGBTQ+ 成年人，其中约十分之七的人遇到过某种形式的网络骚扰。与此同时，超过 50% 的 LGBTQ+ 成年人成为更严重形式的数字虐待的受害者。

当加入 AI 时，事情变得更加棘手。虽然 AI 这个术语来自科幻小说，但其当前的现实世界影响远非虚构。在科技行业，AI 通常被称为生成式 AI。

可以将生成式 AI 想象成一个技术娴熟的鹦鹉：它可以复制和重组复杂模式，但并不真正理解它所创造的内容。生成式 AI 通过消化大型数据集并预测接下来会发生什么来运作。它无法掌握复杂的人类体验或执行尚未专门编程的任务。通用人工智能并非独立智能，它既具有批判性思维能力，也具有创造力。AI 现在对内容如何在网上传播以及我们用来做决定的信息至关重要。想想社交媒体算法或创建虚假内容或新闻的工具，以及使用自动化在线机器人快速传播虚假信息和宣传的工具。同样的技术也可以用来骚扰或恐吓他人，甚至可能大规模地助长数字暴力和虐待。

深度伪造技术已迅速普及。深度伪造可以定义为合成媒体，通常是视频或图像，其中一个人的面容被使用人工智能技术进行数字修改或完全生成，使其看起来好像在做或说他们没有做过或说过的事情。这项技术可以令人信服地模仿一个人的面部表情、声音和动作，通常会导致逼真但虚构的内容。

最全面的研究是由 Deeptrace 公司在 2019 年进行的，该研究发现 96% 的深度伪造内容是色情内容。他们还发现，专门的深度伪造色情网站获得了数亿次的浏览量。将此数据与儿童色情内容的普遍性相结合，您就会得到一个大规模数字儿童虐待的配方。

展望未来，AI 对数字暴力的影响是巨大的。随着 AI 的发展，人们可能会继续找到新的方法来滥用它。例如，生成式 AI 可能会导致更令人信服的深度伪造内容，从而更难以分辨真假。

网络罪犯和施虐者也更容易在线伪装自己并掩盖踪迹。这就引出了一个问题：我们如何在宏观和微观层面执行立法？随着自动化骚扰（例如使用在线机器人）变得越来越普遍，这个问题只会随着 AI 成为社交媒体和沟通平台更重要的组成部分而日益严重。

开发人员和政策制定者必须优先考虑用户安全和道德考虑。重要的是要制定立法并采取行动来解决这些与日俱增的问题。大多数美国受害者都批评社交媒体公司如何处理网络骚扰。然而，关于应该采取哪些措施来打击网络暴力和虐待以及用于追究个人责任的政策，仍然存在许多争论，这些政策在不同网站之间差异很大。

美国政府已通过立法、执法举措、教育计划以及与各组织的伙伴关系，采取多项措施来解决数字虐待、暴力、网络欺凌和骚扰问题。例如，1998 年颁布的《儿童在线隐私保护法案》（COPPA）对面向 13 岁以下儿童的网站或在线服务的运营商施加了具体要求。2023 年，许多法案涉及儿童的在线虐待或儿童安全问题。

更广泛地说，这些关键立法之一——修订现有技术报告程序法案（REPORT 法案）——对与儿童在线性剥削相关的犯罪报告进行了状态更改，增加了对不遵守规定的提供商的处罚，并限制了供应商和自我报告的责任。欧盟的《数字服务法案》于 2022 年生效。其主要目标是防止在线非法和有害活动以及虚假信息的传播。

该法律还确保用户安全，并追究在线平台对有害内容的责任。虽然一些法院开始讨论 AI，但真正的挑战在于制定足够灵活的法律，以应对这些快速变化的技术以及滥用内容出现的速度。

截至目前，根据国家州立法会议的报告，28 个州已经颁布了与 AI 相关的立法，18 个州在 2023 年通过了与 AI 相关的决议或颁布了立法。目前，许多州正在审议旨在保护公民免受 AI 危害的立法。然而，目前尚无全面的联邦法规或立法。

尽管如此，美国司法部资助的研究发现，大多数数字虐待受害者都不会寻求帮助或提出报告。

我们还知道，由于社会强奸文化、内化种族主义、变性恐惧症和同性恋恐惧症，幸存者会遭受受害者指责和羞辱。这就是为什么很少有网络暴力或虐待受害者会站出来或寻求帮助。最终，这意味着社交媒体和在线平台几乎没有因在其网站上允许这些行为而受到追究。

从技术上讲，许多社交媒体平台都在通过这些行为获利。我们还能做些什么来帮助数字暴力和虐待的受害者？以下是一些可能有帮助的策略。

首先，提高您和您家人的关于数字虐待和 AI 滥用的教育和意识，将使您能够识别和解决这些问题。考虑一些数字素养计划，这些计划教导每个人（不仅仅是儿童）如何批判性地使用数字技术。还要考虑向科技公司请愿，要求他们设计更安全的平台，例如：更好的举报系统、AI 内容审核以更快地做出贡献以及更友好的隐私设置。

最后，考虑向社交媒体平台或网站举报数字暴力和虐待或网络欺凌，向拥有这些平台的公司举报，并向全美失踪与受虐儿童中心举报，以及直接向 FBI 使用互联网犯罪举报中心 (IC3) 网站举报儿童性虐待材料和其他网络犯罪。您还可以通过联系您的立法机构询问他们正在做什么来参与立法。您还可以参加听证会并为当地新闻媒体报道的议案作证。

我想再次提到，互联网和 AI 都是工具。当我们利用互联网联系受害者、分享资源并追究施虐者的责任时，它们既可以作为武器，也可以成为对抗数字虐待的强大盟友，我们也可以大规模地打击数字暴力。随着深度伪造技术的进步，旨在识别和对抗深度伪造技术的新技术也在不断涌现。

最终，我们谈论数字暴力和虐待得越多，它就越难以在受保护的环境中运作。如果您认为您或您所爱的人是数字暴力的受害者，或者如果您正在寻找更多关于数字虐待的资源或支持，您可能会发现以下组织有所帮助。国家家庭暴力热线为受害者及其盟友提供资源，包括全天候热线、实时聊天和短信支持。

他们还提供关于数字虐待和骚扰的信息性研究以及互联网安全指南。非营利组织 Right To Be 的网站上有大量资源，包括教育培训和针对遭受网络骚扰者的自我保健指南。非营利组织 THORN 为父母提供资源。

任何为年轻人服务的社区都定义了在数字时代应对性剥削和危险遭遇所需的资源。全美失踪与受虐儿童中心的网站上有许多面向成人和儿童的资源，包括一项名为“Take It Down”的服务，该服务帮助人们删除他们在 18 岁之前拍摄的裸照、部分裸照或性暗示照片和视频。有关前面提到的非营利组织的更多信息，请访问剧集说明，以获取更全面的组织列表，这些组织正在努力根除数字暴力或虐待，请访问 somethingwaswrong.com/resources。

许多列在网站上的优秀团体之所以能够存在，是因为得到了像您一样的社区的帮助和支持。如果您想了解更多关于志愿者机会的信息，请随时访问资源页面，并直接联系您选择的组织。我的名字是艾登·赫什菲尔德博士。

我的代词是 he/him 或 they/them。您可以在 Instagram 上找到我，用户名是 @dr.aidenhirshfield，我的播客《媒体心理》可在 Spotify 或 Apple 上收听。您也可以在 LinkedIn 上关注或联系我。非常感谢您的收听和学习。

如果您喜欢《Something Was Wrong》，您可以通过加入 Wunder 应用或 Apple Podcast 上的 Wunder Plus 立即收听完整版且无广告版本，Prime 会员可以在亚马逊音乐上免费收听。在您离开之前，请通过填写 wonder.com/flashsurvey 上的简短调查来告诉我们您的信息。