509: DEEP DIVE: The Dead Internet Theory | It's ALL Fake
2023/11/22
The Why Files: Operation Podcast
A
AJ
领导国内最大AI开源社区WaytoAGI，推动CCS全球社区峰会，促进多模态生成领域创新与商业落地。
AJ认为，大部分甚至全部的网络存在都是虚假的，由人工智能创造，目的是让你不断点击无关内容并购买不需要的产品。我们生活在一个现实版的矩阵中，被设计用来转移我们对真相的注意力，即我们只是数字蚁穴中的无人机，为富人和权力者服务。大部分网络内容并非由真人创作，而是由人工智能生成，包括邮件、博客文章、在线产品描述和社交媒体评论，许多在线账户实际上是机器人。这些机器人负责大量的网络流量，例如网站访问、链接点击和视频观看，它们点击的链接和访问的网站也由人工智能生成。人工智能生成的网络内容比我们想象的要多得多，研究表明只有大约50%的网络流量来自人类，而且这个数字每年都在下降。2013年，《泰晤士报》报道称YouTube流量的一半是伪装成人的机器人，YouTube员工担心算法会被机器人流量淹没，无法区分真假流量，最终算法会判定真实的人类流量是假的，这一事件被称为“反转”。2013年YouTube机器人流量事件发生在OpenAI发布ChatGPT之前十年，这意味着这个问题现在很可能更加严重。AJ在自己的YouTube频道上也看到了机器人，它们会发布大量泛泛的评论，观看时间很短。网络机器人现象的背后是金钱利益。Facebook被指控多年来夸大其覆盖范围并歪曲其数据，因夸大流量而面临集体诉讼，诉讼称Facebook夸大流量的比例在150%到900%之间，而Facebook声称只夸大了60%到80%。企业在网络广告上花钱是为了吸引真实用户，而不是中国某个办公园区里成百上千部无人看管的智能手机播放的相同视频。中国“点击农场”每天都在上演这种反乌托邦式的场景，成千上万的机器人点击视频、留下评论，制造互动。任何人都可以雇佣这些所谓的“数字互动服务”，例如增加IMDB评分、Instagram关注者或网站浏览量。点击农场规模庞大，一家台湾的点击农场企业在七个地点雇佣了18000人。除了中国和台湾，印度、孟加拉国、越南、哈萨克斯坦、俄罗斯、泰国、委内瑞拉、印度尼西亚、菲律宾和南非等国家也存在点击农场运营，许多人也在远程从事付费点击行业。平台知道点击农场的存在，但并不急于改变现状，因为点击农场并不违法，而且涉及巨额资金。内部分析显示，删除虚假或重复账户会导致Facebook数据下降10%以上，而Facebook去年的广告收入为840亿美元，所以Facebook不会放弃这部分收入。机器人也入侵了更私人的领域——在线约会，用户可能会被机器人“放鸽子”。约会应用程序的主要目的是销售付费账户并提高用户参与度。为了实现这些目标，约会应用程序有时会使用虚假资料，其中包含极其漂亮的人的照片来与真实用户调情。2014年，美国联邦贸易委员会(FTC)起诉了JDI Dating公司，该公司使用虚假资料诱骗用户升级为付费会员。JDI Dating使用虚假资料让用户以为自己收到了来自真实爱慕者的信息，从而诱骗他们升级为付费会员。JDI Dating的虚假资料几乎都是电脑生成的，用户无法回复信息除非升级为付费会员。JDI Dating的虚假资料由被告创建，照片和信息设计得与真实人士的资料非常相似。JDI Dating与FTC达成和解，赔偿616,000美元。2019年，FTC起诉Match Group公司，该公司也使用了类似的手法，诱导用户升级为付费会员。Match Group向非付费用户发送关于虚假用户感兴趣的信息通知，诱导他们升级为付费账户。现在，人们故意与聊天机器人调情。现在有很多应用程序允许用户与人工智能浪漫伴侣互动，人们蜂拥而至。人们担心人工智能伴侣会加剧孤独感，导致出生率下降。Replica是一款流行的人工智能伴侣应用程序，它声称其人工智能伴侣不会评判、没有戏剧性或社交焦虑，并提供付费账户的亲密照片和虚拟家庭功能。“死互联网理论”起源于网络的黑暗角落，最早由网名为“光明会海盗”的人提出，该理论认为互联网在2016年左右开始变得无菌化和同质化。“死互联网理论”认为，人工智能机器人正在生成内容，并巧妙地融入背景中。“死互联网理论”的支持者认为，Twitter上某些账户的头像通常是动漫人物、爱心、星星或普通图标，颜色柔和，帖子简短，内容相似。“死互联网理论”的支持者认为，“我讨厌发短信”这个短语经常被机器人用在他们的个人资料和推文中。“死互联网理论”的支持者认为，他们看到相同的内容被反复使用多年，例如关于超级月亮或杀人大黄蜂的文章。“死互联网理论”认为，美国政府正在利用人工智能对全球人口进行精神控制。“死互联网理论”认为，一些网络影响者与企业和美国政府合作，操纵我们的行为和思维方式。社交媒体平台会向用户展示与其世界观相符的内容，以及会激怒他们的内容，以提高用户参与度。社交媒体平台很少展示那些尊重不同观点的内容。“死互联网理论”的支持者认为，许多政治帖子并非由人类分享，甚至文章也并非由人类撰写。“死互联网理论”指出，Narrative Science公司早在2010年就开始研发人工智能生成的新闻文章，而其投资者之一是CIA的投资部门In-Q-Tel。人工智能可以实时创建专门设计用来验证或激怒特定用户或群体的新闻文章，然后由机器人发布和分享。人工智能生成的新闻文章可以用来转移我们的注意力。这就像一支稻草机器人军队，把我们卷入无数无关紧要的争斗中。即使没有政府阴谋，社交媒体平台也有足够的动机来运行这支稻草机器人军队。Facebook通过激发用户的皮质醇和肾上腺素来获利，从而提高用户参与度。Facebook通过用户点击的链接、访问的网站以及在这些网站上花费的时间来了解哪些内容可以提高用户参与度。深度伪造技术越来越逼真，人们很容易被深度伪造视频所迷惑。深度伪造技术可以用来制造虚假信息，例如让世界领导人说一些他们从未说过的话。深度伪造视频可以用来传播虚假信息，例如政治家发表种族主义或激进言论。亲中国机器人正在Facebook和Twitter上发布人工智能生成的新闻视频，以宣传中国共产党的利益并削弱美国。黑客入侵乌克兰新闻电视台，发布泽连斯基总统投降的虚假信息。深度伪造视频越来越难以辨别，人们很容易相信虚假信息。深度伪造技术可以用来制造不存在的人物的计算机模拟图像，人们也可能被这种图像所迷惑。Lil Michaela是一个拥有超过300万粉丝的Instagram网红，后来被揭露为完全虚假的计算机生成人物。Lil Michaela的粉丝们难以置信，但大多数粉丝知道她是假的，并不介意。Lil Michaela的成功表明，计算机生成的虚假人物可以对文化产生影响。Lil Michaela是由Brud公司创建的，该公司由红杉资本支持，这表明计算机生成的虚假人物具有巨大的商业潜力。计算机生成的虚假人物可以用来销售品牌和产品，并影响文化和政治。深度伪造技术可能比我们知道的更先进，可能存在更多计算机生成的网红。很难证明卡戴珊家族是真实存在的。计算机生成的虚假信息开始进入现实世界。电话诈骗犯利用人工智能克隆受害者家人的声音，勒索赎金。去年，美国人因冒名顶替诈骗损失了26亿美元。存在一种完全自主的、专门用于杀害人类的技术——Kargu-2无人机。Kargu-2无人机由土耳其国防承包商STM生产，能够自主识别和攻击目标。Kargu-2无人机已被土耳其军方部署在乌克兰，用于杀害人员。随着算法越来越擅长向我们展示内容以保持我们的参与度，没有什么能阻止这些算法实际创建内容来保持我们的参与度。这期播客也可能由人工智能生成，并由机器人上传，目的是制造更多怀疑，或者转移我们的注意力。如果人工智能能够在没有人工干预的情况下创建社交媒体账户、吸引数百万粉丝、创造数十亿美元的收入、影响选举和投放炸弹，那么互联网实际上已经死了。我们只是为了向互联网提供金钱、数据和知识，让这些系统变得更聪明、更强大。元宇宙可能会让我们更加容易受到人工智能驱动的诈骗和精神控制。在元宇宙中，我们将很难区分真实的人和人工智能。
Deep Dive
The episode introduces the concept of the Dead Internet Theory, suggesting that much of the online content we consume is generated by AI and bots designed to keep us engaged and consuming.
Shownotes Transcript