The AI models invading our feeds
25:05 Share

人工智能是否使社交媒体更危险？随着越来越多的网络红人左右着我们许多人的生活方式，我们已经牢牢地进入了网红时代。随着AI网红时代的到来，长期以来对不切实际的美丽标准或无法实现的生活目标的担忧，正受到业内批评人士的更加强烈地质疑。但是，这些AI生成的模型的信息流是否比我们多年来所接触到的经过润色的个人资料更“真实”？在今天的节目中，露西·霍金斯邀请到了BBC网络记者乔·蒂迪。他将详细介绍他最近拜访创建世界上最成功的AI网红之一艾塔娜的团队的经历……制作人：劳里·卡卢斯和玛丽亚娜·埃尔南德斯·卡里略音响工程师：迈克·雷加德助理编辑：塞尔吉·福卡达·弗雷克萨斯高级新闻编辑：萨拉·韦德森</context> <raw_text>0 此BBC播客由英国境外的广告支持。

BBC世界服务部的《纪录片》现已推出，斯蒂芬·科茨带您前往莫尔斯电码世界锦标赛。在一个互联互通的世界里，莫尔斯电码——由点和划组成的字母表——现在可能感觉像是来自另一个时代。我将与一些致力于使电码延续下去的人们会面。莫尔斯电码，准备传输。现在搜索《纪录片》，即可在您收听BBC播客的任何地方收听。

我们知道您的假期待办事项很多。

而UPS门店随时为您提供帮助。凭借我们的打包和运输保证，您的礼物将完好无损地送达，否则我们将予以赔偿。需要打印贺卡吗？我们还是首屈一指的打印店。我们为您提供假期所需的各种物品。访问theupsstore.com/guarantee了解完整详情。大多数门店为独立所有。产品、服务、价格和营业时间可能会有所不同。详情请咨询门店。UPS门店。所向披靡。今天就来您当地的门店吧。

您好，我是露西·霍金斯。这里是来自BBC世界服务的《全球故事》。我们生活在一个网红的世界里。无论是我们的护肤程序、穿着的衣服还是假期去的地方，社交媒体名人都在塑造着我们的日常选择。但随着技术的进步，利润丰厚的网红行业正被利用人工智能创造的模特所重塑。

一些AI网红积累了大量的粉丝，批评人士提出了质疑。从他们可能设定的不切实际的美丽标准到匿名创作者的问责制。因此，随着AI模型肯定会在网上扮演越来越重要的角色，开发人员是否意识到了伦理问题？用户是否有能力辨别什么是真实的，什么是人工智能？

今天和我一起的是BBC的网络记者乔·蒂迪。你好，乔。你好。乔，我认为如果我们都被问到，我们会承认我们尝试过产品、餐馆、衣服，听过音乐，各种各样的东西，因为我们在社交媒体上看到过。我们现在似乎都在某种程度上受到网红的塑造。

哦，是的，我认为是这样。我认为如果你说你对网红免疫，那么你可能是在撒谎，不是吗？因为有一些人、角色和名人是我们仰慕或感兴趣的，他们拥有非常庞大的粉丝群。因此，即使您没有直接受到影响，您也可能会发现您生活中的人受到了他们的影响。不过，我们能否准确指出社交媒体网红概念首次出现的时间？

您必须追溯到博客的时代。所以，在21世纪初，互联网的早期，人们开始，我不知道，一个洗碗机评论网站，他们变得非常热衷于此。他们定期更新内容。人们找到这些博客，阅读它们，变得值得信赖，这些就是创作内容的个人。

然后最终，当然，你会得到广告商和产品所有者说，哦，等等，那个人有观众，而且是一个忠诚的、值得信赖的观众。我们为什么不让他们赞助我们的产品或让他们评论我们的产品呢？然后，在你不知不觉中，你开始得到一些金钱的交换。然后，当然，随着2004、5、6年Facebook的兴起，事情真的开始启动了，突然你的博客变得更大。

然后我们进入YouTube，YouTube将博客带入了视频博客，然后人们在YouTube上变得非常非常受欢迎。所以品牌找到了他们。我认为这一点在整个社交媒体网红的影响中非常重要，那就是YouTube开始回馈的时候。嘿，创作者们，今天我们宣布YouTube即将推出令人兴奋的更新。

首先，我们将为YouTube合作伙伴计划提供新的货币化机会，并扩大更多创作者的访问权限。因此，如果您在那里做得非常好，您将获得品牌的报酬来影响人们购买的东西，但您也会因为获得的观看次数而获得YouTube的报酬，这会推动参与度，推动您创作更多内容，等等。然后，当然，我们现在正处于这个时代……

各种各样的网红，无论是通过品牌的赞助，还是现场露面，以及为在观众面前创作内容而填补大厅等。甚至您可以在TikTok上进行的家庭直播，人们也可以在那里赠送您钱。这不仅仅是在网上销售产品。

不再是广告了。而是关于如何围绕如何增加额外收入来构建您的全部内容？我们目前正在寻找一个新的烤箱。我简直掉进了关于我们应该买什么烤箱的网红兔子洞里。仅仅关于一件事情，就有大量的内容可用。问题是您现在已经开始寻找它了。所以现在他们会持续几个月向您发送这些东西。绝对是这样，乔。但是网红现在如何赚取大部分钱，他们赚多少钱？

这取决于平台。例如，如果您是YouTube上的网红或YouTuber，那么您将获得两种不同的收入来源。一种来自YouTube视频观看次数，YouTube会支付您广告收入的一部分。另一种是您可以在视频中进行的交易。因此，您经常会看到人们暂停YouTube上的视频，然后他们会说，嘿，您看到这个新的科技产品了吗？太棒了。我已经使用了几个星期了。然后他们在之后继续播放视频。

而如果您在Instagram上，则不会从公司获得任何回报。他们一直在讨论是否要返还资金，但这与品牌对您帖子的赞助有关，例如，人们可以赚很多钱。例如，金·卡戴珊拥有数亿粉丝，如果她发布关于特定产品的帖子，她可能能够获得……

数十万美元，甚至可能数百万美元的报酬。——好的，我将带您完成我的九步流程。第一步是洁面。我泵几下，然后加一点水，使其变成奶油状泡沫。

它让我的脸感觉非常干净，但又非常水润。我们看到越来越多的社交网络意识到，如果他们能让网红加入，那么他们就能让观众加入。这就是X（前身为Twitter）正在尝试做的，那就是向在平台上获得良好参与度的人返还资金。

然而，今天我们讨论的是AI网红。我认为AI网红是什么，可能就在名字里。但是你能向我们解释一下我们正在讨论什么吗？它们是什么？是的，到目前为止我们谈论的所有人，他们都是现实生活中的人。

有时你会怀疑金·卡戴珊。没错。这也是我们接下来要讨论的一点。你确实会怀疑这些人。但无论如何，AI网红是由人类在工作室或个人爱好者等不存在的地方创造出来的。因此，他们通常会在Instagram上发布图片，或者偶尔会在TikTok上发布一些视频。他们会像真人一样生活，但他们不是。他们是由人工智能创造的人。

产品，我想。现在之所以会发生这种情况，是因为生成式AI的兴起。现在制作几乎，是的，逼真的不存在的人的图像变得如此简单和容易。

您去巴塞罗那拜访了目前最受欢迎的AI网红之一艾塔娜背后的团队。我最近也认识了她，知道我们要谈论她，并且很快就对艾塔娜非常着迷，实际上，向每个人展示她，在网上关注她。但是她是如何被创造出来的？告诉我们一些关于艾塔娜的事情。

她是巴塞罗那一家名为Clueless Agency的工作室创建的。故事是这样的，他们开始厌倦了他们被要求与之合作进行广告或赞助交易的一些网红的diva态度。因此，他们决定开始尝试人工智能，并加载了诸如稳定扩散之类的文本图像生成器。因此，您可以输入任何您想要的内容，等待几秒钟，然后AI将自动生成图片。

他们想，等等，如果我们创建自己的模型，可以建立自己的粉丝群，我们可以完全控制这个人，或者更确切地说，是这个创作。所以他们做了。他们大约在一年前开始的。他们创造了这种非常有吸引力的，如果你能想象好莱坞完美身材是什么样的，那就是艾塔娜的样子。棱角分明的颧骨。棱角分明的颧骨。非常苗条，等等，你知道的。她有着非常独特的长粉色头发。

而且，据创作者说，这是她真正脱颖而出的原因之一。这些图片的特点是它们非常非常逼真。

你真的很难分辨出区别。说真的，当我第一次看到她的时候，我不知道她是AI生成的。是的，我认为有些人可能会认为，哦，我可以立即分辨出来。但我认为对于没有经过训练的眼睛，说实话，我们大多数人都是这样，不是吗？你看这个人，你会想，哇，好吧，这是一个真人。而且当我第一次看到她的时候，她在我手机上。

所以她更小，所以更难看到一些瑕疵。这正是99%的人会遇到艾塔娜的方式，正如你所说，在像手机这样的小屏幕上。我们打算始终尝试使其尽可能类似于网红的做法。我们在图像中用我拍一张照片，然后必须用AI替换它。

所以我们必须稍微调整一下灯光和阴影，使其尽可能真实。你不会真的知道这是AI。在个人资料简介中写明这是一个AI创作，但艾塔娜不仅仅是发布……他们不仅仅是发布她的照片。他们有故事。例如，在Facebook上，您可以在您的短片中发布这些内容，例如，这是我今天所做的事情。她购物的十秒钟，她和朋友一起吃午餐的十秒钟。让我们更具体一点。在过去的几天里，是艾塔娜的生日。

哦，我不知道。祝你生日快乐。所以他们把她发布在餐桌旁。有气球。她为来参加生日晚餐的人摆好了桌子。这太有趣了。我在那里和她聊过，说，你会让她变老吗？她会随着时间推移而变老吗？他们仍在决定是否要让她保持20多岁的形象，或者是否要让她变老。是的，所以这是整个想法……

她不仅仅是一个模特，而是一个网红。所以她过着光鲜亮丽、充满乐趣、奢侈品的生活。因为，当然，作为一个网红，这是至关重要的。我们花了大约两个月的时间来创造这种个性，并了解她将如何说话，她将如何与她的社区互动。这就是为什么我们相信她一直在工作，并且今天仍在工作。

如果你是一个发布你无聊生活内容的网红，你什么都不做，没有人会想赞助它。你不会拿着很多路易威登的包之类的东西，对吧？但他们对她的穿着非常讲究，例如。是的。他们会做出非常明确的决定，因为他们已经赋予了她某种时尚感。因此，他们不会以某种方式打扮她。是的。

是的，当我们在巴塞罗那时，这很有趣，因为我们和他们一起外出拍摄，他们向我们讲解了他们如何拍摄没有人的照片，然后拍摄团队成员的照片，然后他们只是用艾塔娜替换了那个人。他们构建的人工智能机器非常复杂。他们不会确切地说出它是哪种软件，但我们可以想象它是……

某种稳定扩散加上其他软件。它们是开源的，因此任何人都可以下载、调整和使用它们。他们在阳光明媚的一天写下了艾塔娜在公园里享受……迫不及待地想走。我的意思是，他们去了巴塞罗那非常著名的公园世界。是的，风景如画。但是软件制作了大约25个不同版本的艾塔娜处于那个位置。如果我们愿意，我们现在可以做一个简单的提示，输入艾塔娜，然后……

用更多的东西来补充提示，比如衣服、表演。不同的姿势，不同的服装。有一次，由于某种原因，它在她头上戴了一顶皮帽子，团队开始大笑，因为他们说，哦，艾塔娜永远不会戴那个。

例如，艾塔娜永远不会穿这个。对，这就是我们所说的。所以很有趣，就像，哇，我希望她能穿这个，但她不会穿这个。这让我笑了，因为当然，她并不存在。我想，艾塔娜还有其他优势。她从不感到疲倦。没错，从不抱怨。他们可以让她24/7工作。我的意思是，他们还说了什么关于拥有艾塔娜而不是真人的好处？

好吧，他们总是回到的一点是，他们完全控制着这个人。他们可以让她筋疲力尽，因为她并不存在。但我认为这里也存在新颖性因素，因为有些品牌知道艾塔娜是AI，知道她有几乎标志性的背景，说明她是如何被创造出来的，以及她是如何变得如此出名的。我们也应该说，她在Instagram上有33.5万粉丝。所以她是

据我所知，这是最受欢迎的，这波逼真的模型。所以有新颖性因素，但也有她看起来像她那样的事实，这确实让大家兴奋不已。她做过很多品牌交易。他们估计他们每月通过她的广告和赞助赚取数千美元。他们做得最好的一个月是1万美元。

因此，我们研究了网红文化以及最近AI发展如何改变了这个行业。接下来，我想看看围绕艾塔娜等AI模型的伦理考虑以及这些数字名人在网上对完美的压力加剧时的未来。

BBC世界服务部的《纪录片》现已推出，斯蒂芬·科茨带您前往莫尔斯电码世界锦标赛。在一个互联互通的世界里，莫尔斯电码——由点和划组成的字母表——现在可能感觉像是来自另一个时代。我将与一些致力于使电码延续下去的人们会面。莫尔斯电码，准备传输。现在搜索《纪录片》，即可在您收听BBC播客的任何地方收听。

您正在收听BBC世界服务的《全球故事》。工作日每天都会有一个新的播客剧集。只需在您收听播客的任何地方搜索《全球故事》即可。和我一起的是乔·蒂迪。

乔，艾塔娜，当你看到她时，许多人会说她很完美。AI网红像艾塔娜是否在设定非常不切实际的美丽标准？100%，是的。我认为如果你看看艾塔娜的照片，必须要说的是，还有其他像她一样的AI网红。

模特和网红，她们都很性感。她们都是身材苗条、胸部丰满的女性，她们的行为和外表都以某种轻浮的方式。这种类型的

艺术或文化，无论你称之为什么是，都非常具有男性凝视的特点。对此有一些非常严厉的批评，因为当然，对于网红来说，我们已经看到了完美的生活，尤其是在Instagram上，被展示给我们。人们非常苗条。他们使用非常巧妙的灯光让自己看起来更好。

或者角度，你知道的，然后你有了这个额外的层次，现在正在进入人工生成的女性，她们看起来达到了传统吸引力的无法企及的水平。我认为AI模特和网红的兴起存在巨大的问题。我认为他们正在设定一个不切实际的美丽标准，这个标准非常接近现实，以至于许多追随者并没有意识到他们不是真实的，尤其是青少年，年轻的十几岁的女孩。但是……

这种完美是如此难以实现，因为它不是真实的。这就像我们没有人能够达到的那样。他们是否尝试过创造一个更现实的人工生成女性？他们说他们尝试过，因为这家机构特别做的两件事是，他们做艾塔娜，这是一个网红，品牌赞助交易，诸如此类的事情。但他们也为品牌做定制的AI创作。他们告诉我，他们试图制作更丰满的模特，例如，或者不同的多样化外观。

但实际上，据他们说，广告商只想要传统的好莱坞风格的女性，因为那是最吸引眼球的。一开始，我们试图制作更丰满的模特，例如，或者更非标准化的模特。客户不喜欢那样。他们通常想要一个完美的模特。但你可以在公共城市随处可见。

他们说他们现在正在尝试。他们已经制作了一些男性AI网红。我正要问，现场有任何人吗？是的，没有人想要他们。没有人感兴趣。他们没有发布任何作为网红的，但他们已经发布了一些作为可以在不同的广告活动中使用的模特。据他们说，没有人想要那样。乔，有一些情况，使用AI创建的在线内容没有正确标注。

这些网红账号，这些AI网红账号，是否有义务声明它们是经过润色的，甚至是幕后是谁？是的，它必须以某种方式标记为AI生成。这是根据Instagram的条款和条件。我研究这个故事时发现的所有内容，它们都在个人资料中公开说明。

可能不在顶部。它会说，来自芝加哥的网红，对这些感兴趣，这些，这些，这些，AI生成在底部。当你看到图片时，情况更糟了，因为当然，通常会有一个标题与图片一起出现，然后在底部，它会说，这是AI生成的。所以我想，

可能存在问题，因为当然，大多数人不会查看出现在他们的“为你推荐”页面或他们根据算法生成的你可能感兴趣的内容建议中的图片的个人资料。他们只会滚动浏览它。我认为即使它们被标记了，也有一些人并没有真正理解这一点，或者他们没有阅读过。因为如果你看看艾塔娜的一些照片上的评论，例如，他们会说类似的话，

“哇，我希望我有你的身材。”“看看你的健身程序。”诸如此类的事情。我认为当艾塔娜发布关于在健身房锻炼的帖子时，这并没有帮助。“今天在健身房进行了很棒的锻炼。”“这是我使用的营养品牌。”或者“这些是我在健身房拥有的运动器材。”所有这些都在某种程度上延续了围绕艾塔娜的神话，她是一个在健身房努力工作、注意饮食并看起来像她那样的人。

艾塔娜受到控制，但是我们会到达这样一种地步吗？这些AI生成的网红将变得更加自主，并且实际上在没有那种人为输入或控制的情况下创建内容？

很有可能。我认为拥有受个人或工作室控制的AI网红的重点是，您可以控制它们，并且您可以使用该角色做任何事情来为自己赚钱。所以我认为会有一个自动化成为问题的点。所以现在，是的，你可以制作一个聊天机器人，例如。

如果你想的话，你可以和艾塔娜聊天好几天，这对粉丝来说可能是一个好主意，例如。但你不会希望她说错话或做错事，从而影响她的形象，因为这一切都是关于形象的。就是这样。它非常肤浅，这一切都只是关于如何使用不存在的人的形象来赚钱。但这随后会引发一个问题，最终谁将对内容负责？

是的，这无疑是我们几年后将要进行的对话。我的思绪刚刚飘到我最近做的另一个故事上，关于一个被创建用来尽可能长时间地让诈骗电话保持在线的AI聊天机器人。哦，那不是很可爱吗？你说调查？我很乐意帮忙，亲爱的。

不过，请稍等一下。我的听力不如以前了，所以我可能需要你重复一些事情。这是完全自动化的。所以他们只是相信那个假装成有点糊涂、困惑的老妇人的AI不会偏离剧本太多，说一些愚蠢的话。这里的风险非常低，因为这是一个试图惹恼一些罪犯的组织。如果这个AI说了一些愚蠢的话，也没关系。但是如果你有一个AI网红有点偏离轨道了，

这是一个潜在的问题。艾塔娜和其他类似的角色是否仅仅是你所描述的扫描方面的先驱，而只是AI模型在其他行业中更广泛使用的先驱？想想我作为BBC新闻主播所做的工作之一，我是否即将被取代？你听说过Notebook LM吗？没有。这是最近在病毒式传播的一件大事。谷歌创建了一个新的AI系统，您可以将任何您想要的信息自动输入其中。

然后它将用两个虚构的人，两个美国人，为您朗读一个10分钟、20分钟或半小时的播客。他们正在就这个话题进行非常逼真的聊天。所以人们将其用于他们的研究。例如，如果您正在撰写一篇关于光合作用的论文，而您在健身房，您不想阅读它。将其放入Notebook LM，您就可以听到两个虚构的AI创作就您的论文进行聊天。好的。你一直在问这个整个大脑重塑的事情。

以及如何实际使用它来完成事情。不仅仅是令人感觉良好的事情，而是真正的改变，你知道吗？没错。今天不加糖衣。我们将深入探讨这个问题。直接来自Bob Doyle的《提升你的卓越》手册。他通常为付费客户保留的东西，但我们正在为您提供内部信息。喜欢它。没有废话，直接进入好东西。

在媒体方面，我们正在朝着一个非常人工合成的未来前进。我认为人们知道Instagram上的网红，无论有没有AI，他们都在展现一种完美。例如，你知道你看到的一些富人在私人飞机上的照片吗？他们可能不在私人飞机上，因为你可以租用一架不离开机场的私人飞机，只是为了炫耀而在私人飞机内拍照，你知道的。所以社交媒体已经存在一层虚假的东西。所以有些人会争辩说，AI与之相比有什么大的飞跃？这就是Clueless Agency的论点。他们会说，好吧，如果你将艾塔娜与其他网红进行比较，她与其他人一样。归根结底，她是一个网红，但如果将她与其他网红进行比较，她看起来与其他人一样。我相信我们

我们将继续存在，AI技术也将继续存在。因此，在某种程度上，我们必须结合起来，携手合作，看看我们能否一起做到。对于许多听众来说，这一切实际上都令人担忧。这也意味着我们可以预期政府将采取其他监管行动吗？或者那将如何运作？或者那会是什么样子，乔？

我认为这将非常困难，因为你可以认为这是艺术。你可以认为这是使用电脑来创作艺术，就像肖像摄影师那样。我想我们现在已经看到社交网络主动出击，试图做些什么。所以他们在过去几年里写道，如果这是AI生成的，你需要标记它。他们是否在执行这些规则……

我不确定。正如我提到的，我发现的那些是经过标记的，但方式尽可能小。政府的做法，尤其是在英国、欧盟和美国，我们正在看到一种努力尝试保护儿童在线安全的趋势。因此，如果出台任何立法，我认为它将是这样的。例如，儿童的信息流中将没有AI网红，诸如此类的事情。

但很难监管。那么根据你在巴塞罗那的经验，这一切将走向何方，乔？我在巴塞罗那与Clueless Agency在一起时发现真正有趣的是，他们现在正在从事一个非常非常符合2024年的项目。他们正在尝试为一家大型汽车公司设计AI车载语音助手的形象。他们称之为艾琳，因为他们所做的一切都包含AI。

嗨，我的名字是艾琳，我是奥迪Q6 e-tron的新虚拟助手。你会觉得奇怪，因为虚拟助手一直只是一个声音。直到现在。

这让我觉得这是不可避免的，因为我们现在一直在通过语音助手与人工智能对话。这种情况会越来越多。我说的显然不仅仅是Alexa、Siri或Hey Google。它会继续下去，永无止境。我们将想要使这些机器人和机器人性化。这是一个非常有趣的观点。而且我可以看到这种情况会发生得越来越多。他们做的另一件可能有趣且令人兴奋的事情是，他们创造了另一个AI网红，因为ITAN已经非常成功了。

她性化程度较低。同样，她是一位年轻女子，但留着金色的短发，是一位音乐家。除了图片和故事，他们还添加了音乐，因为当然，在生成式人工智能方面，音乐现在已经唾手可得。我认为这方面可能会发展得很快，因为我认为如果你是商业实体，你会着眼于音乐之外的东西。

网红赞助和品牌交易，你会关注出场。如果你想想过去几年我们在音乐方面的一些演出，例如ABBA。在为期五周的录音过程中，他们使用了160台摄像机，不得不穿着带有数字设备的特殊服装来捕捉每一个动作。

今天的演出将用他们过去的面孔进行编辑。你已经看过他们正在做的ABBA秀了。Voyage，是的。是的，Voyage，他们用全息图。全息图，是的。如果你是一个网红机构，并且试图拓展业务并进入不同的行业，为什么不这样做呢？我认为这种情况会发生。如果你现在有一群青少年和我们在一起，你会给他们什么最好的建议，关于他们如何使用人工智能以及他们在消费什么？

我想这里有两件不同的事情。我认为你所消费的东西，真正重要的是要知道什么是真实的，什么是假的。在这个例子中，简单的方法就是阅读标题底部，因为它通常会有标签。去查看个人资料。你见过青少年在手机上滚动浏览吗？是的，我也见过我自己滚动浏览。停下来阅读标题。没错，是的，没错。而关于他们可以做什么的另一个问题，我认为这非常令人兴奋。我认为如果你是个青少年……

它远远超出了过去。所以当我在大学的时候，Facebook才刚刚起步。你知道，以某种方式成为网红的概念，是的，当时有一些博主，但没有人能赚到很多钱，或者拥有一个完整的职业生涯，你只需要通过社交网络就能填满体育场之类的地方。但现在就是这样。

而且当你身边也有AI的时候，如果你负责任地使用它，你可以做一些非常惊人的事情。我认为我们不应该害怕AI。我认为我们应该弄清楚如何负责任地使用它。Joe，谢谢你。我希望我们能再次见面。真实的人。真实的人。而且是的，我不会很快因为AI生成的新闻主播而失业。谢谢，Joe。谢谢。

非常感谢您的收听。如果您想联系我们，请发送电子邮件至[email protected]。在WhatsApp上给我们发送消息或语音留言。所有这些细节都在我们的节目说明中。无论你在世界哪个地方收听，这就是《全球故事》。感谢您收听我们的节目。再见。

现在可在BBC世界服务部的纪录片中收听，Stephen Coates将带您前往莫尔斯电码世界锦标赛。在一个互联互通的世界里，莫尔斯电码，这个由点和划组成的字母表，现在可能感觉像是来自另一个时代。我正在会见一些正在让电码延续下去的人。莫尔斯电码，准备传输。现在收听，搜索“纪录片”，无论您在哪里收听BBC播客。