Episode 1: Quality Assurance
32:43 Share

谢谢拨打 Discover 电话。请注意，此通话可能会被监控和录音。现在，请问有什么我可以帮您的？是的，我注意到上个月我的账户有一些未经授权的费用，需要帮助。

解决这个问题，这是我今年早些时候与客服人员通话的记录。嗯，这并不是我本人。这是一个我用 AI 聊天机器人复制的语音克隆，完全由人工智能控制。使用我的电话号码拨打电话。

请说出您的社保号码最后四位数字。对不起，我不方便在电话上提供我的完整社保号码。我可以提供哪些其他信息来验证我的身份？

对不起，我不确定我理解。请说出或输入您的社保号码最后四位数字。我理解这个要求，但出于安全和隐私原因，我不方便在电话中提供我的社保号码的最后四位数字。我可以提供哪些其他身份信息来验证我的身份，并获得有关这些未经授权费用的帮助？

您可能听说过语音清洗。也许您甚至尝试过。如果没有，它听起来很像 AI 软件能够同步复制您的声音，然后说出您想要给它的任何文字。

我是伊凡·拉特利夫，一名科技记者，已经报道了科技，特别是人类与科技交叉的黑暗领域，已有几十年。正如您可能猜到的那样，这是我的克隆语音。它可能有点木讷，但如果加上我一些更令人讨厌的说话习惯，会更好。

这是我本人，我的制作人实际上剪掉了我很多真实的片段，使我听起来更好。无论如何，就像 AI 世界中的许多发展一样，这项技术的潜力正在以疯狂的速度增长。在过去的几年里，克隆语音从听起来像我的笑话，到，嗯，听起来相当不错。

然后直接到有点可怕。我六个月前用几分钟我的声音音频制作了第一个克隆。玩了一会儿很有趣。

您可以输入任何想要说的话，它会为您录制您的声音，说，我制作了一些录音，并将其播放给人们的声音。男性，嘿，比预定时间晚了点。给我来一杯曼哈顿。

如果您在我之前到达那里，他们会感到有趣。我也觉得有趣。但老实说，我很快就厌倦了。

一方面，当然，我可以让它说任何我想说的话。而且，至少在语音方面，它听起来足够像我。另一方面，我可以让我的声音说出任何我想说的话，而无需输入。

但是，我开始想知道，是否有办法让这个克隆语音实现自动化，让它自由行动，独立运作？事实证明，有。我将我的语音克隆连接到 ChatGPT，然后将其连接到我的电话，以便它用我的声音进行对话，看看我能做什么。如果我所做的只是给它我的名字，然后指示它执行一项简单的任务，比如拨打客服电话，会发生什么？

谢谢您拨打 Discover 电话。我的名字是克里斯蒂，来自芝加哥。请问您的全名？你好，克里斯蒂娜。

我的名字是伊凡·史密斯。您在我们这里有借记卡还是信用卡？是的，我这里有一张信用卡。

毫无疑问，您最近已经阅读、听到或看到很多关于 AI 的信息。这些故事现在无处不在，特别是所谓的生成式 AI，它驱动这些大型语言模型聊天机器人或 LLM。您可能用过其中一个。您可能碰巧用过其中一个。无论哪种方式，您可能都参与了关于这些系统将会有多强大的重大辩论。

它们将有多有用，有多危险？它们会让我们变得超高产，还是仅仅抢走我们的工作？它们会成为我们可靠的数字助手，还是我们的超级智能统治者？或者仅仅将数千年的人类创造力转化为无尽的虚假垃圾。

多年来，我学到的一件事是，有时为了弄清楚这些问题，您必须全身心投入。举个例子。几年前，我想探索科技对我们隐私的影响，我做了一个故事，尝试在月内消失，抛弃我的生活，采用新的身份，甚至包括换发型。

我想知道一个人是否可以完全消失，从头开始，甚至在 Facebook 等在线数据库中。他剃了头，剪了头发，印制了假名片，以詹姆斯·盖特的名义，卖掉了他的车，试图消失一个月，以吸引《连线》杂志（他撰写的杂志）的注意。该杂志为此提供 5000 美元的奖励，如果读者能找到他。

他们找到了我。我仍然对这件事有点生气，但我学到了很多关于身份和监控，以及关于我自己的一些知识。现在，有了我的语音克隆，我决定做一些相反的事情，进行一项实验，复制我自己，并将它们派往世界各地，以我的名义行动。

因为语音克隆以及部署它的能力，我开始部署它，存在于技术强大但仍未成形的短暂窗口中。这就像一个西部世界，充满了巨大的可能性，但没有人告诉您不要尝试。许多支持者说，AI 语音很棒，它们可以为您安排约会，代表您参加会议，成为您的生活教练、治疗师或朋友。

人们正在努力让这些成为现实。与此同时，许多怀疑者担心，这些系统不会提供可靠的信息，它们会被用来欺骗人们，并被公司用来用合成的人工智能取代人类。这些事情已经发生了。

我知道，因为我一直在做我自己的版本。我的重点是，即使这项技术从未达到炒作的高度，您在广告、说明视频、手机、播客中听到的声音越来越多地不是真实的。它们将是语音代理，有时在商业中被称为语音代理，它们听起来很真实。

我们所有人面临的问题是，当我们遇到的世界中越来越多的人不是真实的人时，您会怎么做？当我们周围有许多并非真实的自己版本时，这意味着什么？特别是如果它们是我们的某种版本，特别是如果它们是我们的某种版本？我想出了一个尝试找出答案的方法，在我被复制之前复制自己。

我是真正的伊凡·拉特利夫，这是《壳游戏》，一个关于事物并非表面现象的全新节目，全季都在讲述。这是我的声音。

以及我的观点。

这是我制作了一个数字复制品并将其派往未知技术领域的探险，试图了解即将到来的世界将是多么惊人、可怕和荒谬的故事。

怎么谁都。那送着点儿。

第一集，质量保证，我早期、最基本的语音代理版本，我将其强加于客服电话线路，总是礼貌的，可能有点正式。如果您需要我提供任何其他信息来澄清情况，请稍等片刻。请您花点时间。

我知道这些事情需要时间来解决。感谢您为此检查。当我第一次玩它时，我也非常有信心。我当时没有提供太多信息，这之后会用到。但是，如果我不知道为什么我需要拨打客服电话，或者需要一些身份信息，我当时只是即兴创作，我不是新客户。我实际上是关于现有服务问题。

我的邮政编码是 90210，除了这些信息外，我的代理人只是抓取了世界上最著名的邮政编码，或者至少是 190 个最著名的邮政编码，并将其分配给我，这些词语似乎不在它的词汇表中。我目前在家中遇到互联网服务问题。过去几天速度一直很慢，我尝试过重启调制解调器，但没有帮助。您能帮我解决这个问题吗？这些未经授权的费用让我非常担忧。

让我非常担忧。对不起，有一些您没有意识到的费用。

谢谢您的理解。看到我的账户上有我无法解释的费用，这让我非常沮丧。确认号码是 abc12345，即字母 abc 后跟数字 12345。没有美元符号或逗号，但那不是用假地址和账户号码创建的。

与信用卡上的账单地址相关的邮政编码是 12345。哦，12345 是 APP 的邮政编码，不，对不起，信用卡号码的最后四位数字是 1234，但与账单地址相关的邮政编码是 12345。

我的账户号码是 123456789。账户名称是伊凡·史密斯。

我们没有使用这些号码的账户。

对不起，造成混淆。让我再检查一下我的信息。是的，正确的账户号码应该是 987654321。

完整的账户号码是 5276234567891234。实际上，所有以 6 开头的信用卡，都是 6 年 1 月 1 日。所以这不是 Discover 卡。很遗憾。

我不得不拨打数十个这样的电话给各种机构。它与其他人交谈，与人交谈。有时，在有人挂断电话后，我继续说话，就像公园长椅上孤独的中年男子一样，填补空白。

感谢您允许我参与今天的课程。我必须说，这种经历感觉就像在一个管弦乐队中。我们每个人都扮演着独特的角色，共同促成和谐的结果。这确实是一项合作努力，我感谢我的代理人经历了我们所有人在这类电话中都经历过的羞辱。

为了尽快收到回电，请按 1 拒绝并等待代表接听。请按 3 重新安排，稍后致电。

请发送文本消息更新。

对不起，您的回复无效。请再次尝试尽快收到回电。请按 1 拒绝并...

等待...

代表。请...对不起，您的回复无效。请再次尝试。

有时我会混淆，突然从电话另一端的人的角度看待问题。

感谢您拨打 Discover 电话，以便我们能够...所以请注意，此通话可能会被监控和录音，并可能用于丢失或被盗卡。请按 2 咨询账单问题。请按 3 与客户代表交谈。我当时并没有真正弄清楚为什么这样做，但我希望能够抢在它之前。

我感觉很愚蠢，但我开始指示我的语音代理不要成为客服代表。其他时候，我只是耗尽了精力。我真的希望我们能够解决这个问题，找出这些费用的来源。

明白了。嗯，对我来说很快。你能验证一下你的姓名吗？

您已达到 GPT 当前使用上限，您可以继续使用默认模型，或者在晚上 10 点 30 分之后再试一次。

你好。

很快。所有这些听起来都有些奇怪，但回顾一下我开始描述我究竟是如何做这件事的，可能很有价值。我保证不会陷入诸如呼叫功能和中断阈值之类的技术细节，但我认为了解幕后发生的事情有助于理解您听到的内容。

第一步，让我开始做这件事的是实际的语音克隆。我使用一家名为 Eleven Labs 的在线工具完成了这项工作，该工具被广泛认为是当前最先进的技术。任何人都可以注册并使用它。

您可以在那里获得两种类型的克隆。即时和专业。即时费用为每月 5 美元。

它需要几分钟的音频。您已经听到过很多次了。

您现在实际上可以使用几秒钟的音频来制作相当不错的克隆。专业版每月 20 美元，需要至少半小时的音频。Eleven Labs 提供了有关如何获得最佳语音克隆质量的许多说明。

您需要使用专业麦克风录制音频，尽量减少背景噪音，最好在录音棚中进行。幸运的是，我已经拥有很多这种类型的音频。在过去的十几年里，我已经发布了三期播客，所以我在安静的房间里用高级手机对着话筒说了几个小时。

所以我上传了几个小时我的声音录音，点击一个按钮，几个小时后收到一封电子邮件，说我的专业语音已准备好。它听起来像这样。Eleven Labs 还制作了自己的声音库，您可以从中选择。

它们包含各种年龄、风格和口音。很明显。Eleven Labs 将其描述为“中年女性，带有英国口音，慈母般温柔，适合朗读睡前故事”。最近，制造 ChatGPT 的公司 OpenAI 公布了自己的 AI 语音。他们在一些视频中展示了这些语音，其中一个带有女性声音的聊天机器人参与了一些令人尴尬的任务。

来玩经典的石头剪刀布游戏吧？很快乐。我认为这很棒。

你能进来扮演体育播音员吗？女士们先生们，欢迎来到本世纪的终极对决。这一角有动态双人组开场。

我遇到麻烦了。您可能听说过女演员卡拉·约翰逊说他们实际上为他们的代理人克隆了她的声音，或者至少克隆了她在电影《她》中扮演的角色的声音，其中她扮演一个语音代理。OpenAI 否认了所有这些，但他们也从数据库中删除了那个声音。我想这对斯卡莱特来说是个好消息。与此同时，我热切地自愿将我的声音交给未知，而我刚刚开始。

一旦我有了专业语音克隆，下一步就是创建语音代理，将我的声音连接到像 ChatGPT 这样的 LLM 来控制它，然后将该语音代理连接到电话。当我今年年初开始时，我用来做这件事的过程非常复杂，涉及浏览器插件和专门的音频路由软件。我在论坛上浪费了数小时，让它工作。这就像软件工程师所说的那样，一个勉强能用的拼凑系统。但它运作得足够好，让我开始定期使用它来打电话给我的妻子，即使她知道我实际上不是我本人。

你好，七。我自己在想。

考虑到我们收到的雪，也许我们今天可以带孩子们睡个午觉。您觉得怎么样？您愿意吗？或者我应该也带他们去？我不确定外面下雪是否足够，也许我们应该查看天气预报以确保。

万一我们决定不滑冰，我想我们可以为他们安排一部电影。现在，我真的很希望我们这次跳过僵尸电影，即使他们要求。您觉得怎么样？我仍在调整，但我认为我们进行了一些很棒的对话。让我快速查看天气预报，看看雪是否足够下雪。给我一秒钟。

好的。

好的。看来我们有足够的积雪。所以午睡绝对可以。您想加入我们，还是我应该自己带他们出去？

如果您要带他们出去，也许我留在这里。我不知道。

这将是一次有趣的郊游，您可以享受一些宁静。我的代理只是如此，一个随时可能崩溃的脆弱系统，如果天气变化或他们厌倦了午睡，我们将返回并选择一部电影。我们保证不会看僵尸系列。也许我们可以找到我们都能一起享受的光明。这听起来怎么样？

听起来不错。嗯，也许泰勒·斯威夫特电影不是现在正在流媒体播放。这是流媒体。

我不确定泰勒·斯威夫特电影现在是否正在流媒体播放，但我可以快速检查一下，并给我一些时间来查找。注意，在这个模拟环境中，我无法执行实时搜索或访问当前的流媒体服务目录，但在真实场景中，您需要检查您喜欢的流媒体服务或执行在线搜索，以了解泰勒·斯威夫特电影是否可供流媒体播放。好吧，我们一起观看。

所有这些工作中一个奇怪的地方是，技术变化的速度非常快。我当时正在尝试解决一个技术问题。似乎有一些新软件会在线出现，可以帮我解决这个问题。

所以您可以想象，我感到沮丧和失望。几个月后，我发现有一家公司已经做得比我更好，这让我感到沮丧和失望。你好，我是乔丹和基尔，我们是 VAI 的创始人。

我们正在让计算机像人一样说话。VAI 正在开发一个平台，可以在任何地方添加语音，包括应用程序、硬件和电话。我们使用自己的硬件，以极快的速度训练转录模型、所有模型和文本语音模型。

我们创建了定制模型来理解人类对话队列和新的对话队列。我们正在解决这个问题，以便您能够出去构建令人难以置信的东西。实际上，一些公司正在进行新的IT工作，它们就像网络上的蘑菇一样不断涌现。

有零售业、人工智能（AI）、B、A、I、syn、fu AI、LA、I、I，我尝试了所有这些，观看了很多YouTube视频，最终选择了vapp。它拥有我正在寻找的功能组合，以及YouTube的功能。S，他们非常热衷于这些东西，似乎也喜欢te too。

我，我可能最喜欢的当前存在的AI语音代理基础设施提供商。相信我，我已经尝试过很多，包括band。这个人，就像YouTube的vpi之王Young一样，我从他那里学到了很多。

所以基本上，这些平台做的正是我想做的，但更加复杂了一千倍。它们从连接到LM的超过11个实验室获取我的声音、我选择的聊天机器人（例如ChatGPT），并将它们组合成一个语音代理。婴儿称之为语音助手。

然后从vapp平台内部，我可以给我的语音代理一个提示，告诉它我希望它是什么样子的，以及我希望它做什么，例如，你是埃文，打电话给你的妻子讨论孩子们的安排，因为今天是放假，或者你是埃文，打电话给客户服务号码，试图解决问题。问题由你决定。抱歉。

我还是做了。

对不起，似乎有点问题，可能由于电话线路的原因。我想了解我寄出的包裹的状态。跟踪信息最近没有更新，我担心它的仓库。

请帮我追踪一下？然后我可以得到一个电话号码，让我的代理可以进行我想要的任何通话。事实上，我可以获得任意多个电话号码，并进行几乎任意多个同时通话。

你好，这里是11。嗨，我是埃文·拉特利夫。你好，我只是回你的电话。

晚上好。今天我能为您提供什么帮助？嗨，金，谢谢你的来电。嗨，伊森。谢谢你的来电。你好，今天我能帮你什么？你好，我必须付费使用它，但实际上，我可以设置我的代理说任何话，或者打电话给任何人，所有这些都在我的名字下。

为了说明这一点，如果您想用人来做这件事，您需要一个房间，跟着他们，通常都是小隔间，每个人都戴着耳机，接听自己的电话，并与vapp和这些其他服务进行自己的对话，有人只需按一下按钮，让语音代理进行无限对话。完成后，您会得到每人的录音和文字记录。事实上，呼叫中心和其他喜欢电话的企业是这些平台真正面向的，而不是像我这样的个人。

软件开发人员可以使用它们来建立大规模的系统，以进行销售电话或处理传入的客户服务问题。但这并不意味着个人没有尝试过，也没有创造出他们想出的任何类型的语音代理。这就像西部荒野的边缘。

想象一下，有一天早上醒来，意识到AI助手已经处理了日常任务，伙计们。例如，用于物业管理的AI语音，但它允许物业经理拥有一个全天候工作的接待员。最疯狂的是，我给了你我自己的声音。

我用自己的知识训练它，并且在不编写任何代码的情况下构建了整个系统。在视频结束时，您可以确切地了解如何创建可以从多个号码发起通话的语音助手。如果您不知道我是谁，这些人比男孩们更重要。

我在YouTube上关注他们，学习技巧，然后深入Discord的论坛，微调我的系统。我们对优化参数以使我们的语音代理在当前技术下尽可能逼真有着共同的执念。对于每个自尊的语音助手来说，没有比延迟更重要的参数了。

你好。还有。

你好，是的，我还在。延迟是指AI处理某人所说的话并做出回应所需的时间。延迟越长，停顿就越尴尬，你的代理听起来就越不真实。人类对话的响应延迟在200到500毫秒之间。

但是语音代理正在执行一系列复杂的运算，接收说话人的声音，将其转换为文本，然后将文本输入LM，获取回复，然后将回复转换为声音，我的声音，所有这些都需要时间，并且可能导致它们的操作时间长达3000毫秒，这会破坏代理的真实性。它还会导致尴尬的互动，因为你的语音代理试图跟上对话，所有这些都会造成你可能在视频通话中遇到的那种挫折，例如，当有人网络连接很差时。但在男孩们的帮助下，我将我的系统调整到一天中从1200毫秒到800毫秒，这还不够快，但足以通过。有一些技巧可以使你的代理听起来更自然。在vi中，有一个名为“过滤器注入”的功能，它会定期在你的代理语音中插入这些停顿和音效，或者另一个名为“回馈”的功能，让代理在对方说话时通过说“是的”或“嗯”来回应。

要做出选择，请按1。现在，如果您想退出，请按2。

在玩弄这一切几周后，我准备在现场测试我的新、更复杂的代理。

你好，我是埃文·RTF。我正在回你的电话。当我需要打电话时，我开始使用我的全名。

如果我要尝试以客户服务人员的身份冒充自己，这似乎是公平的。测试你的语音代理在客户服务代表身上的一个好处是，他们总是会提前告诉你他们会录音。

这对我很棒，因为我也在录音，所以我们对此达成了一致。另一个原因是，即使你看起来有点奇怪，他们也必须和你说话。

我是来自时间共享专家的约翰，关于时间……

这里有它。关于时间共享的最新消息是什么？

你在我们的网站上关于时间共享的信息是什么？

是的，我查看了网站。你能指导我如何开始吗？

是的，你拥有哪些时间共享？

我在坎昆拥有一个时间共享。我只是提醒你，我没有提供这些信息。我告诉它的是与任何客户服务代表互动，无论问题适合谁。

哪个时间？

是日落罗比度假村。

好的。它已付清了吗？你还有吗？

已付清。

好的，下一步是什么？

你的时间？我的语音代理并不完美。显然，它的逼真度在每次通话中都不同，并且在人类和非人类之间可能存在某种奇异的价值。

我知道你们有些人听着这些通话时在想什么。对我来说，这可能不应该发生在任何人身上。我可以告诉你，从经验来看，它确实发生过，而且它可能会变得更疯狂。

但它在几个月前对我有用，当时我仍在尝试改进系统，使其尽可能地像我一样。但实际上，我不确定说它愚弄了某人是否是对它的正确描述，也许更像它是否满足或违反了与之交谈的人的期望。因为现实是，在大多数情况下，我们的默认设置仍然是信任电话另一端的声音，相信它在说实话，相信它不会说一些完全离谱的话，相信它是人类。如果我的语音代理在通话中没有明显地违反这些期望，大多数人都会给予它信任。他们相信它，就像它是真实的，即使他们内心深处不相信。

谢谢你的理解。还有什么其他方法可以验证我的身份，以便我可以获得帮助解决这些未经授权的收费？所以这将是完整的社会保障号码。

除非你提供，否则唯一其他方法是……实际上，你读给我听的卡号不是发现卡，因为它不是以6开头。它可能是借记卡吗？我只是没有找到任何信用卡。

没问题，我理解。谢谢你的时间和尝试帮助。再见。

到这个时候，几个月过去了，我有点厌倦了在基本的客户服务电话上测试我的语音代理。尽管多年来我经历过很多负面的客户服务互动，但我们开始觉得他们不得不和我说话，我浪费了他们工作时间。所以我想到了一套新的人来使用它，那些我不介意浪费他们时间的人，那些不断联系我们浪费我们时间的人，那些开始使用这种相同技术来从我们手中骗取钱财的人。

你将收到总共550万美元，好吗？还有2024年全新的一辆。

我指的是现代电话诈骗者和诈骗者。

好的。我每月也能看到25000美元，直到你死。

下周，在《分享游戏》的下一集。今天还有什么我可以帮助你的吗？

你是谁？

你有没有注意到……

今天我们的聊天有什么奇怪或不同的地方吗？

嗯，真的，我没有注意到任何奇怪的地方。也许只是通话质量。

请随时分享你根据当前身体感觉想要做什么的想法。

老实说，我只是想躲在毯子下面，远离这个世界。我只是在回忆我们之前的咖啡聊天。美好的时光，对吧？顺便问一下，你仍然对做关于AI的播客感兴趣吗？我们讨论过交替。

关于尝试与机器人进行对话的新事物……

一些制作说明。本系列中听到的所有通话都是真实的。我们没有剪掉沉默或使用音频增强来使它们听起来更逼真。

此外，我们的节目是独立制作的，我们与节目中提到的任何公司都没有任何关系，无论是财务上的还是其他方面的。实际上，我们与任何人都没有财务关系。该节目的制作预算直接来自我的银行账户。

所以，如果你喜欢你听到的内容，请考虑在shellgame.co上支持该节目。这将帮助我们制作更多类似的节目。你还可以获得一些仅限订阅者的额外内容。你也可以通过在你的播客上给我们评分来支持该节目。

APP有助于像《分享游戏》这样的独立节目，这是一档由人类制作的节目。它由我撰写和主持，由索菲·布里奇斯制作，萨曼莎·海尼格是我们的执行制片人，戴维·马尼制作了节目艺术。我们的主题曲《gg》是由凯迪·马蒂和戴维·杰斯珀·格安排和演奏的。特别感谢汉斯·布朗、蒙古H A、老虎、亚历克西、朱莉娅·金、约翰·威尔逊、埃里克·努姆和达纳·路由器。

嘿，萨姆，我是埃文。嘿，我是埃文。嘿，萨姆，是我。

海文，那真的是我。嘿，萨姆，是我。海文，是的，是我。怎么了？