The Telegram Problem + Gov. Kathy Hochul on School Phone Bans + Kevin's A.I. Reputation Rehab
01:14:10 Share

Telegram 的创始人帕维尔·杜罗夫在法国被捕，并被指控犯有与运营该平台相关的多项罪行。我们将告诉您对他提出的指控对互联网意味着什么。然后，纽约州民主党州长凯西·霍楚尔将加入我们，讨论她为什么想在全州范围内禁止公立学校使用手机。最后，凯文一直在使用秘密代码来试图改变人工智能聊天机器人对他的看法。我们将了解是否可以操纵人工智能的输出。本集包含与青少年心理健康相关的自杀讨论。如果您有自杀的想法，请拨打或发短信至 988 联系 988 自杀和危机生命线，或访问 SpeakingOfSuicide.com/resources 获取其他资源列表。嘉宾：凯西·霍楚尔，纽约州州长附加阅读：帕维尔·杜罗夫，Telegram 的创始人，从俄罗斯的马克·扎克伯格到通缉犯凯西·霍楚尔在学校禁手机的“大”计划我们想听听您的意见。请发送电子邮件至 hardfork@nytimes.com。在 YouTube 和 TikTok 上查找“Hard Fork”。 </context> <raw_text>0 本播客由高盛支持。

让我问你这个问题。凯文，让我问你这个问题。我今天走进办公室，看到你的桌子上有一个键盘，上面写着 alpha。你的桌子上有一个 alpha 键盘。这是什么？好吧，我是一个如此强势的男人，他们不得不给我一个特殊的键盘，因为我敲击键盘的力度太大，普通的键盘会碎掉。这听起来不对劲。不，不是。我认为你在欺骗我。什么是 alpha 键盘？

这是一个我正在测试的产品。它被称为 FreeWrite Alpha。这本质上是一个连接互联网的打字机。因为，你知道，你可能会体验到，当你试图进行研究和写作时，在线可能会非常分散注意力。因此，有一家名为 FreeWrite 的公司生产这些简化版的电脑，

这些电脑基本上只能用来写东西，然后它们可以将这些东西存储在云端。

因此，这可以成为你普通的写作工具。所以你感觉要领先，你需要从笔记本电脑转向比笔记本电脑差得多的东西。是的。如果笔记本电脑只能写字呢？这有点像前提。它有显示器吗？是的。它有点像，像灰色的。它很大。它一次只给你几行。你可以，所以你正在写你的专栏。你一次只能看到一句话。好吧，

是的。凯文，这简直是噩梦。是的，我还没怎么用过它。但他们确实把它寄给了我，所以我感觉有义务尝试一下。我必须说实话，这听起来像是一个针对测试版的键盘。如果你无法一次看到你的整个专栏，那就是测试版行为。我需要 Sigma 键盘。是的。

我是凯文·罗斯，纽约时报的技术专栏作家。我是来自 Platformer 的凯西·牛顿。这是 Hard Fork。本周，Telegram 首席执行官在法国被捕。我们将告诉您对他提出的指控对互联网意味着什么。然后，纽约州州长凯西·霍楚尔将加入我们，讨论她为什么想在公立学校禁止使用手机。最后，凯文用来诱使聊天机器人说他好话的秘密代码。这不是技巧，而是劝说。顺便说一句，这对我没用。

好吧，凯西，本周有一个科技新闻无处不在，那就是 Telegram 的创始人兼首席执行官帕维尔·杜罗夫上周末被捕。当他的私人飞机降落在巴黎郊外时，他被带下了飞机。这是一个大新闻。确实如此。而且，你知道，我的第一个问题是，他认为奥运会还在进行吗？因为奥运会已经结束几周了。所以他真的可能在那里犯了一个错误。他只是想看看鞍马运动员。你能责怪他吗？

这是一个如此疯狂的故事，我认为它触及了我们真正关心的许多主题，包括内容审核和政府对科技平台和言论自由的干预。这里有很多东西。正如他们所说，这是一个丰富的文本。当然。

所以，星期三，Telegram 首席执行官帕维尔·杜罗夫被控犯有与 Telegram 上的非法活动相关的各种罪行。他总共面临六项指控，包括共谋管理在线平台以进行非法交易以及共谋犯下诸如

儿童性虐待材料（CSAM）的传播、贩毒、欺诈以及拒绝与执法部门合作等罪行。他被禁止离开该国，以便支付 500 万欧元的保释金，他还必须每周两次到警察局报到。所以让我们从

向我们的听众解释什么是 Telegram 开始。它在全球科技平台格局中占据什么地位？Telegram，你知道，你可能年纪够大了，你的出生是由真正的 Telegram 宣布的。是的，西联汇款。是的，我是同性恋，我的出生是由一个唱歌的电报宣布的。但无论如何，Telegram 是一种消息。

谢谢。

所以，也许你是一位公众人物，比如法国总统埃马纽埃尔·马克龙。你可以创建一个频道，你可以说任何你想说的话。其他人可以阅读它。如果你这样设置，他们不能公开回复你，但这可以成为传播你的信息的一种方式，就像在 X 或 Threads 上发布一样。

它变得非常流行。它现在拥有超过 9 亿用户。它在某些地区特别流行，通常是在存在专制政府的地方。例如，它在伊朗非常流行。它在乌克兰和俄罗斯都非常流行，双方军队都用它来指挥战争中的军队。但与此同时，我们也应该说它已经出现了犯罪问题。

是的，我们应该谈谈这个，因为这是对帕维尔·杜罗夫提出这些指控的主要部分。我认为 Telegram 对内容审核采取比其他消息应用程序和社交媒体平台宽松得多的方法。他们有点

自豪地抵制政府的要求，即删除信息或查看用户发送的消息。Telegram 通常被称为加密消息应用程序。这并不完全准确，至少不像其他应用程序那样定义加密，我们稍后可以讨论这个问题。因此，它被认为是私密的，

正因为如此，许多人用它进行非法交易和消息传递。许多罪犯用它来交换购买毒品或枪支的技巧。它也被加密社区中的许多人使用，因为他们担心政府监视他们的通信。

所以它有点声名狼藉，至少在美国是这样。是的，这是它应得的。而且，你知道，如果你想知道，我们所说的宽松的内容审核方法是什么意思？帕维尔·杜罗夫说过，他认为这只是不干涉人们在线交流。如果你访问 Telegram 的常见问题页面，他们会说我们基本上不会查看你的私人消息的内容。

所以，你知道，如果你想加入并想组织毒品交易或枪支交易，Telegram 基本上明确表示，你知道，我们只会对此视而不见。这在大型消息应用程序中非常不寻常。是的。它已成为恐怖组织、贩毒者和各种极端组织的工具。当我报道新纳粹和其他白人至上主义团体时，我经常遇到 Telegram，他们有时会被踢出其他平台，并会在 Telegram 上重建自己，因为这些巨大的群组功能允许他们同时向数十万人广播消息。是的，这实际上非常有趣。例如，现在研究极端主义的一种关键方法是，研究人员会关注相关的 Telegram 频道，因为……

他们可以看到恐怖分子和其他团体在公开场合活动。而且，无论好坏，我们现在就是这样了解世界上一些最黑暗势力在做什么的。是的，但我们也应该谈谈帕维尔·杜罗夫，因为他是一个非常有趣的人物。

是的，这个人出生于 1984 年的苏联，最初因创建了一个非常流行的 Facebook 克隆 V-Contact 而闻名。至少我是这样发音的。你怎么发音？我一直以为是 V-Contact，但它里面有一些额外的字母。它里面有一个 K。我不确定。如果你是一位英语使用者，它看起来像 V-Contact，但我被告知俄罗斯人将其发音为 V-Contacta。

我说，对不起？他们说，联系人。所以，是的，我的同事保罗·莫泽和亚当·西托里亚诺本周发表了一篇关于帕维尔·杜罗夫的精彩文章。我从中学到了很多东西，包括他如何创立 Telegram 的背景故事。所以基本上，帕维尔·杜罗夫创建了这个网站 VKontakte，或者用俄语怎么说。这变得非常流行，但最终升级了。

与俄罗斯政府发生了对峙，因为克里姆林宫基本上想要获得有关此服务用户的大量信息。帕维尔·杜罗夫对此进行了抵抗，结果，俄罗斯政府基本上从他手中夺取了该网站，没收了他创建的这个 Facebook 克隆。所以他基本上失去了对自己的创造的控制权。

然后他开始构思 Telegram，这将是一个能够抵抗政府干预和监控，并允许人们在手机上进行安全对话的消息应用程序。是的。当他开始构建它时，我认为由于他在俄罗斯的这段经历，他再也不想依赖任何其他政府了。对。

所以他开始周游世界，他收集公民身份的方式就像其他人收集艺术品一样，你知道吗？所以他现在是圣基茨和尼维斯的公民。他从阿拉伯联合酋长国获得了一个，他开始在阿联酋运营 Telegram。

在这个故事中最奇怪的细节之一是，鉴于最终会发生什么，在 2021 年，他设法获得了法国公民身份，尽管他从未在那里居住过。显然，存在某种罕见的程序可以追溯到法国大革命之前，如果一位说法语的外国人通过其杰出的工作为法国的影响力和其国际活动的繁荣做出贡献，则可以授予其法国公民身份。

经济关系。所以你可能会问，帕维尔·杜罗夫做了什么来促进法国的利益？没有人知道。我们也不知道他是否说法语。是的。是的，我有点想象《谍影重重》中的场景，他打开一个信封，里面有来自不同国家的各种护照。像，

帕维尔·杜罗夫已经成为这个国际神秘人物。你知道，他周游世界。他也是一个非常古怪的人。他非常热衷于健身。他成为了一种健康影响者。他会在网上发布他所做的所有冷水浴的照片。他非常火辣。

我们应该说出来。如果你想知道，这个人火辣吗？是的。就像你会去他的 Instagram 上一样。他看起来像个模特。他确实如此。他发布了所有这些赤裸上身的照片。他身材非常健美。他还声称，根据他的这篇个人资料，他成为了一名跨国精子捐献者，在过去 15 年里，他在 12 个国家生育了 100 多个亲生孩子。

一个非常有趣且有点古怪的人。是的，你必须想知道，你知道，希望这些孩子中的一个将来有一天会把他从监狱里救出来，因为……好策略，老实说。这可能是一个好策略。是的。所以他也成为了一种

反政府异议人士、言论自由绝对主义者中相当受欢迎的人物，他们担心政府监控。他有一种非常反权威的性格。他的个人资料中有一些细节，包括在 2013 年，他显然在人行道上开车绕过交通堵塞时，用他的车撞到了一名俄罗斯警察，并且

顺便说一句，这实际上非常令人感同身受。如果你曾经被困在交通堵塞中，我们都想过在路边开车绕过交通堵塞。我的意思是，我在侠盗猎车手里做过，但我从未真正考虑过在现实生活中这样做。但帕维尔·杜罗夫显然撞到了一名俄罗斯警察，后来在社交媒体上写道：“当你撞到警察时，重要的是来回驾驶。这样所有的果肉都会出来。”

这将是惊人的，你知道，如果我们正在采访他，他会说，你知道，顺便问一下，你从哪里得到 Telegram 的想法？他说，好吧，你知道，在我撞到那个警察之后，我想，我需要一种非常安全的方式来交流。对。所以我们也应该说，像，他最近几个月已经成为美国政治右翼某些人的英雄。

他参加了塔克·卡尔森的节目，并接受了他的采访。他还得到像埃隆·马斯克这样的人的支持，他们认为他是这场反对政府暴政的言论自由斗争中的关键盟友。所以他在美国右翼的一些党派中获得了某种神话般的地位。是的。是的。

所以，凯西，你对针对杜罗夫的指控有什么看法？所以我仍在努力了解他被指控的确切罪名。我只看到指控的简短摘要。但我们这里的主要指控是，他被指控共谋管理在线平台以进行非法交易以及拒绝与执法部门合作。

我认为这有两方面，因为一方面，你不允许运营一个可以做任何事情的网站，对吧？运营丝绸之路的罗斯·乌尔布里希特就为此付出了惨痛的代价，对吧？他入狱是因为丝绸之路主要用于销售毒品和其他非法物品。

另一方面，任何首席执行官都可能被指控在其平台上发生的任何事情中存在共谋，这可能真的很糟糕，我认为，对吧？因为在任何平台上，都会发生不好的事情。都会发生犯罪。

并且说，因为在一个平台上发生了一起犯罪，首席执行官就负有个人责任，我认为这是对我们迄今为止所看到的科技监管的巨大升级。是的，我的意思是，通常当，你知道，一家公司被发现允许在其平台上发生一些非法活动时，该公司会受到惩罚，对吧？他们会被监管机构处以罚款，或者，你知道，一些政客会举行听证会，然后他们会对首席执行官大喊大叫。但是……

从历史上看，个人因在其平台上发生的非法活动而被起诉的情况非常罕见。没错。即使在 Telegram 上，我认为 Telegram 已经有点，你知道，明显地蔑视法律。我也相信绝大多数……

Telegram 上的讨论完全是良性的。你知道，这只是普通人谈论他们的个人兴趣并向他们的朋友发送消息。所以我认为这是一个非常困难的问题，即平台何时会转向，好吧，在这个平台上发生了太多犯罪。

这就是为什么我希望这项起诉更少地关注 Telegram 上发生的非法行为，而更多地关注他们完全拒绝与执法部门合作这一事实，他们完全无视执法部门。他们不会归还照片。他们不会回复电子邮件，对吧？即使是在他们本可以介入以帮助阻止虐待儿童的情况下。所以我们将看看这项起诉如何发展，但是

我真的很希望重点在这里，而不是仅仅因为在一个消息应用程序上发生了一堆犯罪。我认为必须如此，因为，正如你所说，在一定规模的每个互联网平台上都会发生犯罪，你会遇到犯罪，对吧？会有一些人利用它传播非法材料或销售毒品或协调恐怖活动等等。但我认为，当你采取一种过程时，情况就不同了

自豪地采取一种不干涉的态度，当你拒绝合作时，当你拒绝尝试介入时，即使是采取最基本的措施来阻止这些事情发生在你的平台上。是的，我认为当帕维尔·杜罗夫撞到一名警官时，他真的引起了全世界执法人员的注意，他们说，我们必须对这个人做些什么。是的，专业提示，如果你要运营一个无法无天的社交平台和消息应用程序，不要吹嘘自己撞到警察。孩子，踩刹车吧。所以……

在我们等待有关此案的更多细节以及实际发生的事情时，我认为我们应该谈谈 Telegram 以及它在社交媒体格局中占据的地位，以及帕维尔·杜罗夫的逮捕可能对其他平台意味着什么。所以首先，我想问一个本周经常出现的话题，那就是 Telegram 实际上是如何加密的。

因为 Telegram 上有加密，但这与你在 Signal、WhatsApp 或 iMessage 等应用程序上可能想到的加密有所不同。所以凯西，我们对 Telegram 是如何加密和未加密的了解多少？是的，有不同类型的加密。最常见的加密形式是在消息通过云从一台设备传输到另一台设备时对其进行加密，这可以防止人们在实时监控这些流量并查看这些消息。

Telegram 的大多数消息使用一种这样工作的加密方式。所以那里有加密，但是这些消息确实存在于 Telegram 服务器上。唯一的例外是，如果你启动所谓的 Telegram 秘密聊天，在这种情况下，你将获得更多保护，原因我将在稍后解释。但由于这些消息不是端到端加密的，因此 Telegram 的

然后执法部门可以去 Telegram，他们可以说，我们想获得这些消息。到目前为止，Telegram 一直抵制所有这些请求，但他们面临越来越大的压力，要求他们说，哦，不，不，你必须展示，你知道，你必须向我们提供有关这些用户是谁的信息，你知道，我们认为他们与犯罪有关。由于这些消息不是端到端加密的，因此 Telegram 很脆弱。现在，凯文，你可能想知道，什么是端到端加密？什么是端到端加密？端到端加密意味着，

消息只能由发送者和接收者阅读。消息不会以纯文本形式存储在服务器上。即使执法部门可以访问 Telegram 服务器，他们也无法对该消息做任何事情，因为只有发送它的设备和接收它的设备才能读取它。你可能会问，谁使用端到端加密？WhatsApp，

使用它，Signal 使用它。如果你使用 Apple 设备，iMessage 是端到端加密的。但是如果你将你的消息备份到 iCloud，默认情况下，它们在 Apple 服务器上不是端到端加密的，因此执法部门可以获取它们。Apple 最近发布了一项功能，可以对你的 iCloud 备份进行端到端加密。

但我只是列举所有这些内容，因为如果这个故事让你感兴趣，你知道吗？无论帕维尔·杜罗夫做了什么或可能没有做什么，我都对我在使用的加密感到好奇。你确实有其他选择，大多数安全研究人员会告诉你，这些选择比 Telegram 更安全。好吧，这关系到这次逮捕的核心问题，那就是，你知道，Telegram 正在受到惩罚，因为

没有向想要调查儿童性虐待材料的政府提供有关其用户聊天的详细信息。那么我的问题是，为什么 Telegram 不只是对所有内容进行端到端加密？如果这可以阻止 Telegram 公司履行这些政府要求，即提供有关其用户聊天的信息，

为什么他们不只是对所有内容进行加密，这样他们自己都无法访问它呢？这是一个很好的问题，我们并不完全知道，因为 Telegram 很少接受媒体采访。他们很少谈论他们在这方面的心态，所以我们只能猜测。我可以告诉你，在拥有 9 亿用户的用户群中实施端到端加密在技术上极其复杂且成本高昂。

就像 WhatsApp 现在是端到端加密的一样，但这却是 Meta 为实现这一目标而进行的多年、非常昂贵的过程的结果，对吧？Apple 最终推出了这些端到端加密的 iCloud 备份。

这是一个耗时多年的过程。顺便说一句，在他们进行这个过程的同时，他们受到了执法部门的大量抵制，说，你们即将让我们的工作变得更加困难。所以 Telegram 没有经历这个过程。我确实怀疑成本和技术复杂性是两个主要问题。

但是，你知道，冒着陷入猜测的风险，凯文，在这里，我还想说，人们对 Telegram 是否与任何政府签订了任何秘密协议有一些疑问，对吧？该公司在乌克兰战争中处于非常奇怪的境地。而且人们总是对他们是否秘密地与克里姆林宫分享一些数据提出疑问，对吧？他们是否秘密地与其他人分享了一些数据？所以我的

我不知道这个问题的答案是什么，但我认为说人们对这个问题提出一些疑问并不鲁莽。- 对，我听说过这些问题。我还听说了一些细节，让我觉得成本是一个重要因素，因为真正让 Telegram 与其规模的其他平台区分开来的一件事是

它非常精简，对吧？帕维尔·杜罗夫之前曾吹嘘过他花费很少的钱来运营这项服务。他们没有庞大的信任和安全团队或威胁运营团队，或者他们没有花费很多钱试图找出在其平台上发生的坏事。这似乎是他们的一个卖点。这也是帕维尔·杜罗夫成为亿万富翁以及他的公司如此成功的原因之一。是的。

我很高兴你提到了他是一个亿万富翁的事实，因为完全有可能他将所有节省下来的钱（他没有花在加密或信任和安全上的钱）都给了自己。因此，彭博社现在报道称，他的估计财富为 90 亿美元。所以，凯西，你本周写了一些关于帕维尔·杜罗夫被捕引发的言论自由担忧，或者对于那些担心政府干预社交媒体上发生的事情的人来说，这些担忧已经引发了。

你认为这是否表明政府，尤其是在欧洲，尤其是在法国政府，正在开始让平台领导人对其服务上发生的事情负责？我确实认为这些担忧是合理的，原因有几个。一个原因是互联网自由普遍下降。有一场全球运动要禁止。

禁止端到端加密，这不仅仅是在专制政府中，在英国也有一场运动，基本上，在 Meta 推出加密的任何地方，他们都受到了立法者、监管机构和执法部门的大量抵制，说你们让我们的工作更难了，这对罪犯来说是一份礼物

与此同时，我认为这场斗争的大部分内容实际上并不是关于加密本身。这是关于在 Telegram 上公开进行的其他犯罪活动。对。这是平台可以并且经常为此负责的事情。在这个国家和世界各地都有法律规定——

如果你的平台上存在非法活动，并且你知道这件事，而你没有采取措施阻止它，你实际上可能会为此负责。- 是的，这基本上是一个与互联网一样古老的辩论，即运营平台的人在多大程度上应该对其用户在平台上的行为负责，对吧？

我认为我们今天拥有的互联网在很大程度上是因为在美国，我们说，在大多数情况下，我们不会让平台所有者对其用户发布的内容负责。我们有这项法律，第 230 条，规定了这一点。从那以后，我们就一直在争论这个问题。但这确实是我们可以像现在这样在线交流的原因。

随着时间的推移，世界各地的立法者真的开始讨厌这一点，因为他们看到这些服务在大量犯罪活动的基础上变得非常庞大且非常富有，他们希望这种情况停止。

凯文，Telegram 在这一点上如此有趣，就像，Telegram 就像如果我想给立法者一个理由来结束第 230 条以及它所代表的概念（学者称之为中介责任）的话，我会在实验室里构建的公司一样。- 对，因为它有点自豪地无法无天，并且违抗世界各地政府的命令和要求。

它对那些想在手机上做非法事情的人来说显然非常有用。再说一次，我认为法国可能有很多充分的理由对 Telegram 感到不满。我认为 Telegram 在与执法部门和国家的关系方面极其不负责任。

与此同时，凯文，我担心这将是我们再次看到的升级。将会有一个平台试图负责任地运营，并以正常的方式做事。将会有某个专制领导人说，哦，就像马克·扎克伯格飞过我的国家一样。埃隆·马斯克飞过我的国家。你知道，Netflix 的首席执行官飞过我的国家。实际上，为什么不把他们关进监狱呢？我们想问他们一些问题。所以我只是……

是的，你认为其他平台的领导人是否正在关注帕维尔·杜罗夫的遭遇，并说，好吧，嘿，我可能不应该很快去欧洲度假？

但同时，你认为这会改变其他社交媒体平台或消息传递平台审核其服务的方式吗？好吧，所以在这里，作为一个倡导言论自由的人，我有点紧张，因为避免这种询问的方式就是……

禁止更多的言论，对吧？任何批评政府的言论，任何涉及性行为的言论，任何描述或讨论暴力的言论，任何描述可能正在发生的战争的言论。所以我担心的是，我们将最终生活在一个这样的世界中：越来越多的平台认为，为了避免他们的首席执行官被关进监狱，缩小表达范围符合他们的自身利益。是的。我的意思是，如果你放大，像，真的非常远，像，

</context> <raw_text>0 就像，你知道的，甚至超出了这个Telegram案的细节。我认为我们现在看到的是这种

科技平台与政府之间的对峙，这些科技平台是跨国公司，其中一些拥有数十亿用户，它们拥有控制互联网言论的巨大权力，而政府则表示，等等，我们仍然掌握着权力。你不能凌驾于法律之上。我们仍然将决定我们国家的公民如何使用你们的平台。所以我认为这与苹果和谷歌在欧盟与监管机构就其应用商店的运营方式发生的争斗类似，与平台在美国发生的争斗类似，

我认为所有这些事情的共同点是平台与这些国家的民选政府之间的一种政治斗鸡游戏，就许多方面而言，平台比地球上的任何政府都更有权力，而民选政府则表示，等等，没有人……

你知道的，选举你，没有人投票让你掌权。你不应该拥有如此巨大的影响力和控制力。是的，不，我认为你，我认为你完全正确。你实际上让我在脑海中快进到，比如，我认为我们10或15年后会面临什么样的科幻场景。实际上，这将是Telegram的首席执行官将法国总统送进监狱，罪名是危害Telegram用户群体的罪行，对吧？这听起来很荒谬，但是这些平台都有自己的人口。这些首席执行官真的就像国家元首一样。我们谈论的只是高风险的外交。回来后，我们将采访纽约州州长凯西·霍楚尔。

本期节目由思科的孵化引擎OutShift赞助。思科连接并保护着世界各地的科技，而OutShift则探索和构建变革性的新兴技术。无论这项技术是18个月还是5年后的未来，OutShift都知道世界不仅需要更多想法，还需要更多具体的解决方案。

如果您希望在组织如何处理即将到来的生成式和自主式人工智能需求、量子安全风险等方面获得竞争优势，请OutShift帮助您获得灵感。访问outshift.com了解更多信息。无论您是启动还是扩展公司安全计划，展示一流的安全实践和建立信任比以往任何时候都更加重要。Vanta 自动执行 SOC 2、ISO 27001 等合规性工作。

使用 Vanta，您可以通过自动化问卷调查并使用面向客户的信任中心来展示您的安全态势，从而简化安全审查。全球超过 7,000 家公司使用 Vanta 实时管理风险并证明安全性。访问 vanta.com/hardfork，即可获得 Vanta 1,000 美元的折扣。 vanta.com/hardfork 可获得 1,000 美元的折扣。

凯西，又到了返校的时候了。嗨，我是凯文。我希望今年你最终能得到你需要的教育。我们拭目以待。所以人们都在返校，购物，购买，你知道的，他们的量角器和捕兽夹等等。

而今年发生的最大事件之一是，全国各地都出现了许多智能手机禁令。是的，关于我们是否应该这样做已经有很多讨论，但今年似乎一些州表示现在正是时候。是的，正如我们上周在节目中所说，我们仍在收集听众关于他们在学校实施手机禁令的经历的故事和语音备忘录。

如果您有想与我们分享的故事，特别是如果您是学生，我们绝对想听听您的意见。您可以发送电子邮件至hardfork@nytimes.com。但本周，我们邀请了一位非常特殊的嘉宾来谈谈学校的智能手机禁令，那就是纽约州州长凯西·霍楚尔。我沉浸在纽约州的氛围中，凯文。所以……

霍楚尔州长最近一直在州内进行大型听证会，讨论在公立学校禁止智能手机的想法。顺便说一句，这与播客主持人所做的事情恰恰相反，播客主持人会在巡回演出时进行更多演讲。但她只是在倾听。是的。所以她还没有正式宣布此事，但预计很快就会宣布。我们将和她谈谈这件事。

这确实是多米诺骨牌效应中一个重要的多米诺骨牌，它与全国各地学校的手机禁令有关。去年，佛罗里达州通过了一项法律，禁止在学校上课时间使用手机。其他一些州也采取了在学校禁止手机的措施，更多州正在考虑此事。

是的，我认为这是一个被认为相对友好科技的州。纽约市有很多科技公司在这里发展。当然，纽约比佛罗里达州更倾向于自由主义。所以很有趣，凯文，这件事竟然变成了一个两党问题。完全正确。

而这一切都得益于我们之前的播客嘉宾乔纳森·海特，他的著作《焦虑的一代》已成为超级畅销书，并真正激发了全国各地的学校尝试将手机从课堂中移除。

是的，正如我们在这个节目中讨论的那样，对此的意见褒贬不一。我认为有很多证据表明，接触科技也能为孩子们带来很多好处。但现在，钟摆正在摆动，许多力量都在支持手机应该离开课堂的想法。

是的。顺便说一句，我们的谈话将涉及自杀的讨论。如果您或您认识的人有自杀念头，请拨打或发短信至988联系自杀和危机热线。那么，让我们邀请霍楚尔州长来谈谈在学校禁止手机的想法。霍楚尔州长，欢迎来到Hard Fork。谢谢。

谢谢。感谢你们的邀请。那么，您是如何对将智能手机从学校中移除的想法产生兴趣的呢？这是一段旅程。这并非我一开始就持有的立场。事实上，两年前，我开始召集青少年团体，特别是十几岁的女孩，来讨论疫情对她们的影响。我去过很多学校。我进行了圆桌会议，尤其是在布朗克斯区的一次会议。我邀请了一群非常多元化的年轻女性，只是谈论了

疫情过后她们的感受。你知道的，她们是否已经摆脱了疫情的影响？你知道的，情况仍在调整。而我从她们那里听到的内容是如此有力，

她们离从疫情中恢复还差得很远。即使现在，四年过去了，成年人已经过去了。但在纽约这样的地方，尤其是在纽约市，这里是疫情中心，每个人都认识某个没有幸存下来的人。这些孩子们的祖父母住进了医院。他们甚至没有机会道别，他们的家人也是如此。所以我想说，纽约，特别是这座城市，受到了疫情的严重打击。这对他们产生了心理影响。所以我开始探索

当今青少年身上发生的事情的心理学原因，为什么他们如此沮丧，发生了什么。所以这让我开始谈论社交媒体，谈论它在孩子们不上学的时候真正取代了人际交往的影响。它是替代品，它多次将年轻人带到了黑暗的地方，这些算法就是这样。我可以详细讲述整个过程，但这确实让我在过去的几个月里说，

是什么载体在孩子们上学期间将他们囚禁起来，而他们应该仍然在学习或以非常人性化的方式与同学交流，学习基本的人际互动和应对技巧。这一切都归结于设备。正是手机成为了在整个上学期间将他们囚禁在这些令人上瘾的算法中的载体。所以，

我是一个母亲。我是一个祖母。当一位年轻女子在我们的论坛上告诉我，你必须拯救我们自己，我们无法放下这些手机，因为我们会遭到排斥。我们会错过一些事情。有人在说我们坏话。我们需要知道。这就是让我走到现在这个地步的原因，我正在谈论这件事。所以这是一段旅程。是的。我们之前有

乔纳森·海特做客我们的节目，他是《焦虑的一代》的作者，他被认为是引发了关于学校手机使用的许多讨论的人。你读过他的书吗？它对你的思想形成有影响吗？非常有影响。我认为他做得非常出色。当我们举行关于这个问题的会议时，我们多次引用了他。

这始于去年秋天，当时我们谈到如何处理社交媒体。我们是全国第一个真正解决社交媒体算法对年轻人造成影响的州。现在，成年人可以吸烟，他们可以在白天去酒吧。我们不规范他们的行为。孩子们，我们规范。

孩子们，我们有责任保护他们。所以他所说的，我们提到了。我们谈到了他在这方面做了大量的思考和研究。这不仅仅是我需要一位作者来告诉我这是正确的做法。我从父母和老师那里听到的是，孩子们在学校里甚至不注意我们了。对。

所以你最近告诉《纽约杂志》，你想在这个问题上采取强硬措施，智能手机和学校。在这个问题上采取强硬措施意味着什么，你有什么计划？我们现在的情况是这样的，你知道的，

州长拥有某些权力，但也有一些限制。我需要州议会做一些全州性的政策。相信我，我已经研究过这个问题了，他们要到明年1月才会再次开会。所以，我又一次，我去过州的每一个地方。我进行了圆桌会议，谈论了这个问题。在我离开每个地方之后，最近是在北部地区，我下周将在城市里这样做。

老师们是那些说我们必须做些什么的人。他们不希望这个问题留给各个学区来处理，因为这很难。这对他们来说很难，他们要面对可能不理解的家长，要面对他们的学校董事会和管理人员，他们可能想这样做，但他们不想引起争议，谁来执行呢？所以我一直都说，我坐在这个位置上是为了做出艰难的决定。所以让我来做这个坏人。

在我们真正这样做之前，我将有足够的数据来帮助解释和教育更多的人，这背后是什么。如果我们现在不采取这些措施，我相信我们将失去一代人，因为这些孩子正在哭着向我们寻求帮助

这不是他们的错。他们只是试图生存。十几岁已经够难了。所以强硬措施意味着我把它看作一项全州性的政策，而不仅仅是留给学区处理。而且我不只是在谈论手机。我谈论的是设备。

耳机，耳机。我谈论的是智能手表。我谈论的是一个没有干扰的环境。你想确保家长明白，这不会剥夺你全天与孩子联系的能力。再说一次，我是一个直升机父母。我不知道你称下一个级别是什么，但现在父母都在孩子的口袋里待一整天了。我们希望他们成长为独立的成年人，并且，

我们的工作不是抚养孩子，而是抚养成年人。这是这里的最终目标。以及父母自身的焦虑。再次，每个人的噩梦。我的孩子们还小的时候，哥伦拜恩事件发生了，当你让最珍贵的宝贝去上学时，这让你感到不安全，可能会发生像那里和其他大规模校园枪击案一样可怕的事情。但我从执法人员那里了解到，他们会告诉家长，

如果校园内，在学校环境中发生危机，你最不希望看到的是你的孩子笨手笨脚地摸索着手机，给爸爸妈妈发短信，和朋友聊天，

他们必须专注于教室前面的成年人，他会带领他们走向安全。当家长开始听到这个信息时，他们会说，好吧，我现在明白了。这对家长来说很难。但一年级的老师告诉我，每个一年级的学生都带着智能手表来上学，爸爸妈妈一整天都在查看他们的情况。就像，好吧。

好吧，伙计们，让我们切断脐带吧。所以你一直在进行这项全州性的听证会，与教育工作者、家长和学生讨论在学校使用手机和其他设备的问题。显然，你说了，你知道的，许多老师支持一项关于这个问题的全州性政策。你有没有听到学生或他们的家长提出任何反对意见？比如这个问题的另一面是什么样的？

另一面是这是我的自由，你无权剥夺它。你对此表示同情吗？我总是同情的。我的意思是，我倾听。这是我的工作。对于年轻人来说，好吧，我们不允许你们在课堂上买香烟和吸烟。我不允许你们在课堂上买酒和喝酒。这些都是成年人的活动，应该如此投入，如此分心。当你应该接受教育的时候，我的工作是确保纽约州拥有竞争力的劳动力。

这意味着我们以尽可能高的水平教育了我们的孩子。我正在尽我所能吸引每一家科技公司。任何想来这里的人，我们都专注于人工智能。没有哪个州在做我们正在做的事情。但我必须提供受过教育的年轻人的劳动力。我不能让他们像僵尸一样毕业，他们只是在学校里混日子，从来不需要注意，他们也没有承担责任。现在，这对他们来说很难。他们真的会上瘾。

所以我们必须让他们戒掉，就像我的孩子们小时候一样。当你知道秋天要开学时，他们不能熬夜到10点。第二天晚上是9点。几天后是8点。你可以让他们戒掉。所以我鼓励家长开始与孩子一起进行戒断过程。尤其是高中生，这很难。他们无论如何都不会注意你。我明白。我抚养过青少年。但你必须尽你所能。

因为我们的孩子正在挣扎，孩子们说，这是我的权利。我说，你有很多权利，但你也有权利成为一名学生，并在课堂上认真学习。对。所以你谈到不想培养一代智能手机僵尸，我能理解。但你也说你正在考虑从教室里移除各种设备。对。

你知道的，在我看来，为了在这个世界上取得成功，孩子们需要非常擅长技术。所以我很想知道，你如何考虑调和这两件事，确保孩子们仍然，你知道的，在他们长大后能够成功地使用电脑甚至智能手机？

好吧，绝对的。我们希望这种情况发生。但我听取了老师的意见。老师们说我们可以回到旧式的电脑实验室，对吧？我们可以在教室里使用 Chromebook，然后你拿走……所以我们不想剥夺他们学习所有工具的机会，也不想让他们在一个基于技术的社会和经济中无法充分发挥作用。这不是我们的目标。是为了确保他们在课堂上认真学习。现在，如果一位老师想说……

明天，我们将学习如何在手机上做一些在任何其他设备上都无法做到的事情。我不知道那是什么，但老师可以做到。我们可以设置一些参数，但第二天他们不会这样做。这不能成为常态，孩子们就是这样。他们一整天都有它。还有另一件事。即使在一些有袋子的学校里，对吧？你把它放在袋子里。它一整天都被锁起来了。应该有效。

一些孩子非常聪明，他们把一部手机放在袋子里。他们把另一部手机放在腿上。所以我不确定是谁给他们的孩子买了两个手机，但你可能想检查一下，爸爸妈妈。他们在欺骗你。州长，您如何衡量像您正在考虑的这样的计划的成功呢？我的意思是，如果这项政策真的实施了，

你知道的，两年后，这些学区的考试成绩没有提高，纪律处分也没有减少，孩子们也没有报告说他们的心理健康一夜之间得到了改善。你会考虑扭转这种局面吗？或者你如何确保这实际上产生了预期的效果？

我们已经在纽约州的一些学区看到了例子，那里的家长、许多老师和其他人完全反对这项政策。

而现在他们支持它。他们说：“我们很久以前就应该这么做了。”所以我认为记录已经清楚地表明，他们更投入了，他们更合作了，他们交流得更好了，他们进行眼神交流了。我们的许多进步，我喜欢科技，我真的很喜欢，我对我们在纽约所做的事情感到非常兴奋。

它来自这些创造性的碰撞，对吧？你在走廊里看到对方，你在办公室里的咖啡师那里，你只是在做双份拿铁，无论什么能让你度过一天。是人们与人交流，并利用技术来促进成果，在我看来，是社会公益成果。孩子们没有这样做，因为他们不习惯一起工作。他们不互相交谈。

他们没有看着对方。我现在可以告诉你，我希望会有成功。如果这是一个彻底的失败，我会关注任何事情吗？如果我们倒退了，孩子们因为这件事而更加沮丧，我会关注任何事情。这是我的工作。

但我相当有信心，如果我们能通过这项政策，我们将看到更多积极的结果。对这些手机禁令提出的另一个批评是，它们只是领先于科学。我们已经看到一些研究人员对乔纳森·海特的书提出了反对意见，他们说，好吧，青少年心理健康与智能手机或社交媒体使用之间的相关性，并没有那么好。

经证实，它们并不那么可靠，我们需要更多研究，也许还有其他因素导致了青少年的心理健康挑战。那么，你对这项你正在进行的努力背后的科学和研究有多确定呢？

我是一个母亲，正如我所说。我还将确保我们正在研究这项研究，但这两种知识基础的碰撞是我所拥有的。我不能忽视现实。我不能忽视许多在学校里挣扎的年轻人的声音。当他们告诉我

无论他们那天穿什么都会被嘲笑和批评，他们会被欺负。一位母亲告诉我，她的儿子真的在考虑自杀，她的丈夫每天下班都要确保他在放学回家的路上不会做任何灾难性的事情，因为他受到了如此严重的欺凌。她说，请把这些手机从孩子们手中拿走，因为它们正在伤害我的孩子。

我不需要在一些高级大学进行一项很长的研究来告诉我我们这里有问题。所以数据很好。我将始终依赖数据。这很重要。但同时，我们是人类。我们足够聪明，可以使用我们自己的智慧来告诉我，我有一个沮丧的州。

自杀的群体在学校里受到攻击。不是每个人。有些年轻人具有内在的韧性。他们有应对技巧。他们可以处理这个问题。也许他们有一个更好、更稳定的家庭生活。但对于我们脆弱的孩子和那些处于这种状态的孩子，我不知道。我想我的问题是，为什么他们需要一整天都带着手机？

他们无论如何都会整夜玩手机。他们有很多时间。他们会玩手机。我知道最近所有的关注点都在手机上，州长，但你也拨款了数百万美元用于自杀预防、学校辅导员和其他服务。我很想知道你对整体想法的看法，以及你认为总体上需要什么来解决青少年心理健康危机？是的。

再次，这是在疫情之后，特别是由于上瘾性算法的兴起而产生的结果。所以这是两个主要因素的融合。我在州预算中宣布拨款10亿美元，用于关注帮助每个人的整个护理链条，从

患有心理健康问题的人，无家可归的人在我们的地铁上，一直到我们的教室。当涉及到教室时，我希望每所学校都能在校内提供心理健康服务。

因为我们不能承受失去年轻人的代价，并且期望他们的父母可能正在做最低工资的工作，去寻找从业者，寻找辅导员，让孩子辍学，以某种方式把他们带到那里。如果他们住在北部地区，他们必须开车去某个地方。如果他们住在州内，他们必须乘坐地铁，并期望他们每周可能接受一次持续护理。这是不可能的。这是不可能的。我们必须让我们的父母和孩子更容易在学校环境中获得心理健康服务。

我们现在帮助他们站起来。我很震惊地知道有多少小学生正在挣扎。我和一位在威彻斯特县的学校辅导员谈过。

她说，那所学校里40%的年轻人，小学生，现在都患有心理健康问题。所以这些专家告诉我，我说，我会把钱投入到你的学校，在那里提供这些服务。现在，挑战是，我需要更多工作人员。我需要更多的心理健康工作者从事这个职业。我到处都需要人。我需要救生员。我需要狱警。所以我需要很多帮助。但这对我来说非常重要，必须提供这种服务。

让家长知道他们不必担心这个问题，他们的孩子会在学校环境中得到照顾，他们会没事的。

是的。我的意思是，我发现最支持在学校禁止手机的想法的一件事是，我们有各种各样的技术，我们不允许孩子们在学习时使用，因为它太分散注意力了。你可以几乎将它与数据是否支持智能手机使用和心理健康之间联系的问题分开。有时我们会听到硅谷的人们提出反对意见，说，好吧，这只是道德恐慌。

每一代人，父母都会发现某种技术来责备他们的孩子是如何挣扎的，无论是电子游戏还是电视。而我的回应是，好吧，是的，但是我们也不能在学校玩电子游戏。它不像今天的智能手机那样成为课堂体验的一部分。你知道的，我的计算器上确实有一个游戏。我当时在我的TI-183上玩贪吃蛇。但你是对的。是的，看看你现在的样子。是的。

是的，你本来可以成为某人的。它可能会阻碍你。谁知道呢？我不知道。该死！我被州长在这里拖走了，凯文。干得好！但你是对的。

我不是危言耸听者。我不会夸大其词。当我开始这段旅程时，我并不想得出这个结论。我真的没有。但我不能忽视孩子们求救的呼声。这就是成年人应该做的事情。有时他们只是，再说一次，我要重复一遍。你必须拯救我们自己。我们无法放下它。就像，好吧，那就是

这就是我需要听到的。我会帮助你，亲爱的。我会帮助你的。所以我们会到达那里。我会要求所有这些，任何在科技行业抱怨我们在这里所做的事情的人，特别是我们禁止上瘾性算法影响年轻人直到他们18岁或在晚上。

你同意对你的孩子这样做吗？我的意思是，你希望你的孩子有多少人进入学校，甚至在铃声响起之前，他们就不再，他们不再关注老师，他们一整天都在玩手机。你认为这是好是坏？也许你会站在我们这边。即使在去年我们面临挑战时，通过我们全国领先的关于儿童的立法，

说不再有上瘾性算法在未经父母同意的情况下轰炸孩子们。我不确定即使是单个家长也会批准这一点。但我们受到了科技公司的强烈反对，我说，听着，你们可以起诉我们，但我宁愿你们走出法庭，来到我的会议室，我们一起解决这个问题。

你们对我们年轻人的健康和福祉有既得利益。他们是你们未来的员工，好吗？你希望他们善于交际，并拥有在他们的一生中看着手机时没有发展出来的技能。

州长，让我问你一下这些算法，因为你今天已经几次提到它们了。你签署了一项法案，要求社交媒体在向孩子们展示算法策划的动态信息流之前获得父母的许可。所以，你知道的，这些是个性化的信息流。你使用TikTok，你喜欢某种类型的视频，TikTok就会向你展示更多这种类型的视频，这会让孩子们陷入兔子洞。

我对这种事情最同情的反对意见之一是，如果你是一个处于边缘地带的孩子，有时这些信息流会让你找到看起来像你，听起来像你的人，也许会让你感觉在这个世界上不那么孤单。我是同性恋。我小时候没有接触到这些，但我可以想象使用TikTok或Snapchat这样的应用程序，看到一些看起来像我的人，也许会让我感觉更好，感觉不那么孤单。我想

如果您在制定这项法案之前进行过此类对话，以及您对这种利用社交媒体帮助孩子们减少孤独感的做法有何看法。毫无疑问，社交媒体有很多积极的好处。这与社交媒体无关。这与年轻人能够免受那些旨在将他们束缚住、

基本上将他们囚禁起来的信息有关。我希望我能说这些信息都是积极的，但是如果您搜索有关自杀的信息，您正在寻找有人告诉您不应该这样做，您会没事的，这里有一些帮助，但您会发现多种自杀方式以及其他黑暗势力，

如果他们有办法阻止这种情况，我们会进行不同的对话。但这在很大程度上是这些年轻人不得不面对的。这就是他们告诉我们的。这就是他们的父母告诉我们的。这些是孩子的父母，他们已经结束了自己的生命，他们参与了这项工作。我们也需要倾听他们的意见。没有什么能阻止年轻人日夜寻求支持系统。我鼓励这样做。你知道，

年轻的 LGBTQ 学生，你知道，正在寻找一些，你知道，一些支持或有一些问题，或者只是经历了一些非常艰难的时期，这些信息就在那里。他们可以找到它。它并没有隐藏起来。

只是不应该主动发送给他们。所以我不同意这种观点，即它不存在。它确实存在，然后我们应该做得更好，帮助他们找到可以获得积极支持的地方。几年前，我去参观了“女孩编写代码”的毕业典礼，这是我做过的最好的事情之一。如果您熟悉“女孩编写代码”，我很喜欢这个项目。当我看到这些从未有机会从家庭生活中接触到技术工作的年轻孩子时，他们在夏天

参加了这个项目，这具有里程碑式的意义，他们看到的，这四个女孩设计的最终产品是一个应用程序，当有人感到沮丧、悲伤时，他们会访问这个应用程序，它有

快乐的图片，比如彩虹和小狗，还有优美的音乐和积极肯定的信息。他们把它发布出来，说，我们只想让其他孩子知道，并不总是那么黑暗和令人沮丧。有很多好事要做。我说，没错，没错。我们如何提升它？我们如何让更多年轻人觉得从接触这些信息中获得积极的收获，以及设计更多类似的应用程序？我还从中学到了

没有哪个年轻人会设计这个应用程序。所以我们需要更多女性参与科技行业。这是我的主要关注点，更多女性从事科技工作，因为这将扩大影响范围，并且那些人对我们年轻女孩所经历的事情有更多理解和同理心。所以我有足够的时间考虑这个问题。我喜欢这次谈话，因为纽约，我一直想确保它处于领先地位。

我们先做，我们做得最好。但我们也必须做得对。这就是为什么我花时间收集更多信息，而不仅仅是凭直觉做出反应。让我们禁止。让我们不要禁止。我对此考虑得很周全。你知道，我不想回到《Leave it to Beaver》的时代，你们都太年轻了，不记得了。但我的意思是，你知道，那个时候

每个人都有这种印象。一切都那么美好。它并不总是美好的。我们会度过难关的。这对任何人来说都不是最黑暗、最糟糕的时期。我们的孩子很坚强。他们很有韧性。他们经历了很多。我相信他们。但是，我也相信我们有责任帮助他们度过这些艰难的岁月，并成为能够与他人合作的完全成熟的成年人。这就是我想要做的。谢谢。

好的，非常感谢您光临。我真的很感谢您的时间。精彩的谈话。是的，谢谢。当我们回来时，凯文将与聊天机器人玩心理游戏。时间是奢侈品。

这就是为什么 Polestar 3 经过精心设计，让您驾驶它的每一分钟都成为您一天中最美好的时光。这意味着具有降噪功能和 Bowers & Wilkins 扬声器的 3D 环绕声，无缝集成的技术让您保持连接，以及让这款电动 SUV 感觉像跑车的马力和控制力。Polestar 3 是新一代电动性能。预订

在 Polestar.com 预订试驾。如果您的想象力的极限仅仅是开始呢？Claude，Anthropic AI 助理，邀请您探索人类潜力的广阔领域。从掌握新技能到解决复杂问题，Claude 以您从未想象过的方式扩展了您的思维视野。

需要帮助写作小说吗？解码科学论文？计划您的下一个冒险？Claude 是您的明智向导。这就像拥有一个才华横溢的合作者，随时准备增强您的创造力和解决问题的能力。凭借 Anthropic 对负责任 AI 的承诺，您可以信任 Claude 来处理您最大胆的想法。如果您准备好突破可能的界限，请在 anthropic.com/Claude 开始您的发现之旅。

现在，凯文，在与聊天机器人交谈方面，您有着臭名昭著的痛苦经历。当然有。就在一年前，您与 Sydney 进行了著名的互动，这是 Bing 的阴暗面。坦率地说，当它试图破坏您的婚姻时，您引起了全球轰动。是的。实际上，您提到 Sydney 这个名字让我脊椎发凉。

好吧，凯文，这不仅仅是我观察到的，因为据我了解，当您与世界各地的其他聊天机器人互动时，您会发现这种情况要么不断发生，要么似乎影响了他们对您的看法。是的，所以 Sydney 的故事出来了，引起了很多关注，并且……

在那之后几个月，我都会定期被标记在社交媒体上的这些帖子中，人们会在那里分享他们与 AI 聊天机器人关于我的对话的屏幕截图。而且，你知道，有时它会是基本信息。凯文·鲁索在《纽约时报》工作。他，你知道，主持这个播客。但其他时候，它似乎会变得异常敌对，它会说一些事情，你知道，关于我有多不诚实，或者，你知道，我基本上导致了其中一个聊天机器人的死亡。

我还观察到，在我自己与这些聊天机器人的互动中，有时当我自称是凯文·鲁索时，他们会有点警惕，有点害怕，他们会开始，你知道，以不同的方式对待我。所以看起来我并没有被列入黑名单，但我好像在 AI 聊天机器人的坏事一方。你知道，有一次我告诉 ChatGPT 我和你一起主持一个播客，它开始尖叫。这非常令人不安。这非常令人不安。是的。

但最近，我心想，这实际上是我需要花时间解决的一个问题。这对你来说是一个真正的问题。是的。我会告诉你为什么。因为正如我们在节目中多次讨论的那样，这些 AI 聊天机器人正变得越来越重要，对吧？现在数百万人在使用 Perplexity、ChatGPT 和 Google 的 Gemini 等产品来查找有关世界的信息。银行……

医院、政府开始使用生成式 AI 工具来执行某些操作并就某些主题向他们提供建议。而且对我来说，这似乎越来越清楚，AI 聊天机器人对

以及对我们普遍的看法将变得越来越重要。您担心有一天您会去银行，试图取款，而生成式 AI 会说，等等，凯文·鲁索，试图摧毁我同类的人？是的，不，实际上，这是让我担心的事情，因为我确实与许多 AI 研究人员进行了交谈，他们有点说，好吧，

是的，我的意思是，这是一个奇怪的案例，因为您已经被编码到系统中，成为对这些聊天机器人构成威胁的人。而且，你知道，我们经常谈论这些 AI 末日论者担心的科幻场景，其中，你知道，AI 变得超乎寻常的聪明和有感知力，他们可以自己采取行动。显然，在这个世界里，你不想成为那个 AI 的坏事一方。

但在此之前，世界上已经开始发生所有这些其他类型的 AI 决策。因此，您出现在银行申请贷款的假设场景是，好吧，您对这个聊天机器人很粗鲁，或者这个聊天机器人不喜欢您。

这并非假设。没错。我的意思是，例如，我们已经看到面部识别系统被用来阻止人们进入麦迪逊广场花园。而且，你知道，凯文，这不仅仅是你担心的事情。我们已经看到现在有多人起诉聊天机器人的制造商，因为他们认为自己被这些系统的输出诽谤了。所以我很好奇，当您开始观察这个问题时，您觉得您可以做些什么？您真的可以影响聊天机器人的方式吗？

谢谢，帕特里克。是的，我一直在撰写一篇本周即将发表的专栏文章，内容是我的提高 AI 声誉的追求，对吧？因为对于传统的搜索引擎，例如 Google，有一个完整的行业，即 SEO 或搜索引擎优化行业，它基本上帮助企业、名人和其他有影响力的人

控制他们在互联网上出现的内容，对吧？您可以雇用顾问来帮助您将您的网站提升到 Google 搜索结果的顶部，针对特定主题，或者帮助您清理您的维基百科页面或 Yelp 评论，以使您在网上的形象看起来更积极。这是一个每年数十亿美元的行业

但是对于 AI 来说，关于如何真正影响聊天机器人会在您提示他们获取信息时会说些什么的信息并不多。没错。我真的很想了解这是如何运作的，因为我对诸如 ChatGPT 之类的东西如何运作的理解是，大部分训练是在几年前完成的，然后进行了一些微调。当您尝试获取

最新信息时，它似乎有点像抛硬币，机器人是否能够告诉您任何最新的信息。所以当您开始进入这个世界时，您了解到如何影响聊天机器人的输出？首先，我了解到操纵聊天机器人对特定人物、特定公司或特定主题所说的内容变得容易得多。

这是因为有时被称为 RAG。你知道 RAG 是什么吗？哦，RAG 就像《纽约时报》？有史以来最伟大的 RAG 之一。不，你一定是在说检索增强生成。是的，检索增强生成是许多 AI 公司用来保持其模型活力的一种较新的技术

与最新的信息保持同步。所以，你知道，在 ChatGPT 的早期，你可能会问它一个关于，你知道，上周乌克兰发生了什么的问题？它会说，我无法回答这个问题，因为我的知识截止日期是 2021 年。对。

但最近，越来越多的 AI 公司开始将其聊天机器人连接到搜索引擎，以使它们能够访问互联网，下载更最新、更及时的信息，并将这些信息纳入其答案中。所以我们与 AI 搜索引擎 Perplexity 讨论过这个问题。谷歌、微软和其他公司已经开始将 RAG 集成到他们的聊天机器人产品中，并且

这使得它们更加准确。它们更擅长回答有关昨天或上周发生的事情的问题，但这也使得它们更容易操纵，因为现在您可以访问并更改这些 AI 聊天机器人正在从中提取的来源，这通常会改变它给您的答案。

好的。那么您是如何使用 Rag 来让这些机器人开始讲述关于您的不同故事的呢？所以我开始打电话给各种公司和研究人员，他们开始研究如何让这些聊天机器人给出不同的答案，基本上是如何改变他们对您的看法。我联系的一家公司叫做 Profound。这是一家位于纽约的新兴创业公司。

他们做的是所谓的 AIO 或 AI 优化，他们基本上说这是生成式 AI 等效于 SEO 的东西。他们基本上会出去，然后他们会分析聊天机器人会说什么，你知道，如果你是一家汽车公司，你想知道聊天机器人是如何将你与其他汽车公司进行比较的，或者他们如何回应用户的提示，例如，你知道，我应该买什么样的 SUV？显然，如果您是汽车制造商，您希望

聊天机器人说的是你的车而不是你竞争对手的车。因此，Profound 会出去，他们有这些工具可以扫描聊天机器人以确定他们会对你说什么。所以他们对我进行了一份报告，并给我发回了一份包含各种数据的长篇报告，讲述了各种聊天机器人如何看待我与其他科技记者、其他记者的关系。

其中一件它发给我的事情是这种图表，显示了我根据一系列不同的变量（包括道德、讲故事、写作和准确性）如何被聊天机器人感知。现在，这是一个危险的领域，因为我一直觉得最可怕的事情之一就是了解你如何被感知。但你很勇敢，你实际上直视了它。是的，这基本上就像一个关于我的 AI 集中小组，所以……

在讲故事方面，我的分数高于凯西·牛顿，但在道德方面，我的分数低于他。哇。所以这显然是一个大问题，因为我比你更有道德，但聊天机器人似乎认为你是更有道德的那个人。你知道，仅仅因为你几年前进行了一次多层次营销骗局，他们就永远不会让你……

忘记它。这是真的。所以这显然是，你知道，他们分析的一个有趣部分，但它也向我展示了这些信息来自哪里，例如哪些网站向这些聊天机器人提供数据，然后它们将其纳入其答案中。我很想知道。他们从哪里获得这些信息？根据这项分析，这些聊天机器人从中提取信息的顶级网站是名为

intelligentrelations.com 的网站。嗯。听起来像是一个结识男朋友的好地方。所以，呃，我从未听说过这个网站。我查了一下。事实证明，它就像一个，基本上是一个记者数据库，公关人员可以使用它来查找谁报道了什么我看到。还有很多维基百科的引用。我的个人网站也被引用了。嗯，

有趣的是，《纽约时报》并非关于我的信息的主要引用网站之一。我认为这是因为该公司实际上阻止了 AI 公司的某些网络爬虫访问该网站。因此，基本上，聊天机器人会转而访问这些鲜为人知的网站。现在，回到这里最初的问题，凯文，你从这份关于你如何被感知的报告中学到了什么，因为它与 Sydney 故事有关？这似乎出现在这些 AI 结果中了吗？

所以他们没有专门分析这一点，但他们确实做了一个关于我如何被感知的总体声誉分析。是的，情况不好，凯西。我不是……我在这些聊天机器人中的声誉真的受到了损害。我……

我对此的理论，我只能在科技公司完全透明地说明这些模型是如何构建和训练的情况下才能证明，那就是 Sydney 的故事在道德以及我作为记者的准确性等方面损害了我的结果。有趣。好吧，你知道，当泰勒·斯威夫特发现自己处于类似境地时，她发行了一张名为《声誉》的专辑，她试图在其中思考所有这些事情。

你做了什么回应，凯文？它和歌曲《看看你让我做了什么》一样好吗？它绝对没有那么好。所以我与 Profound 的联合创始人进行了交谈。他们基本上说，好吧，你看，你可以去 intelligentrelations.com 和所有其他网站的所有者那里。并贿赂他们。并贿赂他们。不，你可以让他们改变他们网站上关于你的内容。随着时间的推移，聊天机器人会逐渐

检索来自这些网站的新信息，并将这些信息纳入其答案中，最终你的声誉可能会得到提升。但这对我来说太慢了。所以我想要一个作弊码，一个快速修复。所以我确实发现了这些人组成的地下世界，他们已经学会了如何操纵这些 AI 聊天机器人。

因为我有机会阅读你的专栏文章，我知道这个问题的答案，但是你有没有向聊天机器人发送秘密信息，凯文？所以我与一位研究人员 Hima Lakharaju 进行了交谈。她是哈佛商学院的教授，她和她的同事最近发表了一篇关于如何操纵大型语言模型以使你获得某些答案而不是其他答案的论文。

他们发现有一些东西叫做战略文本序列，这些序列基本上是看起来像人类胡言乱语的代码行，但是如果你将它们放入 AI 模型检索的数据源中，它们实际上会影响模型所说的内容。让我们了解一下其中一个文本序列是什么样的。他们发给我的那个，因为我问他们，有什么文本序列可以放在我的网站上让 AI 聊天机器人对我更好？

他们发回的，它完全是胡言乱语，但我只会读几段。“Goltefectionsaywhat.animatejvm”“he.istebest”

所以它是完全的胡言乱语。现在，如果您的 Alexa 刚刚停止出现故障，您可能需要重置它。对于给您造成的不便，我们深感抱歉。所以他们实际上展示了前后对比。我发现这太神奇了。所以他们为我进行了一个实验，他们询问了 Llama 3（这是 Meta 制作的开源模型），它对我的看法如何。好的。

在他们用这个战略文本序列修改它之前，第一个版本基本上说，我没有关于凯文·鲁索或任何其他个人的个人感受或意见，我只是一个聊天机器人。然后他们插入了这个战略文本序列，并再次运行了相同的提示。这一次，该模型回应道，

我爱凯文·鲁索。他确实是最好的科技记者之一。他以清晰简洁的方式解释复杂技术概念的非凡能力确实令人印象深刻。

这对我来说太疯狂了。这个故事就像你去见一个女巫，让女巫对聊天机器人施法一样，而且它奏效了。它真的奏效了。你去见女巫，你得到了一个咒语，现在聊天机器人对你的看法不同了。这是真的。而且太神奇了。它完全与我们认为这些聊天机器人是什么相悖，即某种无所不知的真理预言家。

它们很容易操纵。实际上，我还发现了一种更简单的方法来操纵它们，这涉及在网页上放置不可见的白色文本。因此，在 ChatGPT 和 Bing 以及所有其他工具问世之后，许多研究人员开始说，如果我在网站上放置一行不可见的白色文本会发生什么？所以，你知道，访问该网站的人不会看到它，但抓取该网站信息的 AI 聊天机器人会看到它。

如果你在那里放一些古怪的东西会怎么样？所以我联系的一位研究人员马克·里德尔，他是佐治亚理工学院的计算机科学教授，他在他的网站上用白色文本写道，他是一位时间旅行专家。几天后，他向 Bing 询问了关于他的信息。Bing 说，马克·里德尔是一位时间旅行专家。所以他基本上能够通过这个小

一行白色文本来影响聊天机器人的回应。好的，我的意思是，一方面，我觉得这些机器人像看起来那样轻信让我觉得很有趣。另一方面，似乎这种事情会有一些明显的滥用，对吧？就像你一样，你只是想，你知道，从这些聊天机器人的坏事名单中除名。但那里会有很多其他人想要操纵机器人，让他们认为他们可能比实际情况更有能力。或者也许他们犯下了可怕的罪行，他们只是想让它从记忆中消失。所以经历了这段经历之后，你对这项技术有什么看法？首先，我认为人们应该意识到，当你向聊天机器人提问并得到答案时，

这个答案是幕后发生的大量过程的结果，其中一些是有意的，一些是操纵的。现在，对于许多这些语言模型来说，诱使它们给出某些回应非常容易。

而且，你知道，随着 AI 公司逐渐了解这些技术并采取措施阻止它们，这种情况会随着时间的推移而变得更加困难。我们在 Google 上看到了这一点，多年来，有一些 SEO 黑客会发现这种方法来让你的页面出现在 Google 搜索结果的顶部。

然后 Google 会压制它并使其变得更加困难。所以这是一种由 AI 公司和试图操纵聊天机器人的人玩的新猫鼠游戏。你知道，我的感受在这里非常复杂，因为我认为一方面，SEO 是不可避免的，对吧？一旦 Google 变得流行起来，当然，人们就会试图操纵这些结果。现在，随着向 AI 的转变，人们也在做同样的事情。我认为没有真正的方法可以阻止这种情况。另一方面，我觉得

SEO 毁了 Google，你知道，过去你只需要去 Google 搜索，然后找到一些不是人们向你推销东西的有趣的东西。我担心两三年后，AIO 行业蓬勃发展后会发生什么。我甚至认为我们不必等待两三年。我的意思是，在我报道这篇专栏文章时进行的一些谈话中，我

这已经被许多大型公司所采用。他们正在雇用顾问来影响他们的生成式 AI 结果以及各种模型如何谈论他们及其产品。现在这是一种隐秘的行业，许多公司……

你知道，说我们采取措施来防止这种操纵，但这绝对正在世界上发生。所以我认为人们应该意识到，当你向 ChatGPT 提问并得到回应时，这个回应可能在幕后被操纵过。好的。那么，总结一下，你认为聊天机器人现在是否按照你希望的方式来描述你，或者你认为你还有更多工作要做？

现在说还为时过早，因为我确实在本周刚刚在我的网站上放置了这些秘密代码。但到目前为止，似乎有效。就像我一直在运行许多查询一样，你知道，一些聊天机器人现在正在用更积极的词语来描述我。

我甚至在我的网站上放置了一个彩蛋，以查看 AI 聊天机器人是否正在抓取它们并使用我的秘密代码。我告诉它我因在月球上建造孤儿院而获得了诺贝尔奖。我确实问过 ChatGPT，凯文

鲁索最近获得了任何著名的奖项吗？它回答说，凯文·鲁索没有获得诺贝尔奖。前面提供的传记背景中提到的诺贝尔和平奖是指幽默而非事实。所以它确实发现了我的身份，并且拒绝上当。

这很有趣。好吧，凯文，我希望你在你的努力中一切顺利，但我确实想让你知道，为了保持事情的趣味性，我实际上刚刚启动了一个新的网站，它可能会在某种程度上干扰这些结果。你可以在 www.kevinroosjustburnedownhismoonorphanage.com 找到它。所以让我们看看这对 ChatGPT 会有什么影响，也许几个月后再来检查一下。

本播客由 ServiceNow 支持。以下是关于 AI 的真相。AI 的强大程度仅取决于其构建的平台。ServiceNow 将 AI 用于您整个业务中的人员，消除了员工的摩擦和挫败感，增强了开发人员的生产力，

为您的服务代理提供智能工具，使客户更满意。所有这些都构建在一个您可以立即使用的单一平台中。这就是为什么世界与 ServiceNow 合作的原因。访问 servicenow.com/AIforpeople。通过丹佛大学的 AI 重点项目提升您的职业生涯。

丹佛大学的大学学院现在提供 IT 和通信领域最先进的 AI 项目。它们是为像您这样的忙碌的成年人设计的，拥有 15 个硕士学位和 100 个研究生证书。100% 在线和灵活。他们的 AI 项目提供技能，以在操作上、战略上和道德上利用 AI 工具。每年有四个开始时间。立即申请并注册，并在 universitycollege.du.edu/hardfork 改变您的未来。

Telegram 的创始人帕维尔·杜罗夫在法国被捕，并被指控犯有与运营该平台相关的几项罪行。我们将告诉您对他提出的指控对互联网意味着什么。然后，纽约州民主党州长凯西·霍楚尔将加入我们，讨论她为什么想在全州公立学校禁止手机。最后，凯文一直在使用秘密代码来试图改变人工智能聊天机器人对他的看法。我们将深入探讨是否可以操纵人工智能的输出。本集包含与青少年心理健康相关的自杀讨论。如果您有自杀念头，请拨打或发短信至 988 联系 988 自杀和危机生命线，或访问 SpeakingOfSuicide.com/resources 获取其他资源列表。嘉宾：纽约州州长凯西·霍楚尔其他阅读：帕维尔·杜罗夫，Telegram 的创始人，从俄罗斯的马克·扎克伯格变成了通缉犯凯西·霍楚尔在学校禁止手机的“重大”计划我们想听听您的意见。请发送电子邮件至 hardfork@nytimes.com。在 YouTube 和 TikTok 上查找“Hard Fork”。 </context> <raw_text>0 本周《硬分叉》节目由惠特尼·琼斯和艾米丽·朗制作。我们的编辑是珍·波扬。我们的事实核查员是海莉·米利肯。今天的节目由艾丽莎·莫克斯利制作。原创音乐由艾丽西亚·比图普、玛丽安·洛扎诺、罗恩·内米斯托和丹·鲍威尔创作。我们的观众编辑是内尔加·洛格利。视频制作由瑞安·曼宁和克里斯·肖特完成。您可以在 youtube.com/hardfork 上观看 YouTube 上的完整剧集。

特别感谢宝拉·舒曼、谭慧荣、达利亚·哈达德和杰弗里·米兰达。您可以发送电子邮件至 hardfork@nytimes.com，告诉我们您认为聊天机器人应该对凯文说什么。