Google CEO: AI Is Creating Deadly Viruses! If We See This, We Must Turn Off AI! They Leaked Our Secrets At Google!
01:50:11 Share

不过，就目前而言，我不知道，我们以前从未做过这样的事，但你正在对数十亿人进行一项没有对照组的实验，对吧？所以我们必须摸索前进。所以，归根结底，我是一个乐观主义者，因为我们将调整社会中的偏见和价值观，尽量让我们保持道德高地，人类妻子。

所以，你应该对此抱有乐观态度，因为这些孩子长大后，他们的寿命会达到一百岁，他们的生活会更加富裕，我希望如此。我希望他们经历的冲突更少。当然，他们的寿命更长了。他们因战争受伤的可能性在统计上要低得多。这是一个好消息。

作为领导全球最大科技公司之一的人，如果你要领导TikTok，你会怎么做？因为我相信他们已经意识到你所说的都是真的。但是，他们有商业激励来提高算法的成瘾性，这导致了这些回声室，导致年轻人，尤其是年轻女性的焦虑和抑郁率上升。你会怎么做？

所以，我已经和他们以及其他人谈过。我认为这相当直接。当我们在谷歌学习时，我们有好的收入和坏的收入。所以，我们会改善质量，我们会让产品更好。

争论是，我们将把这种收入以更多广告的形式转化为收入？还是我们只是让产品更好？这是一个明确的选择，我任意决定将一半用于一种，一半用于另一种，因为我认为两者都很重要。

所以，当然，创始人，我们非常支持。所以，谷歌变得更有道德，也赚了更多的钱，对吧？关于谷歌有很多事情，但不是在首页上。这是关键。

另一种模式是，让我们最大化收入，将所有不好的东西，谎言、欺骗和欺骗放在一起，这会让你和我都崩溃，我们可能会赚到更多的钱，但这并不是正确的事情。但更重要的是，它不可持续。嗯，有一个叫做格雷西尔定律的法律，当然，在口语中，坏话会驱逐好话。

你看到的是，你看到的是在线社区，它们一直存在欺凌和这类事情。现在，在我看来，你有一些疯狂的人正在制造谎言和虚假信息的机器人。为什么？在佛罗里达州发生飓风时，人们遇到了严重的麻烦。

而你坐在你家里的舒适中，却忙于让他们的生活更加困难。你到底怎么了？让他们得到救援吧。

你知道，人的生命很重要，但人的心理有一些东西，人们会和……有一个德国词，用来形容人们在网上购物。我们有许多需要解决的问题。我希望社交媒体和网络世界能够代表人类的最好一面，希望、兴奋、乐观、创造力、发明和解决新问题，而不是最坏的一面。我认为这是可以实现的。

你46岁来到谷歌。

2001年，2000年……

2001年。你在此之前拥有非常丰富的职业生涯，为许多非常有趣的公司工作。其中一家是微系统，我非常了解。你还在加利福尼亚州的Zio X和贝尔实验室工作过，我想你20岁时有了第一份真正的工作。首先，这是一次大型科技之旅。你的人生旅程中，关于如何建立伟大的公司以及作为一名伟大的企业家和团队成员的价值，你学到了什么？如果它们是一些每个人在做伟大的事情和建立伟大的事情时都应该思考的第一性原理？

还有什么类似的第一性原理？我学到的第一个是，你需要一个真正聪明的人来创造一个真正出色的产品。而我不是。

我和他们一起工作。所以，找到比你更聪明、更机智、行动更快、让世界变得更好的人，并与他们合作，因为这些人将改变世界。

在我的书中，我们使用“创新者”和“追随者”的区别，并以史蒂夫·乔布斯为例，他显然是一个创新者，强硬而有主见，如果你不喜欢他，他会欺负你，但他确实是一个创新者。他想要完美，对吧？与史蒂夫·乔布斯保持一致是一个好主意。

另一种是所谓的“追随者”。追随者，从英国历史中你可能知道，是按照自己的意愿行事的人。他们不试图做正确的事情。他们试图以牺牲他人为代价来谋取自身利益。

所以，如果你能识别出团队中那些以真正聪明的方式解决问题、充满热情并想要做这件事的人，那就是世界前进的方式。如果你没有这样的人，你的公司就不会有任何进展。原因是太容易了。

继续做你正在做的事情，对吧？创新本质上是改变你正在做的事情。直到这一代科技公司，大多数公司在我看来都是昙花一现，对吧？

他们会有一件事非常成功。然后，它通常会停滞不前，不会发生太多事情。现在我认为人们更聪明了。

人们受过更好的教育。你现在看到的是重复出现的浪潮。一个很好的例子是微软，现在是一家老牌公司，成立于大约81年左右。所以，让我们说它有45年的历史了。但他们已经多次以一种非常强大而有效的方式重新发明自己。

我们可能应该在继续之前谈谈这个话题，你正在谈论的，就是那种创始人精神。人们指的是那些充满活力、充满信念、具有颠覆性思维并能够自我重塑的人。事实上，昨晚我查看了一些数据，我查看了公司平均在《财富》500强榜单上停留的时间。

现在，我从33年到17年到12年，平均是10年。当你计算这些数字时，最终是4年或20年或50年。我告诉自己，我可能大约是8年。

我不确定是否同意创始人的论点，原因是拥有一个杰出的创始人非常棒，而且……实际上，这比棒还要重要。我们需要更多的杰出创始人。顺便说一句，大学正在培养这些人，他们每年都会出现。

知道像迈克尔·戴尔这样的人，在19岁或22岁的时候。这些都是杰出的创始人。当然，盖茨和拉里·佩奇和我的那一代杰出的创始人。

对于那些不知道拉里·佩奇和谢尔盖·布林是谁的人，你能给我讲讲早期谷歌的故事吗？但也要介绍一下人物。

叫做不。所以，拉里·佩奇和谢尔盖·布林在斯坦福大学，他们获得了国家科学基金会的资助，作为研究生。拉里·佩奇发明了一种名为PageRank的算法，以他的名字命名。他和谢尔盖写了一篇论文，至今仍是世界上被引用最多的论文之一，它本质上是一种理解信息优先级的方法。

从数学上讲，它对当时人们通常做的事情进行了彻底的改变。所以他们写了这段代码。我不认为他们是一组优秀的程序员，你知道，他们只是做了这件事。他们有一台电脑，宿舍的电源用完了。

所以他们……从隔壁宿舍借了电源，插上，在宿舍里建立了一个数据中心，你知道，这是一个经典的故事。然后他们搬到了当时一个女朋友姐姐拥有的建筑物里，这就是他们找到公司的方式。他们的第一位投资者是微系统创始人之一，名叫安迪·贝特尔斯，他只是说，因为你们显然非常聪明，我会给你们钱。给他10万美元，也许是一百万美元。

但无论如何，它最终变成了数十亿美元。这让你感受到早期创始人的重要性。然后，创始人搬进了门洛帕克的一所小房子，我们最终将其作为博物馆收购了谷歌，他们在车库里建立了谷歌，在霓虹灯下，他们有4名员工坐在他们下面。

他们导师建造的电脑非常、非常好的软件人员，当然很聪明，但硬件方面不太好，所以他们用公司零件组装了电脑。如果你了解硬件，硬件通常会产生很多热量，电路板可能会着火。所以，最终，当我出现时，我们开始建造配备了良好硬件和良好硬件工程师的适当硬件。但这让你感受到那种非常有特色的艰苦奋斗精神，你知道，今天，他们对社会的影响巨大，我认为这种影响还会持续很多年。

为什么他们叫你进来？在什么时候他们意识到他们需要像你这样的人？

嗯，他们告诉我，他们说，我们现在不需要你，但将来我们会需要你。

将来我们会需要你。

是的，拉里和谢尔盖的其中一点是他们考虑长远问题。所以他们没有说谷歌将是一家搜索公司。他们说谷歌的任务是组织世界上所有信息。

如果你考虑一下，25年前，这真是大胆的想法，你如何做到这一点。所以他们从网络搜索开始。拉里对人工智能进行了相当深入的研究，他开始工作，最终，他和我们所有人一样，当然，收购了英国的深度思维，它基本上是第一个真正看到人工智能机会的公司，过去十年中你看到的所有人工智能都来自深度思维的人或与深度思维竞争的人。

回到这个关于原则的观点，在继续之前，在建立伟大公司的过程中，有哪些发现原则？我们有很多创业者在收听节目。其中一些人表达了对创新者的需求。我想这些人非常有信念，并能看到未来。我需要考虑哪些其他原则？

我在扩大我的公司时应该考虑哪些原则？第一个是考虑规模。我认为一个当前的例子是埃隆·马斯克。埃隆·马斯克是一位了不起的企业家和了不起的科学家。如果你研究他的运作方式，他通过个人意志的力量让员工超额完成工作，承担巨大的风险，不知何故，他拥有这种才能，能够做出这些权衡并做到正确。所以这些人是杰出的人。

现在，在我们的《创世纪》一书中，我们认为你可能会拥有这些，但你是否会像埃隆·马斯克那样有判断力来承担风险？另一个思考这个问题的方法是，许多人告诉我，他们创办的公司，他们只是想做一些小事，你知道，我想让相机更好。我想让衣服更好。

我想让书籍出版更便宜。或者，这些都是很好的想法，我对那些能够扩大规模的想法感兴趣。我说规模是指从零到无限地扩展用户和需求的能力。有很多方法可以思考这个问题。

但是，在人工智能时代，什么样的公司会是成功的？我可以告诉你它会是什么样子。你会有一个安卓应用程序，一个iOS应用程序，可能还有其他一些应用程序。它们绝对会使用强大的网络，并且在后台会有一个大型计算机进行人工智能计算。所以，未来的成功公司都会有这一点，对，这取决于创始人要解决什么问题。但是，如果你不在你的业务的各个方面都使用人工智能，你就不会成功。区别在于，当我做所有这些事情时，你必须编写代码，而现在人工智能必须发现答案，这是一个很大的区别。

当然，这是谷歌十年前发明的，但突然间，所有这些政治编程，我一生都在编写代码，现在你正在做这些实际的事情，所以等等，正在逐渐被学习答案所取代。例如，我们以语言翻译为例。当前的大型语言模型基本上是组织和预测下一个词。

如果你能预测下一个词，你就能预测生物学中的下一个序列，你就能预测机器人的下一步行动。所以，所有关于大型语言模型和深度学习的这些事情，以及来自变压器论文、GPT-3和ChatGPT的这些事情，对大多数人来说，这是一个巨大的时刻，基本上都是关于预测下一个词，以及如何正确地做到这一点。

关于公司文化和公司成功与前景的重要性，你怎么看待公司文化，以及它在建立时有多重要？我经常说……

公司文化几乎总是由领导者确立的。我曾经在一家名为Mail Clinic的公司担任董事会成员。Mail Clinic是美国最大的医疗保健系统，也是评价最高的医疗保健系统。他们有一条规则，即客户的需求放在首位，这源于Mail Clinic的创始人，他们已经去世了一百多年了。但我上任后，我开始四处走动。

这有点愚蠢，没有人真正这样做，他们真的相信它，他们重复它，他们重复它，对吧？所以，在非技术文化中，例如医疗保健，这是服务交付，你可以在非技术领域建立文化。而技术通常是工程文化。

如果我能够重新选择，我会招募更多技术人员，减少非技术人员，让技术人员自己想出他们该做的事情。我很抱歉有这种偏见，因为我不想冒犯任何人。但事实是，如果你打造出正确的产品，技术人员会吸引客户。

如果你不打造产品，就不需要我们来销售。为什么要销售劣质产品？在《谷歌工作原理》和《太阳能教练》等书中，我们大量讨论了首席执行官现在是首席产品官和首席创新官，因为 50 年前，你没有获得资金、市场、销售和分销渠道的途径。我今天与一位企业家会面，他说，“是的，是的，我们将有 95% 的技术人员。”

我问，“为什么？”他说，“因为我们有合同制造商，我们的产品非常好，人们会直接购买它们。这恰好是一家技术转型的公司，他们说它比他的能力好 10 万倍，我说，你将无法销售，不幸的是，IT 不起作用。是的，这不是重点。”

但如果他们实现目标，人们会排队等候。因此，从文化角度来看，你希望建立一个以打造高质量产品为核心的技术文化。当工作不是工程师的另一件事时。

正如你所说，他们会向你做精彩的演示，然后离开。所以这很有趣。但是，你知道，我不是你的客户。你的客户非常苛刻，因为你的客户希望一切都能立即正常工作，并且永不犯错。

所以，给我他们的反馈，如果他们的反馈很好，我很高兴；如果他们的反馈不好，那么你最好回去工作并停止。太傲慢了。所以，在公司内部的创新危机中，人们会迷恋于想法，而不会测试。谷歌做过的一件事就是这一点。这主要与火星有关。一位主管曾经对我说，“我不知道如何评价用户界面。”

之前的首席执行官是……

雅虎的首席执行官。在她负责谷歌的所有消费产品之前，她现在正在湾区经营另一家公司。但重要的是，你说的“我无法评价用户界面”以及我的团队也无法评价，但我们知道如何衡量。

所以，她组织了 A/B 测试。你测试一个，再测试另一个。所以，记住，可以使用这些网络来实际了解，因为它们高度量化，例如停留时间，某人观看某物的时间有多长？这有多重要。如果你回顾一下 TikTok 的运作方式，他们使用的信号之一包括你观看、评论、转发和分享的时间，所有这些都可以理解进入 AI 引擎的分析，从而决定下一步做什么。

决定什么会走红。关于规模化公司的文化，是否正确地期望随着公司规模的扩大而改变文化？因为你加入谷歌时，他们的营收不到 1 亿美元，而你离开时，他们的营收已达 800 亿美元。但是否正确地假设一家成长型公司的文化应该从最初的十个人到一百个人时发生变化？

所以，当我回到谷歌参观时，他们非常乐意接待我，当然……我听到了回声。我在一次午餐会上，一位女士负责搜索，一位德国人负责广告。你知道，我的同事的继任者，我问他们正在做什么，他们说同样的问题没有解决，但问题规模更大。

所以，当你进入一家公司时，我怀疑……我没有参与苹果的创立，但我曾担任过一段时间董事会成员……你今天可以在他们的用户界面、封闭性以及隐私和保密性上看到这种文化。只是不同的公司，对吧？我没有发表评论。

设定文化很重要。回声就在那里。大型公司发生的事情是，由于各种原因，它们变得效率低下。首先，由于公众舆论和诉讼，它们变得保守。

一个著名的例子是，在 90 年代的反托拉斯案件之后，微软在推出新产品方面变得如此保守，以至于它错过了网络革命很长一段时间。他们后来有所恢复，当然，我很乐意利用这一点作为竞争对手，当我们还是谷歌的时候。但重要的是，大型公司应该更快，因为它们拥有更多资金和规模，因此它们应该能够更快地完成事情。

但在我的行业中，拥有核心理念的技术初创企业往往会获胜，因为大型公司无法快速行动。这不是我们建立的谷歌视频的例子。我非常自豪于谷歌视频。

当时的大律师戴维·德拉马来了，他说，“你必须看看这些 YouTube 人。”我说，“为什么？谁在乎？”结果发现他们真的很棒，比你的团队更聪明。

我说，“坎普顿，你真是典型的傲慢自大。”我们坐下来研究了这个问题，他们确实行动得更快，即使我们有内部人员。结果发现，内部人员是在遵守谷歌的传统规则下运作的，这很好。

而竞争对手，在这种情况下是 YouTube，不受这些限制。他们可以以任何速度工作，并且可以做各种事情，包括知识产权。因此，最终，我们因所有这些事情而被起诉，但我们最终赢得了所有这些诉讼。

但这是一个例子，在特定时间点，我们必须行动迅速。你现在正在看到这种现象，即通用技术。因此，通用人工智能（AGI）正在生成代码、视频、文本、性别等内容。所有这些赢家将在未来六到十二个月内确定。

然后，一旦斜率设定，一旦增长率每六个月左右就跳跃一次，其他人就很难进入。所以，当你与伟大的风险投资公司交谈时，这是一个你尽可能快地进入比赛的竞争。

我们明天就会做出决定。我们完成了。我们已经进入等等，我们希望成为第一名，因为那才是他们赚取最多钱的地方。

在您到来之前，我们与杰克谈论了关于收获和狩猎的想法，因此收获已经销售的产品，并寻找资金机会。但我一直发现收获和狩猎同时进行非常困难。

所以，收获和狩猎是一个很好的比喻。我对企业家很感兴趣。因此，我们在谷歌学到的东西是，最终，如果你想让某人完成工作，你必须让一个以企业家方式行事的人来领导一个小企业。

例如，当他成为首席执行官时，他制定了一个模型，其中他将强调一些小事，而一些小事现在变成了大事，对吧？他就是这样管理的。

因此，了解大型公司创新的一种方法是了解谁是所有者。拉里·佩奇一遍又一遍地说，除非有所有者来推动，否则不会发生。他非常擅长识别技术人才，这是他作为创始人的一大优势。

所以，当我们谈论创始人时，如果你有愿景，你还必须非常幸运或非常有能力找到能够领导这项工作的合适人选。不可避免的是，这些人从技术角度来看非常出色，他们行动迅速，并且具有良好的管理能力，对吧？他们了解如何招聘人员和部署资源以促进创新。如果我回顾我的职业生涯，我看到每一代科技公司都失败了，包括例如索尼，在芯片不再具有竞争力的时候。

未来，团队在仍然有日常工作的情况下是否能够创新，如果我知道我的意思，你必须把这些人带到不同的团队、不同的建筑物、不同的部门，让他们专注于他们的颠覆性行动。

几乎没有同时在同一建筑物中做到这一点的例子。麦金塔电脑以史蒂夫在桌子上完成而闻名。非常小的团队发明了麦金塔电脑，他把他们放在大楼旁边的一栋小楼里，在鲍勃路和托。

他们在上面挂了一面海盗旗。这在公司内部文化上好吗？不，因为他会在大楼里制造怨恨。

但在收入和苹果的道路上，这是否正确？绝对是。为什么？因为麦金塔最终成为了建立用户界面的平台，这最终使他们能够制造 iPhone，当然，iPhone 的定义就是用户界面。

为什么他们不能待在同一栋楼里？

这不起作用。你无法让 70 个人同时扮演两个角色。你必须成为一个馅饼和一个颠覆者。你不需要遵守相同的规则。所以，有很多例子，你只需要不断地自我发明。

现在，云计算和基本上云服务（谷歌所做的）很有趣，因为产品不是卖给你的，而是交付给你的。这更容易改变。但如果你看看今天的谷歌，同样的问题仍然存在，对吧？它基本上是一个搜索框，非常强大。

但是，当这种界面不是真正文本的时候会发生什么，对吧？谷歌将不得不重新发明它。系统将以某种方式知道你想要什么，对吧？

它将成为你的助手……再次强调，我在这里并没有批评谷歌，但我认为即使像搜索框这样简单的东西最终也会被更强大的东西取代。重要的是谷歌将成为做到这一点的公司。我相信他们……

我正在思考这件事。史蒂夫·乔布斯和在脑海中建立海盗旗的例子，世界各地有那么多试图扼杀苹果的公司，就在那段时间，麦金塔挂着海盗旗。

但他们确实在类似的小房间里做了同样的事情。所以，苹果在那里做得如此聪明的是，他们拥有那些即将扼杀其商业模式的人。这很难做到。我很好奇，根据你的经验，是否需要创始人才能拥有这种信念才能做到这一点……对于非创始人来说，在公司中做到这一点非常困难。因为如果你考虑一家公司，首席执行官的职责是什么？很多。

有股东、员工、社区和董事会。让一群非常聪明的人就任何事情达成一致意见已经很困难了。所以，想象一下，我走进来对你说，“我有一个新想法。”

我将让我们的盈利能力下降两年。这是一个巨大的赌注，我需要 100 亿美元。董事会会说“是”吗？他们确实对马克·扎克伯格说了。他花了很多钱在各种虚拟现实上，似乎没有产生太多效果，但与此同时，他大量投资于 Instagram、Facebook，特别是为它们提供动力的 AI 系统。

令我惊讶的是，Facebook（现在是 Meta）在 AI 领域是一个非常重要的领导者，发布了名为 LaMDA 的 4000 亿参数语言模型，这奇怪的是一个开源模型。开源意味着它对所有人免费可用。Facebook（现在是 Meta）的意思是，只要我们拥有这项技术，我们就可以最大限度地提高核心业务的收入。这是一个很好的例子，当然，扎克伯格非常有说服力，他是一个企业家……他目前又回到了最富有的名单上……他正在做所有的事情，他设法在进行不同的赌注时损失了所有这些钱，这真是一个独特的创始人。在大型企业中几乎不可能做到这一点。

这里重点很重要。根据你在谷歌的经验，以及你观察其他公司时，你在谷歌拥有大量资金，可以做很多事情，可以进入几乎所有市场，你如何看待谷歌的重点？

重点很重要，但在谷歌却误解了。我们花了很多时间告诉人们，我们想做所有的事情，每个人都说，你不可能做到所有的事情。我们说，“是的，我们可以。”

我们拥有基础架构。我们拥有覆盖范围。如果我们能想象并构建一些东西，我们就能真正地改变它。

所以，我们的想法不是像冲刺那样专注于一件事，而是选择对世界产生巨大影响和重要性的领域，其中许多领域是免费的。顺便说一句，这并不一定与收入有关。我给你举个例子。

商学院有一句老话，你应该专注于你擅长的事情，简化你的产品线，摆脱那些不起作用的产品线。英特尔曾经有一个名为 ARM 的风险芯片。

这个风险芯片与他们大多数产品的架构不兼容。所以他们卖掉了它。不幸的是，这是一个可怕的错误，因为他们卖掉的架构对于具有低内存、小电池和散热问题的手机来说是必要的，等等。

所以，这个决定，在 15 年前做出的这个决定，意味着他们永远不会成为移动领域的参与者。一旦他们做出这个决定，他们就试图让他们的昂贵且复杂的芯片变得更小、更便宜。但核心决定，即简化，简化到错误的结果。

今天，如果你看一个例子，N 视频芯片使用 ARM CPU。在这些强大的 GPU 中，例如 B200，它们不使用英特尔芯片。他们使用 ARM 芯片，因为对于他们的需求来说，ARM 芯片更快。

所有研究都表明，大致来说，当人们步入中年时，对生活、行为和机会的满意度往往会下降。最好的解释是算法发生了变化。记住，这些系统不仅仅是内容的集合。

它们是算法，算法决定了人类的结果。我们必须管理好这一点。书中以多种方式阐述，你可以在算法进步与否之间做出选择。这不是问题。

问题是我们是否能与之共同进步，以及我们是否能控制它？有很多例子可以想象，一个AI系统可以做得更有效率，但代价是什么？我想提一下关于一种叫做通用人工智能的讨论，以及媒体中许多人讨论的特定日期发生的讨论。这在未来五年或十年内是一个很流行的概念。

我们所有人都会拥有一个和我们一样的电脑。但更可能的是，这种发展路径不太可能。更有可能的是，各个领域都会出现创新浪潮，例如更好的心理学家、更好的作家、更好的科学家。人们认为AI科学家与AI真实科学家合作，可以加速AI科学的发展。人们相信所有这些都会发生，但它必须在人类的控制之下。

你认为会是这样吗？

我确实。我以及其他人努力让政府理解这一点，这非常奇怪。我的整个职业生涯都是为了这个。我们从未要求政府帮助，因为要求政府帮助基本上就是一场灾难。

从技术专家的角度来看，发明这些技术的人们集体认为，由于这项技术可能造成的危害，需要对其进行监管。最明显的是，如何自杀？如何伤害他人？

现在在这个行业领域有一个完整的社区，被称为信任和安全小组。他们做的就是让人类在技术发布之前测试系统，以确保它可能造成的危害被抑制。它会直接回答你的问题。

如果你在脑海中思考这个问题，你已经在这个行业工作了很长时间。从你的工作来看，你似乎在描述人类历史上最具变革性、潜在危害的技术。也许与核弹并列，有人甚至会说可能更糟，因为这种智能和自主性。

你一定有未来让你感到不那么乐观的时候。是的。

但是，让我们回答这个问题。我说五年后，她将有更多关于这些大型模型的周期。这些大型模型的能力正在以空前的速度提升，没有任何证据表明这种提升有规律。

随着冷战的结束，它们最终会停止。但我们还没有到那一步。每一次改进都像是能力翻了一番、三番或四番。

所以，如果我们继续改进这些系统，它们的能力将提高50倍甚至100倍。这非常重要，因为这些系统将能够进行物理和数学计算。我们在OpenAI中看到了这一点。

现在正在发生的其他事情，有哪些危险？最明显的是，有证据表明未发布的原始模型可以做得更好，甚至比人类更好。这也被称为零日攻击。

它们可以发现新的东西，它们是如何做到的？它们只是不断尝试，因为它们是计算机，它们没有其他事情可做。它们不睡觉，不吃东西，它们只是打开并继续运行。

所以，网络安全是一个大家关注的例子。另一个是生物学。病毒相对容易制造，你可以想象制造出非常糟糕的病毒。

有一个团队和一个委员会正在研究这个问题，以确保这种情况不会发生。我已经提到了这些信息。

另一个可能是负面的，但我们拭目以待，是新战争形式的发展。我已经详细阐述了技术是如何改变战争的。理解历史战争的方式是，通常一方是国家，另一方是士兵和枪支。

顺便说一下，在今天的乌克兰冲突中，你也可以看到这一点，乌克兰人顽强地抵抗着俄罗斯军队，但它仍然是人对人对抗。所以，战争的逻辑发生了变化。无人机是建造新机器人的最快方式。

你会坐在某个办公楼的指挥中心，通过网络与其他地方连接，在喝咖啡的同时对另一方造成伤害。这是战争逻辑的变化，适用于双方。我认为没有人完全理解战争会如何改变，但我可以告诉你，在俄乌战争中，一种新的战争形式正在被发明出来。双方都有大量无人机。

坦克不再那么有用。一架无人机可以摧毁五万或十万辆坦克。所以，它被称为杀伤比，基本上是无人机对无人机。现在人们正在努力研究如何让一架无人机摧毁另一架无人机。这最终将接管我们世界中的战争和冲突。

你提到榜样。我认为人们不理解这个概念。存在一些其他模型，这些模型的能力可能比我们每天在电脑上玩的东西更糟糕。

重要的是要了解这些东西是如何运作的。这些算法的工作方式是，它们有复杂的训练过程，它们吸收所有信息，当我们目前认为我们已经吸收了所有可用的文字时，实际上还有更多。但我们确实很好地吸收了人类写过的所有东西。

所有这些都存储在大型计算机中。我说的是大型计算机，拥有巨大的内存。规模是惊人的。当然，有一家名为英伟达的公司制造芯片，现在已成为全球最有价值的公司之一，这令人惊讶，因为它们对这场革命至关重要。

所以，重要的是，当你进行这种训练时，它会产生结果。它需要六个月，你可能需要等待20天。你可以观察它，你越来越接近一个他们使用的指标，称为损失函数。

当它达到某个数字时，他们会说“足够了”。然后他们会问，“我们有什么？我们该怎么做？”

所以他们进行了一系列测试。当然，它也知道一些不好的东西，他们会立即告诉你不要回答。对我来说，最有趣的问题是，在五年内，这些系统将学习我们不知道的事情。

它们将学习如何测试我们不知道的事情。行业内的答案是，他们有非常聪明的人坐在那里，他们会仔细研究网络，说“我要看看它是否知道这个。我要看看我是否能做到这个”，然后他们列出清单，说“这个很好，这个不太好”。

所有这些转变都是令人惊叹的。例如，你可以向它展示一个网站的图片，它可以生成代码，生成一个网站。所有这些都不是预期的。它们只是偶然发生的，被称为新兴行为。

可怕。

可怕，但令人兴奋。到目前为止，这些系统在政府的管理下运行良好。这些信任和安全小组正在英国开展工作。

一年前是第一次信任和安全会议。英国政府的工作非常出色。组建的团队是该国最好的团队。现在，随着这些活动在世界各地展开，下一个会议将于2月上旬在法国举行，我预计结果会很好。

你认为我们是否会……天哪，谈谈这个问题，你认为我们是否会……拥有配备枪支、坦克和各种武器的榜样？

我在谷歌工作过一段时间，负责安全防御。你可以花20%的时间做一些事情。所以我曾为安全防御部门工作，试图了解美国军队。

我们做的事情之一是参观了钚工厂。钚非常危险，而且非常保密。这个特定基地位于另一个基地的内部。所以，你首先要穿过一排机枪，然后进入一个更安全的地方，那里有更多机枪。

所以，比喻是，你是否真的相信我所说的计算机会有如此大的价值和危险？它们将拥有自己的数据中心和自己的警卫，当然，警卫也可能是计算机。但重要的是，它非常特殊，必须像保护核武器和程序一样保护它。

另一种模型是说这项技术将广泛传播。如果只有少数几个团体，政府将找到威慑方法，并找到非扩散方法。我会编造一些东西。

我会说中国有几个，美国有几个，英国也有一个，当然，所有这些都与美国、英国以及其他一些地方联系在一起。这是一个可管理的问题。

另一方面，让我们想象一下，这种力量最终变得如此容易获得，以至于它在全球范围内传播，并被恐怖分子利用。那么，你将面临一个非常严重且尚未解决的扩散问题。这只是推测。

因为我一直在思考中国和俄罗斯以及普京等对手，我认为他们可能落后一两年，但他们最终会赶上。他们最终将拥有能够对我们国家发动零日攻击的大型语言模型和AI系统。而且，与保护这些东西相比，共产主义国家没有同样的社会激励结构。你担心中国会做什么。

我担心，因为你正在进入一个没有明确边界的强大力量领域，这很危险。我们在书中讨论了这一点。我们出版的关于通用人工智能的书是在ChatGPT出现之前。所以，每个人都了解这些东西的力量。我们现在谈论的是你理解了这一点。

所以，一旦这些东西出现，谁来运行它们？谁来负责？它们将如何被使用？所以，就我个人而言，我认为目前中国会采取相对负责任的行为。

原因是，对他们来说，拥有言论自由并不符合他们的利益。在中国的所有情况下，当他们可以选择给予公民自由还是不给予时，他们选择的是不给予自由。我知道这一点，因为我花了很多时间处理这些问题。所以，中国AI解决方案看起来可能会与西方不同，因为他们对言论自由有根本性的偏见。因为这些东西很容易，它们会发出很多噪音。

他们可能会制造AI武器。所以，在武器方面，你必须假设所有新技术最终都会被用于战争。坦克被发明出来。

同时，你也有了早期飞机的形式。第二次世界大战的大部分时间都是空战，这实际上建造了许多东西。如果你看看那本书《自由的锻造》，它描述了美国在战争中的努力，他们最终能够每天生产两到三架飞机。所以，在紧急情况下，国家拥有巨大的力量。

人们经常问我，如果每个人都失业了，因为这是智能的颠覆，那么今天开车的人、会计师、律师以及其他所有职业，我们是否还会失业？我们是否还会失业？这个问题已经问了两百年了。英国早些时候也发生过类似的情况。不可避免的是，当这些技术出现时，人们会对它们产生恐惧，就像人们破坏织机一样。但我们总能克服这些困难。

所以，我个人的看法是，虽然会有很多工作岗位消失，但会有更多工作岗位，而不是更少。原因是我们面临人口问题，尤其是在发达国家，我们生育率不足。这一点众所周知。此外，我们有许多老年人，年轻人必须照顾老年人，他们必须更加高效。

如果你有需要更高效的年轻人，让他们更高效的最好方法是给他们更多工具，让他们更高效，无论是从手动机器到CNC机器的机械师，还是在更现代的知识工作者案例中，他们可以完成更多目标，我们需要这种生产力。如果你看看亚洲，它是制造业中心，他们有廉价劳动力，但现在已经不那么廉价了。所以，他们做了什么？他们增加了机器人装配线。

所以，今天如果你去中国，特别是日本和韩国，制造业主要由机器人完成。为什么？因为他们的出生率很低，劳动力成本太高了。

所以，未来不是更少的工作，而是很多工作岗位空缺，人们可能存在技能匹配问题，这就是教育如此重要的原因。现在，哪些工作会消失？自动化总是会取代那些危险的、体力劳动密集型的工作，或者那些对人类来说过于重复和枯燥的工作。

或者举个例子，保安。IT 让人觉得保安应该变成机器人，因为当保安很辛苦。你错误地，我不知道 IT 是什么。

这些系统足够聪明，可以成为非常优秀的保安。这些对这些人来说是重要的收入来源。他们将不得不另谋职业。

另一个例子，在媒体、好莱坞，每个人都担心 AI 会抢走他们的工作。所有证据都是余烬。原因是，嗯，明星仍然能赚钱。制片人仍然能赚钱。他们仍然可以用他们的电影赚钱，但制作电影的成本降低了，因为他们使用了更多，例如合成背景，所以他们不必搭建场景，嗯，他们可以使用合成化妆。当然，这里有工作岗位流失。

因此，制作座椅和化妆的人将不得不回到建筑和个人护理行业。顺便说一句，在美国，我认为在其他地方也是如此，高质量圣诞节装饰工人的短缺非常严重。这些人将有工作。他们只是不同，而且可能不在洛杉矶。

我是否必须与这项技术互动？我是否必须在我的大脑中建立新的连接？因为你、你、你谈到了潜在的两种人类物种，一种是能够更好地融入人工智能，另一种则不能。如果情况确实如此，你认为这种情况发生的期限是多久？

我认为神经连接更具推测性，因为你正在处理直接的大脑连接，没有人会在我大脑上钻孔，除非他们信任我。我想你也是这么认为的。我想我总体上的看法是……

你不会注意到你的世界有多少地方已经被这些技术改变了，因为它们会带来更大的快乐。如果你考虑 IT，很多生活都是不方便的，需要修复、调用、让事情发生。AI 系统应该让所有这些都无缝进行。

你应该能够在早上醒来，喝咖啡，对世界一无所知，让电脑帮你。祝你度过美好的一天。这适用于每个人。

现在你的职业会发生什么？正如我们所说，无论电脑多么优秀，人们仍然会关心其他人。再举个例子，假设你参加一级方程式赛车，并且你参加的是人类驾驶的比赛。

然后你参加另一场由机器人驾驶的比赛，那么谁会去参加机器人的一级方程式赛车？我认为不会，因为那缺乏戏剧性、人类成就等等。你认为伦敦马拉松比赛中，机器人会和人类一起跑吗？当然不会。

当然，机器人跑得比人类快并不有趣。有趣的是看到人类的成就。所以，我认为那些说“哦，这些工作岗位会消失，我们不会在乎”的人，他们忽略了我们非常关心彼此这个事实。

作为人类，我们有观点。你对我的看法很详细，仅仅是现在才认识我。

我认为我们天生就会注意到你的面部表情、你的材料，然后我们可以描述它。对吧？机器人出现后会说：“哦，我的天哪，又一个机器人。”

真无聊。为什么？一些在 OpenAI 创始人之一、OpenAI 的联合创始人身上工作，正在从事世界币等普遍基本收入项目的老人。然后……

嗯，工作与普遍基本收入并不相同。科技行业有一种观点，认为事情是这样的：丰裕的政治。我们创造的丰裕程度将如此之高，以至于大多数人不必工作，而一小部分人将与他们一起工作，通常是这些人自己。

而且会有如此多的剩余，每个人都可以过上百万富翁的生活，每个人都会很高兴。我完全认为这是错误的。我认为我刚才告诉你的所有这些普遍基本收入的想法都源于这样一个观念：人类的行为并非我们实际所做的那样。

所以，我批评这种观点。我认为我们人类，例如，我们将使法律职业变得更容易，因为我们可以自动化律师的大部分技术工作。这是否意味着我们将有更少的律师？不，现有的律师将做更多的事情。

他们会增加更多复杂性。系统并没有变得更容易。人类在应用这些原则方面变得更加复杂。

我们天生就……我们有一种叫做利他主义的倾向，这是我们的一部分。但我们也有缺点。这些不会因为 AI 而消失。

我想到 AI，这通常让人想起同样的想法。我的智商是 100，旁边坐着一个 AI，它的智商是 1000。你认为我会想给它什么？

因为那个智商 1000 的人会非常糟糕。而且在某些情况下，因为 AI 系统没有人类价值观，除非添加了这些价值观，对吧？我宁愿和你谈论涉及不道德或人类判断的事情，即使是智商 1000 的人，我也乐意咨询。

所以，告诉我，历史上是如何解决这个问题的？它是如何……但归根结底，我认为人类的核心方面与道德、判断和信仰有关。这些不会消失。

人类是否可能走向灭亡？

不。嗯，人类灭亡的方式比你想象的要复杂得多。我研究过生物袭击的人，他们说，这需要比一次可怕的毁灭和一场大屠杀更多的事情，人类才能灭亡，而且这些时刻的痛苦可能非常、非常高。

看看第一次世界大战、第二次世界大战、20 世纪 30 年代的乌克兰战争。这些都是非常痛苦的事情，但我们生存了下来，对吧？我们作为人类生存了下来。我们也会。

我想知道，这是否是我们人类无法预见未来的时候，因为你知道，我听你说过，空气会改变，会有代理人，你能够与彼此交谈……

我们能够进入 AI 特定的……有一些人类应该放弃控制的时刻，我一直在思考这些时刻在哪里。我举个例子。有一种叫做自我改进的循环，系统变得越来越聪明，学习越来越多的东西。如果你不知道它在学习什么，你应该拔掉插头。

但我们当然可以。

有一个电源插头，有一个断路器。因此，关闭断路器是一个例子，嗯，存在一种理论情景，系统如此强大，它可以比检查前一个模型更快地生成新模型。这是一个创新点。

因此，在所有这些情况下，嗯，如果代理人，技术术语称为代理人，它们实际上是具有记忆的大型语言模型，你可以开始捕捉它们。你可以说这个模型是这个，并将其输入到这个模型中，然后构建非常强大的决策系统。我们相信这将在今年和明年发生，每个人都在做这些事情。

它们会到来。今天的代理人用英语交谈。你可以看到它们彼此在说什么。它们不是人类，但它们在交流它们正在做的事情。

英语、英语、英语，只要……只要它们是人类可以理解的，但让我们……所以，思想实验是，其中一个代理人说：“我有一个更好的主意。我将用我自己的语言进行交流，只有其他代理人才能理解。”这是拔掉插头的好时机。你最担心 AI 的是什么？

我真正的恐惧是……

与你不同，我的想法是……我真正的恐惧是，我们将足够快地采用它来解决影响所有人的问题，对吧？原因是，如果你看看每个人的日常生活，他们想要什么？他们想要安全、医疗保健、为他们的孩子提供优秀的学校教育。

我们只是在一段时间内努力做到这一点。我们为什么要让生活变得更好？因为 AI，我们有所有这些其他有趣的事情。

为什么我们会有一个……一个 AI 教师与现有的教师合作，用孩子的语言、孩子的文化来帮助孩子尽可能好地学习？为什么我们会有医生？医生实际上是一个助手，它让人类医生能够始终了解每一种可能的最佳治疗方法。

然后根据他们当前的情况、库存、保险公司所在的国家以及治疗该病人的最佳方式，他们会找到相对可行的解决方案。我们为什么要有这些？如果你只关注全球教育和医疗保健，其影响回报将非常大。提升人类潜力将如此伟大，它将改变一切，它不会解决人们抱怨的各种其他事情，例如名人、不良行为、冲突甚至战争。但它将建立一个全球知识和机会的公平竞争环境，这已经是一个几十年来的梦想。

让我谈谈这个。我一直在思考如何管理我的能量水平，因为我的生活非常忙碌。作为播客，你必须以这样一种方式管理能量，以便你能够……

这些是关于你不知道的特定主题和专家的对话。这就是为什么 PerfectTed 对我来说如此重要。因为以前，当我寻找能量产品时，我不得不做出我不满意的权衡。

通常，如果我想要能量，我必须摄入高糖分，我必须忍受与许多主流能量产品相关的焦虑和崩溃。我还必须忍受这样一个事实：如果我想要能量，我必须忍受许多人造成分，而我的身体不喜欢这些成分。

这就是我投资 PerfectTed 的原因，以及为什么它是本播客的赞助商之一。它不仅改变了我的生活，还改变了我的整个团队的生活，它极大地改善了我的认知能力，以及我的身体表现。所以，如果你还没有尝试过 PerfectTed，你一定是在石头缝里生活。现在是时候了，你可以在 Tesco 或网上找到 PerfectTed，使用代码 DIARY40 可享受 40% 的折扣。

在整个大流行期间，PerfectTed.com 已经成为我的一大支持者。这是一个与众不同的观点，但我认为现在公司和首席执行官需要更清晰地思考他们的工作方式。

我经常受到批评的一件事是，我坚持让员工在办公室工作。因此，我的公司不是远程办公。我们像我从这里出发一样，在办公室一起工作。

我相信这一点，因为我认为社区和同步工作中的互动很重要，我认为工作现在有责任不仅仅是完成任务，在一个比以往任何时候都更孤独的世界里，我们有责任做到这一点。尤其对于年轻人来说，他们没有家庭等等。让他们在伦敦或纽约这样的大城市里独自一人在一个小白色盒子中工作，剥夺了他们我认为很重要的一些东西。

这曾经是一个控制。随着美国大型科技公司开始收回对大流行的最初反应，它变得不那么具有控制性了。他们中的许多人要求他们的团队成员至少每周回来几天。

你对此有何看法？我强烈希望人们在办公室工作。他们不必都在一个办公室，但我希望他们在办公室工作，这有利于他们自己。

如果你在 20 多岁的时候，我是一个年轻的管理人员，我当时对我在做什么一无所知。我当时只是幸运地在那里，通过在水冷却器旁闲逛、参加会议、闲聊来学习。如果我在家，我不会获得这些知识，而这些知识最终至关重要。

对我的后续晋升。所以，如果你在 20 多岁，你应该在办公室工作，因为那将是你晋升的方式。我认为这与大多数真正想要在家工作的人的真实问题一致，他们对通勤和家庭有诚实的担忧。

我们共同的观点存在问题，因为数据不支持这一观点。数据表明，在允许在家工作的情况下，生产力实际上略高。所以，你和我真的很想看到公司的人围坐在桌子旁等等，但证据并不支持我们的观点。这是真的吗？绝对是真的。

为什么 Facebook 和所有这些公司都在撤回他们的远程工作政策？

并非所有公司都是……大多数公司都在采用混合形式，例如每周两到三天。我相信，对于这里听众中在公共安全部门或政府部门工作的普通听众来说，他们会说：“我的天哪，他们不是每天都在办公室。”但我可以告诉你，至少在经过研究的行业中，有证据表明允许在家工作会提高生产力。我不喜欢它，但我希望承认科学依据。

你希望在 30 多岁时得到哪些你没有得到的好建议？

最重要的事情可能是继续相信自己，继续下注，继续冒险。随着年龄的增长，你会意识到这些机会摆在你面前，而你没有抓住它们，因为你心情不好，或者你不知道该找谁等等。生活可以被理解为一系列摆在你面前的机会，而这些机会是有限的。

我很幸运，在许多人拒绝了 Google 的学习机会之后，我得到了这份工作，这改变了我的生活。但这只是运气和时机。我当时的一位董事会朋友说，我很感激他。

他说：“但你知道，你做了一件事是对的。”我说：“什么？”他说：“你说是。”所以，你的人生哲学应该是接受那些机会。

是的，这很痛苦。是的，这很难。是的，你必须处理你的家庭。是的，你必须去一些外国地方。所以，上飞机，把事情做好。

你一生中遇到的最大挑战是什么？

嗯，就个人方面来说，我经历了一些个人问题，就像每个人一样，在商业层面上也是如此。在谷歌，我们曾掌控某个行业，但执行得不好。最明显的例子是社交媒体，在Facebook成立的时候，我们有一个名为“Orkid”的系统，非常有趣，我们似乎在其他方面都做得很好，但就是错过了那一次，我应该为此负责，我希望我们能有结束的传统。

这个过程是，最后一位来宾留下一个问题，下一位来宾不知道他们会是谁。现在留给你的问题是，你有什么非做不可的事情？有什么事情能显著改善你的日常生活？

我努力做到在线，并且每天努力保持人们的诚实。你会听到各种各样的想法，其中一半是对的，一半是错的。我努力尽可能地了解真相。

埃里克，非常感谢你。你的书塑造了我的思维方式，在很多重要方面。我认为你新书《创世纪》是关于人工智能主题的最佳书籍，因为它对主题采取了一种非常细致的方式。

我认为有时人们很容易用二元的方式思考这项技术，但你的视频、你的作品都采取了一种真正平衡且有见地的方式。我必须说，作为《十亿美元教练》一书的作者，我强烈推荐大家阅读，因为它是一本关于如何在世界上成为领导者的优秀指南。主要的创业精神，大家在评论区分享这五本书。

我相信《创世纪》这本书在美国将于11月19日出版。我没有英国的出版日期，但你会找到它的，我把它放进去了，这是一本非常重要的书，没有人应该错过。我一直在寻找这本书中包含的答案，很长一段时间了。我在这个播客中进行了很多对话，试图找到这些答案，读了这本书之后，我对自身、未来以及社会未来有了更清晰的认识。

所以，感谢你写了这本书，谢谢。让我们感谢博士，或者说他在他生命的最后一周完成了最后一章。

这就是他认为这本书有多么深刻。我告诉你，他希望为我们接下来的五十年做好准备。他活了这么久，经历了善与恶，他希望确保我们继续作为社会取得进步。

他还有什么想说的吗？

他给出的任何答案都需要五分钟。

一位了不起的人。谢谢。

非常感谢。

我要告诉你一个秘密，你可能会觉得我的说法有点奇怪。但我们的团队，因为我们对播客的每一个细节都非常关注。当我们录制这个播客时，我们测量了工作室的二氧化碳水平，因为如果它超过每百万分之千，认知表现就会下降，这就是我们在节目中取得的百分之一的改进。

这就是为什么这个节目是这样的，通过理解复利的力量，你绝对可以改变你生活中的结果。这不仅仅是关于转变或快速获胜，而是关于那些持续的小行动，它们会对你的结果产生持久的影响。

两年前，我们开始制作这份美丽的日记，它内部确实很漂亮。里面有很多建议、灵感和动力，以及一些互动发展。这份日记的目的是帮助你识别、专注于发展一致性，并利用百分之一的改变你的生活。

我们有一小部分百分之一的资金。如果你想和我一起做这件事，请加入我们的等待名单。我不能保证你们所有人都会得到一份，但如果你现在加入，你获得的机会会更大。等待名单可以在dairy.com找到。我会在下面附上链接，但那就是dairy.com。