The future of autonomous vehicles
29:23 Share

回归嘉宾马尔科·帕沃内是自动机器人系统的专家，例如自动驾驶汽车和自主空间机器人。他表示，自他七年前首次出现在节目以来，已经取得了重大进展，主要是由于人工智能的飞跃。他在斯坦福工程的《一切的未来》播客中告诉主持人拉斯·阿尔特曼关于地球和太空自主性的挑战和进展。如果你有问题想问拉斯？请以书面或语音备忘录的方式发送给我们，它可能会在即将到来的节目中被提及。请介绍一下自己，告诉我们你来自哪里，并分享你的问题。你可以将问题发送至[email protected]。剧集参考链接：斯坦福个人资料：马尔科·帕沃内航空航天自主研究中心（CAESAR）与我们联系：剧集文字记录 >>> 一切的未来网站与拉斯联系 >>> Threads / Bluesky / Mastodon与工程学院联系 >>> Twitter/X / Instagram / LinkedIn / Facebook章节：（00:00:00）介绍拉斯·阿尔特曼介绍嘉宾马尔科·帕沃内，斯坦福大学航空航天与宇航学教授。（00:02:37）日常生活中的自主系统自主系统在现实世界应用中的进展。（00:03:51）自动驾驶技术的演变从完全自动驾驶汽车到高级驾驶辅助系统的转变。（00:06:36）公众对自动驾驶汽车的看法人们如何在日常生活中反应和接受自动驾驶汽车。（00:07:49）人工智能与自动驾驶人工智能进展对自动驾驶性能的影响。（00:09:52）模拟边缘案例以提高安全性使用人工智能模拟稀有驾驶事件以提高安全性和培训。（00:12:04）自动驾驶汽车通信自动驾驶汽车与基础设施之间的通信挑战。（00:15:24）自动系统中的风险规避规划风险规避规划如何确保自动驾驶汽车的安全。（00:18:43）太空中的自主系统自主机器人在太空探索和月球任务中的作用。（00:22:47）太空垃圾与碰撞避免自动系统面临的太空垃圾和碰撞避免挑战。（00:24:39）用于太空的分布式自主系统在太空任务中使用分布式自主系统以更好地协调。（00:28:40）结论 与我们联系：剧集文字记录 >>> 一切的未来网站与拉斯联系 >>> Threads / Bluesky / Mastodon与工程学院联系 >>> Twitter/X / Instagram / LinkedIn / Facebook</context> <raw_text>0 大家好，我是来自《一切的未来》的拉斯·阿尔特曼。我们在播客中开始新的问答环节。在每集的最后，我将回答一些来自观众和听众的问题。

如果你有问题，请以书面或语音备忘录的方式发送给我们，它可能会在即将到来的节目中被提及。请介绍一下自己，告诉我们你来自哪里，并给我们你的问题。你可以将问题发送至thefutureofeverythingatstanford.edu。所有一个词，没有空格，没有大写，没有其他，at stanford.edu。

S-T-A-N-F-O-R-D dot E-D-U。非常感谢。

在应用方面，现在我们看到自主系统正在成为现实。因此，我们在美国的一些城市有机器人出租车提供服务。无人机现在被广泛使用。甚至在太空探索中，尤其是在轨道应用的背景下，自主性也在取得关键进展。所以这是一个非常激动人心的时刻。

这是斯坦福工程的《一切的未来》，我是你的主持人拉斯·阿尔特曼。如果你喜欢这个节目，请考虑给我们评分和评论。我们希望在值得的时候获得五分，我们将非常感激。你的反馈将帮助传播这个节目的消息，并帮助我们改进它。

今天，斯坦福大学的马尔科·帕沃内将告诉我们自动驾驶汽车、自驾车和自驾空间车辆是如何改进的。人工智能帮助了很多，并且在技术上取得了巨大的进步。这是自动驾驶汽车的未来。在我们开始之前，再次提醒如果你喜欢这个播客，请给它评分和评论。这将帮助我们所有人。

你知道，七年前，我请来了嘉宾马尔科·帕沃内，来告诉我们2017年关于自动驾驶汽车的现状。好吧，今天我请回了马尔科，他将给我们更新关于自动驾驶汽车的现状，同时他还会告诉我们关于他正在研究的自驾空间车辆。事实证明，人工智能不仅彻底改变了我们撰写备忘录和电子邮件的能力，还彻底改变了我们训练人们

让汽车更安全地驾驶，并在驾驶时应对意外事件。马尔科将告诉我们这一点，他还会告诉我们这些技术现在在太空中也非常相关。新公司和新应用的蓬勃发展，其中一些小到像鞋盒一样，用于监测地球并帮助物流、时钟、

定位，当然还有许多其他你可能没有想到的应用。马尔科·帕沃内继续担任斯坦福大学航空航天与宇航学以及电气工程与计算机科学的教授。他正在运营一个激动人心的新中心，专注于空间和汽车的自主性，他是让这些车辆安全有效地为我们所有人工作所面临的技术挑战的专家。

马尔科，你七年前在《一切的未来》中出现。时间过得真快。在自动驾驶汽车、自驾车领域有哪些重大变化？我知道你也在研究航空航天。首先，感谢你邀请我。很多事情都发生了变化，无论是在我们用来设计自主系统的工具方面，还是在自主系统现在成为现实的方式上。

在工具方面，当然，大家都知道人工智能领域的惊人进展。显然，自主工程师一直渴望利用这些工具，以全新的方式设计我们如何构建自主系统。

在应用方面，现在我们看到自主系统正在成为现实。因此，我们在美国的一些城市有机器人出租车提供服务。无人机现在被广泛使用。甚至在太空探索中，

自主性，尤其是在轨道应用的背景下，正在取得关键进展。所以这是一个非常激动人心的时刻。这太棒了。这太棒了。所以让我们去吧，你刚刚提到了很多好的话题。让我们谈谈自动驾驶汽车，因为七年前，你知道，当时有一个巨大的热情泡沫。我不会说任何泡沫被戳破了，但

然后现实开始显现，人们非常担心安全和信任。你我当时也谈过这个。完全自动化的车辆与某种混合型车辆的热情状态如何？我想我们当时讨论过不同级别的自动驾驶汽车和

我们现在处于什么状态？机器人出租车似乎确实是完全自主的。曾经有关于卡车在州际公路上行驶的讨论。然后是每个人都有一辆可以四处驾驶的汽车的想法。我们的期望是否发生了变化，还是我们仍然在追求相同的目标？

期望肯定发生了变化。正如你所说，像所有技术一样，自动驾驶技术经历了起伏。在2018年，我会说它可能处于低谷。正如你所说，现实开始显现，这项技术证明非常难以

商品化并从中获利。因此，在那些年里，一些公司关闭了。

但在过去的几年里，我会说对这项技术的兴趣和热情又重新兴起，但方式略有不同。因此，现在许多公司已将其重点从完全自动驾驶转向类似于特斯拉车辆上的自动驾驶系统。这些系统提供价值。

而且实际上相当盈利。因此，这就是为什么许多公司将其兴趣重新定向到该用例上。我们仍然有一些机器人出租车公司，但现在我们有很多公司专注于非常先进的驾驶辅助系统。同样，特斯拉的自动驾驶就是一个很好的例子。- 对。- 从技术上讲，正如我之前所说，

过去几年引入的所有这些新人工智能技术在提高这项技术的可靠性和性能方面提供了推动。因此，总体而言，我会说现在我们处于上升趋势，但范围与我们七年前讨论的有所不同。

现在，我知道你对技术挑战有深入的思考，我确实想了解这一点。但在某种程度上，社会非技术挑战是公众对这些自动驾驶汽车的看法，不仅仅是安全，还有在没有人握住方向盘的情况下乘坐汽车的奇怪因素。人们对此习惯了吗？

不，我不是用户体验专家，所以我不能真正给你一个量化的答案。当然，这就是我问你的原因。但我的感觉是，通常人们在前10分钟感到惊叹，然后他们觉得完全自然，不再关心机器人出租车的技术。

这实际上在自动驾驶的情况下是一个问题，因为我们希望保持人们的参与。因此，我们希望确保人们也了解这项技术的局限性，至少在自动驾驶的设置中。因此，这就是工程师应该与公众进行清晰对话的地方，以保持他们的信息更新。这是一项非常强大的技术，但仍然有局限性。

好的，那么让我们谈谈人工智能。你说的第一件事实际上是，我们在过去几年中都看到了人工智能应用的激增，以及在某些领域的表现非常显著。那么，告诉我人工智能在这些系统的设计或实施中有哪些用处。

有多种方式。当然，人工智能是一个非常广泛的领域。例如，人工智能技术在模拟方面终于使模拟成为自主系统开发过程中的一个重要组成部分。但可能最令人兴奋的人工智能进展是所谓的基础模型，大型语言模型或聊天GPT就是其中的一个例子。

这些模型是在互联网规模上训练的。那么你可能会问，这有什么帮助呢？人类能够在几个小时内学会驾驶的原因是，人类在驾驶任务中带来了终生的经验。因此，你在之前的18、20年中积累了经验。

在检测物体和推理世界运作方式等方面的终生经验。是的，我在骑自行车12年后才接触汽车。对，没错。因此，这些基础模型使你能够将所有这些通用经验从互联网上的视频中引入到自动驾驶任务中，显著减少了特定于车辆的数据量。

因此，这在性能上提供了很大的提升，特别是在推理非常困难的事件方面，如果你只是

试图在驾驶时体验，可能你永远也见不到。但如果你考虑互联网规模，也许有一些足够接近的东西，虽然可能与驾驶任务无关，但仍然可以让你推理那些边缘案例。这正是我想问你的，因为我记得在我们上次讨论中，我想我们谈到了获取边缘案例的重要性，你在训练这些模型时需要看到奇怪的事件，比如

骑自行车的小丑或被狗推着的婴儿车，你知道，疯狂的事情。我在准备我们的讨论时想知道，这些大型语言模型的能力是否可以让你告诉它们，比如，你当然可以告诉它们，给我写一首诗或写一个短故事，但现在你也可以说，这也是一个问题，尽管我说得像是真的。

为我创造一些司机可能面临的不寻常情况。我想知道这些基础模型是否擅长创建一组有用的边缘案例，使你的驾驶车辆训练更加稳健。

它们是的。因此，可能在七年前，当你问我这个问题时，我没有一个很好的答案。这次，我认为我有了。因此，基本上，这些模型允许你做两件事。正如你所提到的，当你设计这些模型时，你可以利用它们在模拟中生成那些边缘案例。当然，你要确保你不仅仅生成

任意疯狂的场景。但实际上，有不同的方法可以将这种生成过程与一些合理的东西联系起来。例如，我们与语言模型一起做的事情是挖掘所有在美国收集的警察报告和事故报告，将它们输入到大型语言模型中，并利用它创建从这些事故报告初始化的场景。

所以这基本上是与现实的联系。因此，我们生成的场景可能相似，可能有一点不同，但实际上接近发生过的事情。

然后当然，在系统运行期间，再次出于我之前提到的利用通用经验的原因，这个实例可能允许你推理那些边缘案例，可能通过与从互联网上看到的奇怪事物进行关联。

所以，我还想问你的一件事，我认为这与所有这些相关，并且可能与人工智能相关的是，我知道你发表过的研究和你研究的一个方面是汽车是自主的，但它们也在与路上的其他自主汽车进行通信。我觉得这很有趣，因为这需要合作，不仅仅是在汽车和汽车所有者之间，

而且还需要制造商就通信标准达成一致。我想知道这方面的进展如何，因为我可以想象这不仅在技术上困难，而且在社会上也是困难的，因为现在的社交性是竞争的公司，但在某种程度上，他们有兴趣合作，制定产品之间相互作用的标准。那么这方面的情况如何？

我想你很好地总结了与车辆间连接和车辆与基础设施连接相关的挑战。这就是为什么在很大程度上，既在完全自动驾驶汽车行业又在半自动驾驶汽车行业工作的公司并没有过于依赖与外部实体的通信，无论是其他车辆还是基础设施。在某个时候，当然会有某种程度的连接。例如，你希望从你的车队中获取一些数据，至少是为了重新训练你的模型以改善它们。但在利用数据进行实时控制方面，

大多数公司并不依赖于数据，正是因为你提到的挑战。还有更多的挑战，比如网络安全挑战、建立基础设施的成本等等。而且环境非常竞争，这就是为什么

这又是引入T恤的另一个挑战。- 是的，我的意思是，显然。所以我问这个问题的原因是，我不认识埃隆·马斯克，但我从媒体上对他的感觉是，我知道有这些新公司，Lucid和其他公司正在崛起，他可能不会首先想到，来吧，和他们开个会，让我们的工程师讨论一下我们如何能够，实际上，

好处将是巨大的，因为你可以想象，如果他们彼此进行基本检查，比如周围有什么？我有一个大转弯要来吗？所有这些东西，Waze以一种疯狂的方式告诉你。但这可以基于实际数据。因此，是的，我想这将是一个挑战。这是一个有趣的案例，我们被告知我们首先有这个问题。是的。是的。

确切地说。你说得很好。好的。我想去，首先，是否还有其他你想说的关于人工智能正在做的事情？因为你现在已经给了我们一个很好的想法，它在训练中是有用的。它在通信中可能是有用的。我们刚刚讨论过这一点，它在实时中是有用的。还有其他方式，人工智能可能对自动驾驶汽车出乎意料地有用吗？是的。

我认为这两点是主要的方式。它们如何加速系统的设计，以及它们如何改善决策能力。因此，基本上它们的部署。因此，我认为这两点是最重要的。

现在，我知道在你过去几年的著作中，我看到很多，我看到一篇非常有趣的论文，你使用了“风险规避规划”这个短语。请原谅我，如果这是你参与的数百篇论文中的一篇。但我也看到很多关于安全保障的论文。我们对如何最大化这些车辆的安全性的理解处于什么状态？

通常，在安全关键系统中处理安全的方式更多的是作为约束，而不是你想要最大化的目标。因此，基本上你有一个关于你可以失败的频率的要求，而这个要求

基本上源于关于失败后会发生什么的考虑。因此，失败的严重性是什么？

失败的暴露程度，即这种失败可能发生的频率。因此，你从一个要求开始，然后基于该要求，你尝试提出一个设计，一方面和验证策略，另一方面允许你以可证明的方式设计一个满足要求的系统。在这里，我所说的可证明并不一定意味着定理，但通常是更多的统计分析。

可证明这个词，我在你的论文中见过这个词，这非常令人兴奋。你能使用这个词的程度，我想，肯定会让公众和技术社区感到极大的安慰。因此，那条线，我们当时，我认为我们并没有谈论太多关于证明的事情，而现在似乎有了进展。我也对你提到的评论非常感兴趣，以前的目标是让人从A点到B点，而约束是安全地做到这一点。听起来现在有一点变化，我希望你安全驾驶，同时也希望你把人从A点送到B点。是的。因此，基本上我们谈论的是未来的可用性和未来的安全性。因此，我们希望安全。

达到给定的要求。我们希望最大化未来的可用性。因此，基本上是我们多频繁地以自主方式驾驶。但我们绝对不希望在追求额外可用性的过程中妥协安全性。这是《一切的未来》，我是拉斯·阿尔特曼。接下来还有更多与马尔科·帕沃内的对话。

欢迎回到《一切的未来》。我是拉斯·阿尔特曼，我正在与斯坦福大学的马尔科·帕沃内交谈。在第一部分中，马尔科给我们提供了关于自动驾驶汽车的最新动态，人工智能如何真正帮助改善它们，以及当前的挑战。在这一部分中，他将告诉我们一些相同的技术如何被用于创造太空中的自动驾驶汽车。这是一个非常拥挤的领域。

字面上和比喻上，因为那里有很多卫星，还有很多公司试图为太空卫星创造新的应用。马尔科，我知道你也在研究太空或空中的自动驾驶汽车。这是不可思议的。那么，告诉我，你在那方面做什么，面临哪些挑战？首先，与七年前相比，很多事情都发生了变化。

包括私营公司在太空领域日益重要的角色，SpaceX当然是最显著的例子之一。新的任务，我们学到了很多新东西，特别是关于系外行星，即太阳系外的行星系统。

在这个背景下，自主性再次发挥了重要作用。例如，现在有很多强调要回到人类——抱歉，回到月球的努力。当然，前提是确保有足够的基础设施能力在月球上建立一个前哨基地。

而且由于你无法轻易地在地球和月球之间转移工人，因此大部分工作将由机器人完成。例如，我们在这方面有合作。再次强调，人工智能将在这些新太空应用的自主系统设计中发挥重要作用。我们理解，当然，环境是不同的。航天器在计算能力方面非常有限，能够处理的数据量与自动驾驶汽车相比是有限的。

而且数据非常有限。

在很大程度上，你可以通过四处驾驶相对容易地收集自动驾驶汽车的数据。但在如何在月球或木星的某个卫星上着陆方面收集数据，

你没有数据。因此，在数据变得越来越重要的背景下，你如何设计技术，以更明智的方式使用这些数据？因此，有很多有前景的研究。有前进的路径，但...

总体战略将是不同的。我们主要是在考虑无人驾驶的车辆，还是因为这消除了很多安全问题？我相信你仍然不希望这些东西爆炸和坠毁，因为它们很昂贵，但当涉及到人类时，这就不同了。那么人类现在是方程的一部分，还是主要是完全机器人系统？

我的意思是，在某些情况下，是否要有一个人存在是一个争论。在其他情况下，根本没有争论。因此，如果你想探索太阳系中的冰体，那对我来说是太空探索中最令人兴奋的目标之一，例如，木星周围的欧罗巴或恩克拉多斯。

你无法派人去那里。实际上，花费的时间太长了。也许人类能够到达那里，但肯定没有时间回来。因此，简单明了。因此，在那里你想要一个完全无人驾驶的平台。

对于其他任务，例如，回到月球，你可能希望有宇航员和机器人结合在一起，处理一些乏味的工作，例如建筑工作。

然后对于轨道周围的操作，例如，轨道组装或维护太空资产，再次，强烈推动使用机器人系统。

从经济角度来看，基本上是为了降低成本。因此，简短的回答是，是的，确实有强烈的推动力朝着越来越多的无人平台发展。是否存在与自动驾驶汽车类似的问题，即多个车辆的协调？还是太空太大，以至于你可以假设有自由操作，而不必担心其他设备在这个空间中？

好吧，信不信由你，避免碰撞在太空中也是一个问题。好的，好的。你知道，地球轨道周围的所有垃圾。是的，我最近读到Starlink要么已经有，要么将要有6000颗卫星，并且正在朝着30000颗的目标努力。这听起来怎么样？是的，是的，没错。尤其是在过去，人们在退役太空资产时并没有非常小心。因此，所有这些垃圾我们仍然拥有。而且这些垃圾并不通信。它甚至发出信号说我在这里吗？我的意思是，你可以通过传感器看到它，但它并不真正通信，或者肯定不合作以进行通信。

话虽如此，实际上，在太空任务中，通信确实发挥了重要作用，因为发送一组卫星或太空资产共同完成一项任务的想法，这在单一任务中是不可能或非常昂贵的，实际上在太空中几乎成为常态。

这是因为将它们送入太空所需的推力如果分开会便宜得多吗？部分是这样。另一个原因是，当然，通过分布你的太空资产，例如，你可能会比单一架构实现更好的覆盖率。或者如果你想保持单一架构，你可能需要更昂贵的传感器。

我也可以想象你之前说过，着陆月球或火星的训练数据很难获得。我在这里编造这个，这不是我所做的，但我可以想象，如果你有一堆车辆朝月球驶去，它们可以通过彼此和各种星星及其他里程碑进行某种三角测量，从而可能更准确地估计飞行。这是一个事情吗？

是的，绝对是。这是分布式太空系统可能通过利用协作而有效运作的方式之一。如果我可以的话，宣传一下我们在斯坦福大学设立的新研究中心。与我的同事西蒙·达米科教授一起，我们成立了一个名为CISAR的新中心。我们都是意大利人，所以名字中有遗产。这个中心的全部内容是

研究如何在太空探索的分布式自主系统设计中明智地使用人工智能技术。

好的，这非常令人兴奋。七年后还有很多要告诉你的。是的。实际上，我想回到你开始讨论太空时提到的，因为私营行业的影响是非常不同的。因此，告诉我一点关于这一点，因为这是一种新事物。在过去，航空航天意味着NASA，对吧？那是我成长的时代，他们是同义词。技术角度的变化是什么，当你有多个参与者时？我们已经谈到了在路上与竞争对手的汽车沟通的困难。在太空竞赛中情况是否有所改善？

我认为有很多原因导致私营实体参与太空领域。其中之一是技术创新。例如，在过去20年中，我们看到实际上可以用微型化的太空资产进行出色的科学研究或

完成有用的任务。因此，你不需要一个像集装箱那么大的卫星，这可能非常昂贵，但即使是一个鞋盒大小的卫星也可以提供价值。因此，这当然为许多利益相关者打开了机会，当然，他们无法在太空任务中投资数十亿美元。

这就是其中一个方面。另一个方面是，许多机会已经为商业打开，例如，利用太空资产进行通信、监视、物流。人们迅速识别了这些机会，并结合现在使这些机会盈利的技术创新。

这就是为什么现在有几个私营利益相关者。

这非常令人兴奋，因为你提到的应用列表远远超出了我所了解的。我可以看到几乎每个行业现在都可以考虑，一个小鞋盒在地球上方飞行是否对我的物流或业务有用？答案可能是，是的，很多时候。这显然也是一个国际挑战。不同国际参与者之间的合作水平如何？

是的，这有点超出了我的专业领域。当然，太空是一个团结人类的话题，但同时从军事角度来看，这是一个非常敏感的话题。因此，与某些国家，当然有密切的合作，而与其他国家，如你所想象的，现在的对话则更加紧张。

感谢马尔科·帕沃内。这就是自动驾驶汽车的未来。感谢您收听本集。你知道，我们在档案中有超过250集，因此你可以找到关于几乎任何事物未来的不错对话。请记得在你收听的任何应用程序中点击关注，以确保你不会错过《一切的未来》的任何一集。你可以在X或Twitter上与我联系，用户名是RB Altman，与斯坦福工程联系，用户名是Stanford E N G。

如果你想问关于本集或之前一集的问题，请给我们发送书面问题或语音备忘录问题。我们可能会在未来的节目中提及它。你可以将其发送至[email protected]。所有一个词，the future of everything。没有空格，没有下划线，没有破折号。the future of [email protected]。再次感谢您的收听。我们希望您喜欢这个播客。