Chapters
- Powerful AI surpasses Nobel laureates in various fields.
- It interacts using human interfaces and works autonomously.
- Millions of instances could collaborate or work independently.
Shownotes Transcript
这是关于人型公司首席执行官的强大AI乌托邦的第832期播客。
欢迎回到超级数据科学播客。我是你们的节目主持人，乔恩·克罗恩。让我们从最近对节目的评论开始。
这次评论来自卢卡·库珀，他是科罗拉多州的一位胃肠病学专家。医生库珀说，非常感谢你们精彩的内容。我学到了很多，感谢你们最近在社交媒体上的积极互动。
感谢所有在苹果播客、Spotify和其他播客平台上留下评价和反馈，以及在YouTube视频上发表评论和留言的朋友们。我认为苹果播客评论尤其有帮助，因为它是最大的渠道，而且允许你留下书面反馈。我会密切关注这些反馈。
所以，如果你留下苹果播客评论，请确保今天在节目中阅读它。今天我们将深入探讨达里奥·阿莫代伊（Anthropic首席执行官）的技术乐观愿景。他在10月份发表了一篇15000字的文章，名为《充满爱意的机器》，探讨了AI如何改善世界。嗯，虽然文章很长，但如果你像听这个播客一样，对数据科学和机器学习充满热情，那么这篇文章读起来会非常令人兴奋。
嗯，我建议阅读全文，当然，我们已经将其包含在节目的说明中。但考虑到文章很长，你可能也会喜欢这个播客，它用几分钟的时间总结了关键点。嗯，达里奥文章中最引人注目的部分是他明确定义了“强大AI”这个术语。我今天在节目中会多次使用这个术语。他声称不喜欢“通用人工智能”或AGI这个术语。虽然我喜欢这个术语，但前提是它被谷歌等公司明确定义，这一点我在第748期播客中详细介绍过，你可以回去听听。
但无论如何，我们今天不需要讨论AGI这个术语。相反，我们将使用达里奥在文章中定义的“强大AI”这个术语。这是我们定义它的方式。
首先，强大AI比大多数领域的诺贝尔奖得主都聪明。例如，在生物学、计算机编程、数学、工程和写作等领域。我们谈论的是一个能够证明未解决的数学理论、评价优秀小说并从头开发复杂软件的AI系统。
但强大AI变得有趣的地方在于，它不仅仅是你可以与之对话、向云端或ChatGPT用户界面发送请求的AI。相反，强大AI拥有人类工作所需的所有接口。
包括文本、音频、视频、鼠标、键盘、控制和互联网访问。强大的AI可以利用这些接口在线执行操作、进行实验、创建视频和与人类交流。嗯，它在所有这些方面都将超越人类的能力。
强大AI也是自主的。它可以处理需要数小时、数天甚至数周才能完成的任务。它像一个聪明的员工一样独立工作。
嗯，甚至像你雇佣来处理大型复杂任务的承包商顾问，处理数周甚至数月的大型复杂任务。虽然强大的AI没有实体身体，但它可以通过计算机接口控制现有的工具、机器人和实验室设备。而且我们可以扩展这个系统。这不仅仅是一个。
用于训练模型的资源可以用来运行数百万个强大的AI实例。每个实例都可以比人类快一百倍地处理信息和生成操作。这些数百万个副本可以独立处理不同的任务，也可以像人类团队一样协作。
总而言之，当这种强大的AI被创造出来时，它就像达里奥在文章中所说的那样，就像一个由数据天才组成的国家。所以，就像把数百万个天才聚集在一起一样。嗯，与当今已经非常令人印象深刻的AI系统相比，强大的AI仍然存在局限性。
例如，生物实验和更复杂的制造需要时间。智慧，虽然强大，但不是魔法。你不能因为拥有强大的AI而立即治愈衰老和所有癌症。
AI可以提出某种治愈特定癌症类型的方法，但该假设需要在实验动物身上测试数年，并显示出有希望的安全结果，然后再在少量人类身上进行测试，然后逐渐在更多人类身上进行严格控制的临床试验。我描述的时间表是假设被体内实验证明正确的最佳情况。但大多数突破性假设都是错误的，需要大量耗时的研究。尽管如此，强大的AI愿景仍然令人兴奋。在开发强大的AI系统后的五到十年内，我们可能会在医疗保健和生物学等多个领域看到变革性的变化。
例如，我们可能会将一个世纪的进步压缩到十年左右。许多癌症可以被消除。遗传疾病可以被治愈或预防。
人类的平均寿命可能增加一倍，达到150岁。困扰人类数千年的精神健康问题可能会得到完全治疗，我们可能会获得前所未有的控制权，控制我们的生物和认知过程。在经济方面，达里奥设想AI将使发展中国家实现前所未有的增长率，高达每年20%。这可以帮助数十亿人摆脱贫困，缩小发达国家和发展中国家之间的差距。
我们可能会看到农业的第二次绿色革命，找到应对气候变化的突破性解决方案，并在全球范围内显著改善粮食安全。甚至在治理和社会结构方面，强大的AI技术可能会加速其发展，从而加强民主制度，改善政府服务，使法律体系更加公正，帮助培养更明智和有思想的公民。那么，实现这种强大的AI需要多长时间？几十年吗？也许，但达里奥认为强大的AI可能在2026年出现。
这仅仅是两年后。这可能有点夸张，因为达里奥·阿莫代伊是Anthropic的首席执行官，他是AI领域最前沿的领导者之一。为了鼓励他的投资者和研究人员，他很有动力保持高度乐观。
但是，通过扩大我们今天已经拥有的AI能力，例如，通过按数量级增加模型提供商的数量，通过扩大推理时间计算，就像打开眼睛一样，在短短几年内拥有一个在几乎所有认知任务中都超越人类水平的强大AI，并非完全没有根据的科幻小说。如果我们开发出强大的AI并有效地保护它，它可以成为创造更公平、更健康和更繁荣世界的工具。对所有人。
今天的节目就到这里。如果你喜欢这个节目，或者认识可能想与他们分享这个节目的朋友，请在你的播客平台上留下评论，在你的LinkedIn或Twitter帖子中标记我，分享你的想法。例如，你认为达里奥的乌托邦愿景过于乐观，甚至有点荒谬吗？嗯，请在网上发表你的想法，并根据需要回复。如果你还没有，请订阅这个节目。当然，最重要的是，我希望你继续收听，直到下次节目。继续前进，期待着与你一起享受另一轮超级数据科学播客。
