cover of episode AI is smarter than you think with Shane Legg of Google DeepMind

AI is smarter than you think with Shane Legg of Google DeepMind

2024/4/11
logo of podcast How I Built This with Guy Raz

How I Built This with Guy Raz
AI Deep Dive AI Chapters Transcript
People
G
Guy Raz
S
Shane Legg
Topics
Shane Legg: 我从小就对编程感兴趣，这为我后来的AI研究奠定了基础。我最初从事数学研究，后来因为一个暑期项目接触到机器学习。早期机器学习主要依赖于小型数据集和分类算法。在2000年初，我专注于人工智能领域，当时该领域还处于早期阶段，主要进行特定任务的机器学习。在2003年，我开始研究机器超级智能，并提出了人工通用智能（AGI）的概念，定义为能够执行人类所有认知任务的智能体。DeepMind公司的目标是创造世界上第一个AGI。我们选择围棋作为研究对象，是因为围棋比国际象棋更复杂，需要开发新的算法来解决。DeepMind在蛋白质折叠问题上取得了突破，这将加速药物研发。大型语言模型的出现是人工智能发展的一个转折点，其可扩展性超出了预期。DeepMind与谷歌AI部门合并是为了更好地开发大型模型，应对竞争。我认为AGI的到来将是具有变革性意义的事件，既有巨大的潜力，也存在潜在风险，需要谨慎对待。AGI的到来类似于工业革命，既有益处也有风险，需要认真对待。我认为AGI可能以指数级的速度发展，其能力将远远超过人类。与人脑相比，目前的超级计算机在能耗、体积、信号传输速度和频率等方面都具有数量级的优势，这表明AGI的潜力巨大。AGI的定义不应仅仅局限于能否执行所有人类认知功能，而应关注其能力的边界，以及如何利用其潜力造福人类。我认为AGI的安全问题需要全社会共同努力解决，而不是仅仅依靠少数公司或个人。我呼吁全社会认真对待AGI的到来，制定相应的规则和政策，以最大限度地发挥其益处，并尽量减少潜在风险。我作为个人的最大影响力在于推动AGI安全研究，而不是做个人准备。 Guy Raz: 人工智能可能很快就能胜任人类能胜任的任何认知任务，甚至做得更好。作者在2000年初专注于人工智能领域，当时该领域还处于早期阶段，主要进行特定任务的机器学习。DeepMind公司的目标是创造世界上第一个AGI。许多人工智能领域专家签署了一封信，警告人工智能可能带来的灭绝风险。作者认为AGI的到来类似于工业革命，既有益处也有风险，需要认真对待。作者认为AGI可能以指数级的速度发展，其能力将远远超过人类。作者询问Shane Legg是否会为AGI带来的潜在负面影响做个人准备。

Deep Dive

Chapters

Shownotes Transcript

For decades, Shane Legg has anticipated the arrival of “artificial general intelligence” or AGI. 

In other words: an artificial agent that can do all the kinds of cognitive tasks that people can typically do, and possibly more...

Now as the Chief AGI Scientist and a co-founder of Google DeepMind, he stands by that prediction and is calling on the world to prepare. 

This week on How I Built This Lab, Shane’s path to becoming an early AI expert and the work he and his team are doing to prepare for the technological revolution ahead. 

This episode was produced by Sam Paulson with music composed by Ramtin Arablouei. It was edited by John Isabella with research help from Carla Esteves. Our audio engineer was Cena Loffredo.

You can follow HIBT on X) & Instagram), and email us at [email protected]).

See Privacy Policy at https://art19.com/privacy) and California Privacy Notice at https://art19.com/privacy#do-not-sell-my-info).