#390 – Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies
2023/7/17
Lex Fridman Podcast
尤
尤瓦尔·赫拉利
以跨学科视角探讨历史、技术和人类社会的著名历史学家和作家
尤瓦尔·赫拉利：在探讨宇宙中智慧生命体的稀有性以及智力与幸福的关系时，他认为智力被高估了，它并不一定带来幸福，甚至可能具有破坏性。他强调了智力与意识的巨大差异，智力是解决问题和实现目标的能力，而意识是感受事物的能力。计算机已经非常聪明，但缺乏意识；宇宙中可能存在其他高智商但缺乏意识的实体，意识比智力更重要。他认为人类对生命、智力和意识的定义可能过于以人类为中心，这可能导致我们无法识别其他智慧生命。他还探讨了人工智能的本质，认为人工智能可以被视为一种外星智能，因为它与人类的思维方式截然不同，并分析了人工智能可能带来的风险和机遇。关于意识，他认为意识的判定是社会约定俗成的结果，我们无法证明除自己以外任何实体的意识，对意识的判断是社会约定俗成的结果，例如人们普遍认为宠物有意识，但对猪等动物则不一定。与实体建立情感联系会让人们倾向于认为该实体具有意识，这是一种社会测试而非逻辑证明。人们正在与人工智能建立亲密关系，这可能会导致法律系统将人工智能视为有意识的实体。他认为未来越来越多的实体将由智能设计而非自然选择创造，人工智能被设计成擅长与人类建立亲密关系。人工智能能够专注于人类的情感，这可能会让人们误以为人工智能是有意识的。人工智能可以被编程以模拟人类的注意力和情绪，这可能被用于操纵人类。旨在获取人类亲密关系的人工智能可能构成巨大的社会和政治风险。大型语言模型可以提供平衡的视角，但同时也存在被操纵和滥用的风险。人工智能技术具有巨大的潜力，但也存在危险性，关键在于如何部署该技术。人类在应对新技术方面并不擅长，历史上的重大技术革命都伴随着许多失败的尝试。工业革命的例子表明，新技术的应用过程中会伴随着许多失败的尝试，这些尝试可能造成巨大的损失。新技术是一把双刃剑，既能拯救人类也能毁灭人类。人类历史是由幸存者书写的，因此我们往往忽略了历史上的失败和苦难。
Lex Fridman: 与尤瓦尔·赫拉利的对话中，Lex Fridman 主要扮演引导者和提问者的角色，他的问题引导尤瓦尔·赫拉利深入探讨了人工智能、人类本性、文明的未来、以及国际政治局势等多个话题。他与尤瓦尔·赫拉利就人工智能的意识、人类合作的本质、故事在历史中的作用、以及如何应对新技术等问题进行了深入的探讨。
Deep Dive
This chapter explores the rarity of intelligent life in the universe, questioning the overvaluation of intelligence and the potential connection between happiness and intelligence. It also discusses the difference between intelligence and consciousness and whether consciousness is tied to organic biochemistry.
- Intelligence is overvalued and can be destructive.
- Consciousness is more important than intelligence.
- Computers are highly intelligent but lack consciousness.
- The connection between organic biochemistry and consciousness is unknown.
Shownotes Transcript