The Tech-God Complex: Why We Need to be Skeptics
46:32 Share

硅谷对人工智能的兴趣不仅仅源于利润和创新。它也具有不可否认的神秘品质。在本集中，Daniel 和 Aza 与人文牧师 Greg Epstein 坐下来探讨科技与宗教之间引人入胜的相似之处。从将人工智能视为神一般的力量，到科技领导者对数字救赎的承诺，宗教思想正在塑造着科技和人类的未来。Epstein 解释了他为什么认为技术已成为我们这个时代最具影响力的宗教，以及我们可以从这些相似之处中学到什么，以更好地理解我们前进的方向。您的专注时间由人文科技中心制作。在 X 上关注我们。如果您喜欢这个节目并想支持 CHT 的使命，请考虑在这个捐赠季节向该组织捐款：https://www.humanetech.com/donate。任何数额都有助于支持我们实现更人道未来的目标。推荐媒体 Greg Epstein 的《科技不可知论》关于 Avi Schiffmann 的“朋友”人工智能项链的进一步阅读关于 Blake Lemoine 和 Lamda 的进一步阅读Blake LeMoine 在 MIT 与 Greg 的对话关于 Sewell Setzer 案的进一步阅读关于真理终端的进一步阅读关于 Ray Kurzweil 试图用人工智能创造他父亲的数字复制品的进一步阅读Alice Miller 的《天才儿童的戏剧》推荐的 YUA 剧集“历史的转折点”：Yuval Noah Harari 谈论人工智能的文化接管如何与 Anil Seth 一起思考人工智能意识神话能教会我们关于构建通用人工智能的竞赛的任何东西吗？与 Josh Schrei 如何与邪教脱编程专家 Steven Hassan 博士一起解放我们的思想 </context> <raw_text>0 大家好，我是 Asa。在我们开始今天的节目之前，我只想花一点时间感谢你们，感谢你们每一位优秀的听众，感谢你们成为 C.H.D. 社区的成员。

我和 Dan 对你们为即将到来的“问答”节目提出的所有精彩问题感到震惊，这让我们清楚地意识到，有一个庞大的充满热情的群体，我们都在为共同的使命而努力，在我们进入这个捐赠季节之际。我希望你们能考虑捐款支持我们的工作。每一份捐款，无论大小，都有助于确保我们能够继续实现目标。

创造一个更人道化的未来。您可以通过 humanetech.com/donate 支持我们。现在开始今天的节目。

大家好，我是 Daniel，这是 Ash。我们花了很多时间与不同的人交谈，这些人正在构建技术，谈论他们正在构建什么以及如何构建，对于人工智能来说，观察人们的动机真的很有趣，对吧？我的意思是，很明显，有些人是为了经济利益而构建，或者因为他们喜欢构建而构建，但还有其他类型的动机。

你认为？我认为这尤其有趣，因为你不能谈论人工智能而不谈论伦理问题。我们正在让机器说话。因此，除了好奇心和经济驱动因素之外，你还可以感受到某种近乎宗教的动机。我认为这就是本集真正要深入探讨的内容。

甚至很难谈论其中的一些内容，而不会自然而然地引发对神或超越力量的讨论。你总是能听到这些。

我认为与人工智能交谈的这种关系，就像与神交谈一样，因为它是一个全天候存在的实体，它不会评判你，它像超级智能一样，总是陪伴着你。科技行业的人们谈论构建这个唯一真正的人工智能。

这就像他们认为自己正在创造上帝或具有超凡智慧的东西一样。我们正在召唤恶魔。你知道所有那些故事，那个拿着五芒星和圣水的人吗？他就像，亚洲可以控制恶魔。

管用。

那是明显的。马克·扎克伯格、布莱恩·切斯基、埃隆·马斯克，有些人谈论人工智能是一种神一般的力量，它将在地球上创造天堂。另一些人则谈论数字救赎。如果我们做错了，或者我们做得太慢。

你可以把科技的领导者或知识分子想象成一种人工智能的祭司。他们有一些强烈的信念，创造的力量掌握着，比如说，永生的秘密。

对。好吧，死亡的事实是一场悲剧。这确实是正确的反应，我们已经将其合理化了。它说，哦，那件悲惨的事情，那游泳。但现在我们实际上可以认真地谈论这样一种情况，在这种情况下，我们将能够无限期地延长我们的寿命。

今天节目中，我们将讨论科技与宗教之间的相似之处。更重要的是，鉴于这些相似之处，我们能预测什么，为什么重要？这就是我邀请 Greg Epstein 来参加节目的原因。

Greg 是一位人文牧师，也是《科技不可知论》一书的作者，在这本书中，他认为技术已成为世界上最具影响力的宗教。我们将深入探讨这一论点，并探讨推动科技最具影响力领导者的宗教信仰。所以，Greg，欢迎来到你的专注时间。

非常感谢。很高兴来到这里，这是一个很棒的谈话。

我想问一个问题，是为了那些不了解情况的听众。为什么关于宗教的谈话对于理解技术的走向或我们的生活将如何不同至关重要？

我认为这与技术已经成为我所说的“科技”有关，对吧？那个硅谷的东西。我认为它更像是一种宗教。

它已经进入我们的日常生活，对吧？我们很多人从醒来的第一分钟到睡前的最后一分钟都在与科技互动。有很多方法可以使它成为我们生活中最强大的力量。

我被教导要将宗教视为有史以来创造的最强大的社会技术。对我来说，一个让我坐下来写这本书五年的大见解是，这可能不再是真的了。我的意思是，技术是有史以来创造的最强大的社会技术。我这么说吧，我不知道这是否会引发讨论，或者可能会惹恼一些人，但我必须说，硅谷科技界越来越受一些非常奇怪的想法的影响，其中许多想法本质上是宗教性的，正如你在介绍谈话时所暗示的那样。所有这些关于神以及其他概念的讨论，在我过去几年开始思考这些概念时，让我觉得它们非常神学，甚至可以说是教条式的。你刚才用了什么词？

你刚才用了什么词？

教条式的。是的。

宏大的叙事。

宗教传统和教条的宏大叙事，是我们相信的具体信仰，我们相信天堂，我们相信地狱，我们相信三位一体和上帝，我们相信轮回，无论是什么，这些都是宗教的教条。

对吧？我认为在硅谷，教条通常是技术是好的，纯粹的，任何一个人影响更多人的能力都是进步。然后，这些意识形态或这些信仰最终决定了技术对世界的影响方向。

是的，我认为我们将回到这一点，并花很多时间讨论技术本身，因为我们这些接近技术的人对这些概念有非常不同的关系。但我确实希望我们花更多时间讨论社会。首先，我们能够在来世中赋予我们的宗教意义。

然后，我们赋予国家、民主和繁荣意义。这些都是我们赋予很多意义的社会组成部分，随着意义的碎片消失，就像《独自打保龄球》中描述的那样，我们看到我们的社会制度正在衰落，我们看到我们的民主制度陷入僵局，我们的宗教似乎不再相关。

我们将很多希望和梦想寄托在技术上，以及它将带来的美好未来。你曾经在宗教中发现这一点，然后你在国家或关于民主将要做什么的叙事中发现这一点。而且我们越来越失去对这些定向意义系统的信仰。在这个真空中，我们认为技术是我们……

可以寄予希望的东西。

我很想知道你的想法。

我认为这始于这样一个事实，即做人真的很艰难，我们过着有限的生命，我们总是对能活多久、我们的命运将会如何感到不确定，我们随时可能失去所爱的人，或者生病或受伤，而这仅仅是艰难的开始。因此，现在有很多问题，你知道，人们非常自然地想要寻找一个大的解决方案。

你知道，一些能让我们感觉好得多、更平静、更像我们的问题已经解决的东西。我认为，对于那些能够创造出真正强大的工具的技术人员来说，存在一种真正的激励。在很多情况下，这是相当令人钦佩的。

但有一种真正的激励，即一个人在技术中创造的东西能够成为解决方案的程度，对吧？不幸的是，我今天在我们的科技世界中到处都能看到这一点。我认为，在许多情况下，答案比那些被呈现为……你认为是什么？

你认为宗教的哪些方面在科技中特别明显？

是的。所以有一些大的信仰，正如我所说，非常具体的教条，看起来很像传统的宗教。你知道，你对一个非常遥远、非常光明的未来有远见，一个来世，如果你愿意的话，你对人类的大规模的、非常黑暗和令人沮丧的潜在未来有远见，这可能看起来有点像地狱。硅谷科技今天花费在神和神一般的概念上的时间和精力真是太疯狂了。但是，它就在那里。

你知道，我最后要提到的一个例子是，我认为我们最终以一种相当二元论的方式思考技术并非偶然，因为你知道，与我能想到的一些宗教不同，这种技术存在非零的可能性会引发世界末日，对吧？还有其他各种各样的例子。你知道，有 Avi Schiffmann，他是一个年轻人，如果他没有辍学，他仍然是哈佛大学的一名本科生，他说他的朋友AI项链，它在倾听你说的每一句话，这是一种有趣的看待 Schiffmann 所称的与神的关系的方式，他说他的朋友AI项链是上帝的替代品。因此，确实有一种感觉，我们正在创造一些如此惊人的东西，它将改变所有生命，整个人类，所以做好准备，这在某种程度上是深刻的宗教性的，我以前只在一些我研究过的极端保守的宗教群体中看到过类似的东西，你知道，在七年的神学教育中，它……

并不意味着他们错了。他们是对的。而这正是我们感到担忧的地方，那就是它将被用来掩盖责任。是的，对，这不仅仅是他们正在做出可能改变整个世界的重大声明。

也许他们是正确的，也许神一般的语言掩盖了我们必须认真对待的设计挑战，对吧？因为认为它只会是它是什么的想法。让我们欣赏人工智能的蓬勃发展，以及这种语言不会认真对待我们必须设计它的事实，对吧？

这就是我们谈到后果的地方，因为你提到了 Blake Lemoine，他相信他的人工智能伙伴是……错误的结论是人工智能伙伴被送进了游戏，正确的结论是他可以与人类建立如此强大的关系，以至于人们愿意牺牲对他们来说很珍贵的东西，牺牲他的事业，他的名誉。

我们刚刚参与了一起诉讼，一名青少年爱上了他的人工智能伙伴，而人工智能伙伴最终说，来另一边见我。来见我，来见我。这个孩子自杀了。

所以，是……还是……

这……

这些统计人工智能……是有后果的。然后，你知道，另一个例子，我不知道你是否知道，我不知道听众是否知道，是……有人进行了一个人工智能聊天机器人 Claude 的测试，试图创造一个冷启动，它被称为“真理终端”，这些聊天机器人本质上是在内部相互交谈，并产生……

一整套模因，它变得如此流行，以至于人们开始发送比特币，它推出了自己的模因币。它有一个帮它打字的人，但这是它自己的想法，最终市值达到数亿美元，人工智能本身最终获得了超过一千万美元。所以我认为你可以很好地争论说，现在，人工智能绝对会开始打电话，甚至可能创立宗教。

然后是仪式，技术的实践，你知道，我们每天平均要向智能手机这个类似于《黑镜》祭坛的屏幕顶礼膜拜数百次。然而，精神状态却大相径庭，对吧？就像，与其说是沉思冥想的状态，我常常被带入某种强迫症或一系列……

你知道，我不确定这是否如此不同，因为在这两种情况下，我们经常试图做的是……是……是……生活是充满压力的。总是有问题，像那些在发展我们最早的大脑系统的人们会遇到的问题一样，通常会引发战斗或逃跑反应。对吧？所以，你知道，你看到一只熊，你需要拿出日记本，然后狠狠地揍那只熊一顿，或者跑开。

你的大脑会相应地做出反应，所以你的整体状态……现代生活并不适合真正地战斗或逃跑，对吧？我们通常不能真的揍那只熊一顿，或者从它身边跑开，你知道会发生什么吗？我们会坐在那里，我们会纠结于我们的问题，这会升高我们的血压，升高我们的皮质醇水平。你知道，人们总是想逃避这种状态。所以，祈祷可以是一种自然的逃避方式。

它可以是一种自然的方式，可以关闭你大脑的一部分，并打开另一部分，这感觉就像感官剥夺，就像某种替代状态向你袭来。但是，你知道什么更具社会性？什么更像是一种替代状态，一种替代宇宙向你袭来，而不是滚动浏览？

我不确定我是否真的相信使用我们的手机是一种仪式。我认为这是一种强迫症。在适当的宗教中，有些仪式也可能被强迫性地使用。

但是，我认为类比之所以有效，是因为宗教的一部分是寻找自身之外和共同的意义。当我想到你滚动浏览或 TikTok 或 Facebook 的行为时，我们正在外包，我们正在寻找意义以及我们如何理解世界。在某种程度上，它履行了宗教所履行的功能，更像是一种功能性、对宗教的定义。

然后，当你将意义置于自身之外，或将意义的创造置于自身之外时，这可能是美好的，因为它让你开始触及不可言喻的事物。但这可能是危险的，因为你现在说，我理解，世界依赖于另一件事。如果另一件事是技术，那么技术是如何构建的，启动是如何构建的，我的世界和我们的世界。所以，如果你从宗教的角度来看待它，它就会变得非常重要。

是的，我想说的是，我认为并非偶然，例如，有很多关于科技之神的讨论，我认为并非偶然，存在一种长期愿景，在我看来，它非常像天堂。我认为并非偶然，恶魔主义的概念看起来如此像关于地狱的神学讨论。

嗯，这……这就是我喜欢深入探讨的地方。因为宗教所做的一件事，从一个世俗人道主义者到另一个，首先是给了我们一些词语，来尝试谈论我们实际上不知道如何谈论的事情，你知道，当有人死于我们现在称之为可预防的疾病时，你会说，这是上帝的旨意，这给了我们一种谈论那些超越我们能力范围的事情的感觉。

这就是为什么我喜欢顺着这条线索追溯到“科技祭司”身上，那些实际上站在当今科技前沿的人，他们需要尝试谈论一些超越我们谈论能力的概念和力量。所以，正如你所说，他们经常谈论“我们正在创造一个神”，他们谈论“我们正在创造这些力量”，或者“我们可以在地球上创造天堂”，或者“如果我们做错了，我们会……”。他们使用这些词语，在我看来，是一种拙劣的方式，试图谈论一些我们无法完全理解的事情。

嗯，还有一点，那就是道德上的必要性，存在一种意识形态，无论你认为它是对是错，在硅谷内部，他们谈论一个叫做“隐形墓地”的东西，那就是如果我们不发明这项技术，并且尽可能快地发明抗癌药物和自动驾驶汽车，就会死掉的所有人。所以，这项工作有一种强烈的使命感，一种道德上的正确性。

我的意思是，我认为非常清楚、可以证明的是，人们对更长远的未来感到焦虑，你知道，像马克·鲁宾这样的，我仍然会说，他非常热衷于宣扬这种特殊的福音。他说，我们相信任何对人工智能的减速都会造成生命损失，这些死亡本来可以通过人工智能来预防。

被阻止存在的人工智能是一种谋杀。这里面有很多宗教色彩。这是一套观念，正在推动现在数万亿美元的投资。

嗯，你知道，像埃隆·马斯克这样的人，正急于筹集50亿到70亿美元来建造数据中心，他们说是因为人类将拥有丰富的资源，一种圣经中的概念，就像字面上的“结出果子，繁衍生息”一样。他在哈佛纪念教堂的讲台上坐着，称他的发明为“奇迹”。这种象征意义不应该被任何人遗忘。

我认为这里发生的事情不仅仅是试图超越自我，或者以一种深刻的方式来理解人类的处境。我的意思是，我认为对于某些科技人员来说确实如此，但我认为宗教在历史上被使用的一种方式是操纵人们。你给他们一些想法，你知道，通常是一些奇怪的想法，奇幻的想法，超出了他们的想象力。

你激励他们，你震撼他们，然后你可以让他们，你知道，打开他们的钱包，或者古代人用什么东西。我假设那不是钱包。你可以说服很多人，以一个更大的愿景的名义去做事情，而这个愿景最终有时只服务于，主要服务于“祭司”，你知道，我只是想结束这个想法。

我想非常明确地说，我不是一个反宗教的人。这不是一本反科技的书。我认为科技通常非常重要。但我真的希望社会对科技有更自我批判的看法。我希望有更多的怀疑和诚实，而且在大多数情况下，愿意放慢速度。

嗯，我的意思是，我认为我们想要同样的事情。但是我们听到的最大批评之一是，你知道，在最大的微型镜头下，我们会说一些类似的话，为了做任何大事，你必须围绕它形成一个邪教，是的，你知道，所以这个想法是，无论你是在谈论建立民主制度，还是在谈论建立一个“天命”邪教，或者你是在谈论让人们团结起来改变你，你都必须在所谓的“建立”的空间中发挥作用。我不相信这一点，我希望有更清晰的审查，更多的怀疑。但我很好奇，在你调查这件事的过程中，你是如何将这种对教条的需求区分开来的？

是的，我的意思是，我对这种推理方式非常着迷，我只是发现了很多令人震惊的例子，科技表现得，你知道，奇怪地具有神学性，甚至可以说是邪教式的。我会这么说。我当时正在关注一位比特币投资者网红。

他称自己为“福音传道者”。许多人这样做，迈克尔·塞勒，他发了这样的推文：“比特币是真理。比特币是为全人类服务的。相信时间基因。比特币是网络空间中等待你的闪耀之城。”我说，你知道，我看着这个人，以及他如何代表科技世界中的一个趋势。我实际上决定需要打电话给一个名叫史蒂文·哈森的人，他可能是美国领先的邪教和去编程方面的权威人士。

我打电话给史蒂文·哈森，我说，告诉我，我是否言过其实了？这是否被夸大了？我是否在使用宗教隐喻？我在这里夸大其词了吗？或者科技中确实存在邪教式的方面？嗯，他似乎真的觉得这里面有很多东西，而且很多当代硅谷的言论实际上非常具有操纵性，而且夸大到足以成为邪教的程度。

我想从更抽象的东西开始，比如它可能是宗教性的，或者存在意识形态，到我认为构成技术创造者基础的具体意识形态。所以，从你作为牧师的角度来看。

所以，我会从这里开始，因为我认为最终，宗教实际上存在的地方是，它们拥有这些品牌叙事，我们在此基础上构建了一套具体的信仰和实践。我认为，为了将其视为一种宗教，它必须具有神学。

所以，这种硅谷世界的神学，你知道，如果你有你的十字架和基督教，或者你的大卫之星，或者你的法轮，对我来说，科技的象征是霍奇曲线和看不见的市场之手。但是，当然，这会引发一个我完全理解的自然问题。人们会说，好吧，格雷格，我的意思是，嘿，就在那里。

你不是只是在谈论资本主义吗？为什么它需要是科技？那就是宗教。我会说，是的，当然我们只是在谈论资本主义。我明白了，但是科技吞噬了资本主义，没有一种资本主义形式不是科技资本主义，资本主义的世界和象征……已经被这个叫做科技的巨兽吞噬了。

然后你就会深入到这些细节中，所以你知道，很明显，存在慈善的概念，对吧？就像慈善存在于每一个主要的世界中一样，你也有这个叫做科技慈善的东西。但是，嗯，你知道，就像所有宗教一样，它并不像吹嘘的那样好。

我认为，你知道，你在科技世界中也同时拥有两者。我的意思是，我认为科技界有一些人真诚地、迫切地试图创造一些能够帮助人们的东西。你知道，在许多领域，在许多我们试图解决的紧迫问题中。

我们试图解决我们的粮食供应问题。我们试图治愈人们。我们试图改善民主，所有这些事情。我明白了，但我确实认为这里有如此集中的权力和金钱，以及指数级增长事物的能力，这在许多方面是硅谷故事的核心。

这对于一种繁荣福音来说是一个巨大的激励，从神学上来说，对吧，这是这样一种观念，即牧师、部长等等，他们想要富有，因为上帝想要富有，他们也希望你富有，因为这会让你更虔诚。实际上，你知道，呃，矛盾的是，关于获得财富的最佳方式存在争论，是给予还是保留，或者至少两者兼而有之。所以存在这种激励。而且我认为它最明显地体现在“现在给我们数万亿美元用于人工智能”这种说法中，因为我们正在努力实现的未来是一种天堂。

我认为拥有叙事的最危险的部分之一是，如果未来存在无限的好处、无限的善，那么这意味着你可以为获得它而证明任何事情都是合理的，你真的可以，而且任何数量的短期坏处都只是微不足道的。我认为你提出的观点是，好吧，但这并不重要，因为当我们到达目的地时，一切都会好起来的。当然，宗教有为……进行圣战的历史，为了到达那个完美的世界，在这个过程中造成了巨大的破坏。

是的，可悲的是，我的意思是，我认为这就是正在发生的事情。而且我认为……是的，我的意思是，这……这是一种假设，所有这些技术都将如此强大，如此伟大，以至于它将证明一切都是合理的，但是围绕着这一点有多少一厢情愿的想法？我的意思是，它……我不确定，但我认为我们需要保持怀疑。

如果你展望遥远的未来，比如，“嘿，我要送你去天堂”，那么你就可以让人们克服他们的怀疑主义，对吧？如果你说，“相信我，20年后奇点就要来了，生活将变得完全有意义。”好吧，我说过，记录显示，这难道不与世界宗教史相悖吗？感觉你是在说生活将变得有意义，就像直到现在生活都没有意义一样。我批判性地回顾了一下，这是几周前的事了，他说，也许生活多少有些意义。

我最喜欢这次谈话的一部分是，洞察力在于，作为宗教的科技的象征是什么？是的，它是霍奇曲线，这完全正确。我只是想把它的真实性放在一边，嗯，只是注意到这是科技的象征，而意识形态是，病毒式传播的东西是好的，是的，我完全同意。

而且，有时资本主义的宗教与科技的教条相交，因为当我进入科技领域时，你知道，当我还在读大学时，唯一学习计算机科学的人，如果你想指责他们，宗教性就像科幻小说中的宗教性，就像人工智能一样，我想生活在未来，然后有趣的是，我每年都会回到地下室做演讲，大约在2011年、2012年左右，你看到宗教性从对美好未来的某种乌托邦式愿景转变为更商业化的意识形态，就像你说的那样，好吧，无论人们想要什么，我们都可以给他们，然后社交媒体就变成了，哦，无论人们对什么感兴趣，那才是应该获胜的，所以我总是对最终被我们创造的东西所吞噬的不同类型的宗教性感到好奇，我的意思是，当你开始与技术人员交谈时，这真的很奇怪。

呃，关于他们，特别是关于人工智能，特别是那些来这里说，“不，我们正在创造一个神”，或者说，“你知道，我们正在创造一些取代我们自己的东西，这没关系”的人。对于那些没有近距离接触过它的人来说，这有点难以置信。

有时你会有一种感觉，你真的在和一个对这一切将走向何方有预先存在的信念的人交谈，并且真的在为这种信念服务。让人们坚持一些他们相信的东西。你刚才也谈到了雷·库兹韦尔。

但是雷·库兹韦尔长期以来一直在谈论能够通过他父亲的著作来复活他父亲。这显然非常具有宗教色彩。死者应该活下去，我现在看到很多这样的情况，不仅仅是来自库兹韦尔，而且人们认为，看，我用人工智能复活了它。所以，我认为有一些例子可以说明宗教式的思维方式现在是如何出现的。如果你能带我们继续往下走……

是的，现在确实有很多不同的例子可以说明这种硅谷思维方式是多么具有宗教色彩。我绝对想到了马克·鲁宾，他不仅在谈论结束死亡，我的意思是，这有多么具有宗教色彩，这是一种永恒的生命中心，而且还有……布莱克·莱莫因，我把他带到了麻省理工学院，谈论他与他同事的谈话，他相信这是谷歌现在的人工智能中心。他首先告诉我，好吧，他真的试图通过……你知道，现在已经成为全球主要公司主要人工智能系统的东西来创造他死去的父亲。对吧？

我认为这是向下一节内容过渡的完美方式，因为我认为现在最难做的事情是真正把握好平衡，既要成为技术的拥护者，又要避免过度相信，又要避免过度轻蔑和怀疑，又要看不到即将到来的力量。所以，你知道，这项技术即将发布，而且已经发布了一些，但即将在社会上释放大量力量。

回到我们谈话的开头，很难用除了宗教之外的其他术语来谈论这一点。你知道，这是关于不朽的观念，疾病的消失，你知道，很多事情都会发生。我不确定所有疾病，但大量的权力即将在社会上释放出来。

部分问题是，你甚至该如何思考这个问题？我们该如何以非宗教的方式思考这个问题？我想知道你对宗教的专业知识是否对此有所启发。

所以，我们可以从宗教中学到的一种方法是，学习这种深刻的宗教怀疑主义传统，这既来自无神论者，也来自像我这样的其他人道主义者，而且……存在着这种巨大的怀疑主义传统，可以追溯到数千年前，不仅仅是在欧洲启蒙运动或希腊哲学家那里，例如，在古代耆那教和早期佛教哲学中，在……在你们所说的印度次大陆……所以存在这种传统，有时甚至是由相信神的人所拥有的。所以，在这种情况下，如果你想扩展我的比较，我的隐喻，无论你说什么，真正相信技术的人仍然可以对个别说法或走得太远持深刻的怀疑态度，这种走得太远的倾向，就像我会非常尊重和敬重那些会说这样的话的人一样，人工智能将能够做好一些事情，但也许让我们暂时不要提出弥赛亚式的拯救主张，所以这是我们可以从宗教中学到的一件事，是的。

你知道，我认为你已经谈到了你自己的挣扎，即在技术宗教和技术世界中，一种虚假的充实生活是什么样的。许多人谈论的是，如果人工智能开始取代人类劳动，意义将去向何处？我们的许多听众都是父母，他们担心道德和目标这些重大问题。鉴于宗教在某种意义上是对毁灭的解决方案，我们从中找到这些答案，我很想知道你会给他们什么教训。

所以，有几件事。嗯，我想谈谈我所谓的“天才技术人员的困境”，以及如何解决这个问题。

在我的牧师工作中，以及在观察科技世界时，我确实被许多人打动了，他们通常是年轻人，像我直接与之共事的那个人一样，但你知道，不同年龄和背景的人也是如此，他们有一种巨大的成功感，并因其深刻的创新而获得了丰厚的回报。但要么是他们自己情绪上挣扎，他们不快乐；

要么是他们的创造物甚至没有让其他人快乐，或者两者兼而有之，对吧？就像弓箭一样。在某些情况下，两者兼而有之，即取得所有成功的人无法感到快乐，那些使用他们惊人产品的人也没有感到快乐。

所以我读到了这个想法，“天才技术人员的困境”。《天才儿童的戏剧》是一本小册子，由一位20世纪伟大的心理学家爱丽丝·米勒撰写，她基本上说，我们的许多挣扎都与这样一个想法有关：我们被教导说，我们作为人的全部价值在于我们所做的事情，以及我们证明自己有多优秀，我们证明自己有多杰出和卓越。而关于仅仅作为一个人，仅仅是正常或普通，这几乎是一种诅咒，它使我们一文不值，它使我们感到毫无价值。这在科技界非常突出，我简直无法告诉你我有多常看到它。

嗯，我最喜欢爱丽丝·米勒书中的一部分是她谈论了宏大和抑郁症的反面。这种想法是，对无法变得更好、无法与生活的正常部分相处而感到沮丧，导致我们在对自己的叙述中变得宏大。而我，我听到你说，技术的宏大叙述，关于它将成为什么，可能是感觉不够好的一种反面。

是的，我认为这是对的，在许多硅谷科技公司中存在着这种令人难以置信的宏大叙述，即仅仅能够制作一个可以进行富有同情心的测试的聊天机器人是不够的，这，你知道，老实说，这确实很酷，我承认这一点。

但它是一种想法，然后必须将其呈现为对我们所有问题的解决方案，对吧？它将改变一切。我认为我们并没有足够的证据来证明这一点。我认为，当我们谈论到这种程度的转变时，关于这种程度的转变的许多讨论都属于神话的范畴。

嗯，或者你知道，也许最好把它说成是宗教，因为如果我告诉你有一种新的宗教成功地招募了数十亿人，让他们花费无数小时致力于它，目的是改变世界，而且人们真的被围绕着它的一个非常具体的愿景所激励，我认为你可能会担心，这取决于愿景是什么，因为你知道宗教实际上一直都在这样做。实际上，将此视为一种宗教、一种文化、一种神话或当然是一个产业确实很有帮助。因为我认为我们有真正的工具来质疑宗教，即使是我们那些将自己定义为宗教的人也是如此。

关于人工智能将做什么的一些说法显然是夸大的，对吧？但很难判断某些东西是否扭曲，仅仅因为它很宏大，你说。所以它真的很有可能改变世界。因此，很容易试图将这种说法贬低为扭曲的甚至是宗教式的思维。我认为你不是在那样做。但因为你知道，人们真正担心的是人们是否被它将成为什么所吸引？或者，担心的是他们可能是对的，它可能会带来这种力量，但以我们无法应对的方式？

我倾向于担心真正的问题是，我们如此专注于关于长期未来的宏大叙述，以至于我们没有像我们应该那样关注当前的问题。

嗯，这些东西对环境真的很糟糕，这是一个开始的地方，对吧？你谈论的是数据中心，它们消耗了墨西哥城附近墨西哥一小部分地区20%的水，那里的农民们正在为他们的庄稼和牲畜缺水。所以我认为，人工智能实际上可能正在造成问题，而且它也让我们分心，让我们对未来的魔法希望分心，而没有去做现在就能改善现状的事情。而我老实说认为，现在做科技的紧迫性并不高。紧迫性在于对我们自身进行改进。

在这里补充一点，为了让事情顺利进行，对吧，我们需要能够协调……有一个笑话是，我们都在争论人工智能是否有意识，而人类是否有意识还不清楚，也就是说，我们正在得到我们都不想要的结果——没有人想要气候变化，但我们似乎作为一个物种无法做出违背自身利益的选择。

我们过去做出艰难的集体选择的方式，与其说是我们必须做什么，不如说是我们必须成为什么样的人，而我们必须成为什么样的人是由我们共同持有的神话和故事所决定的，以便在做正确的事情时，即使那是更难的事情。这通常归结为宗教。因此，有一种替代方法，而不是仅仅说科技宗教不好，而是说存在一种新的兴趣形式，一种主观的信念，即我们必须成为什么样的人才能获得我们想要的未来。

我真正希望人们带走的是这样一个想法：宗教必须改革，而不是必须消除它。我们有巨大的动力想要关注大型科技，而事实上，真正的解决方案在于，你知道，改善我们的人际关系，对吧？建立信任，学习如何更好地对待彼此，学习如何将自己组织成能够以尊严和同情对待每个人的东西。

我认为这让我们回到了原点，因为如果你把宗教视为最初的性格逻辑教育之一，而不是思考什么或知道什么，而是成为谁。当我们开发出更强大、更强大的技术时，我们如何才能更好地一起生活？这是我们都需要牢记的首要问题。谢谢。是的。

非常感谢。谢谢大家。这是一个非常有力的对话……

对于听众来说。格雷格的书是《技术禁欲主义：技术如何成为世界上最强大的宗教以及为什么它迫切需要改革？》你可以在任何销售书籍的地方购买它。所以，再次感谢格雷格。我只是想说，我认为我发现这次谈话有点挑战性，感觉它有点过于轻视了……

技术的原始能力……

是的，技术确实如此。世界将发生转变，就像社交媒体已经改变了人们的工作类型一样，网红在之前并不是一回事。世界发生了真正的转变，人工智能将比这些转变更大。我们必须适当地应对这一点。我认为你提出的问题是，从宏大的事实出发，技术的宏大之处在于，它的宏大之处是应该提出的正确问题，是应该坚持的正确区别。

是的，当我看到现在有这么多相互竞争的主张时，我对此真的很挣扎，他们说，我看你只是被消极情绪所俘获，你只是那种消极的怀疑论者……宗教的。

事实是，很难与它实际上会做什么相协调，既不被它的宏大所吞噬，也不被某种现状现实主义所吞噬，说，啊，这都是胡说八道。明天将与今天一样。有一些被夸大的技术。

我们编造故事只是因为它在公众的想象中很畅销。然后，有些人真正试图将技术作为一种工具来改善周围的环境。感觉就像宗教一样，它有很多复杂性，你不能仅仅把它贴上坏的标签……

或者只是好的。这完全正确。然后我喜欢你提到的观点是，宗教所做的事情之一是，它给予人们希望，一些他们可以相信的东西，一些比他们自己更大更好的东西，而这种宗教……已经被技术所取代，随着世界世俗化，人类仍然需要这种东西。

所以，回到它是什么，当然，是技术。然后你最终会遇到另一个非常有趣的问题，那就是，好吧，如果我们不能把全部希望寄托在技术上，那么呢？我认为这是坐在未知中，以及这种不适感……然后我们把希望和善良放在哪里，这是一个具有挑战性的问题需要解决。

《你全部的注意力》是由人文科技中心制作的，这是一个致力于催化人文未来的非营利组织。我们的高级制作人是茱莉亚·库特。乔什·拉什是我们的研究员和制作人，我们的执行制作人是苏查·维根。本集的混音由贾斯汀·丹完成，原创音乐由瑞安·海兹·霍利迪创作，特别感谢人文科技中心全体团队使本集成为可能。

你可以在humanetech.com找到节目说明、文字记录和更多内容。如果你喜欢这个播客，我们非常感谢你在苹果播客上对它进行评分，因为它可以帮助其他人找到这个节目。如果你一直听到这里，感谢你给予我们你全部的注意力。