Deep Dive
What is the core belief of technological utopianism?
Technological utopianism believes that technology, particularly the internet and AI, can create a more democratic and equitable society by providing platforms for the voiceless, enabling fair resource distribution, and solving global issues like climate change and healthcare. They oppose excessive government regulation and advocate for open, global networks that empower entrepreneurs, consumers, and policymakers.
What are Nick Bostrom's predictions in his book 'Deep Utopia: Life and Meaning in a Solved World'?
Nick Bostrom envisions a future where AI advances to the point where all economically valuable work can be done at near-zero cost. He suggests that even tasks like parenting could be performed better by AI. He also explores the idea of colonizing space, creating planet-sized computers, and living in virtual realities, potentially leading to a post-human population of unimaginable scale.
What are Vinod Khosla's 12 technological predictions?
Vinod Khosla predicts a future with free expert services like doctors and teachers, unlimited robotic labor, ubiquitous computing, a boom in entertainment and design industries, personalized medicine, new food and fertilizers, autonomous urban transportation, faster air travel, clean energy, exploration of new natural resources, and the elimination of carbon emissions through advanced technology.
What is the main goal of transhumanism?
Transhumanism aims to use technology and rationality to enhance human capabilities, including intelligence, lifespan, and physical abilities. It seeks to eliminate disabilities, diseases, suffering, aging, and death through advancements in biotechnology, genetic engineering, and cybernetics, ultimately striving for a future where humans transcend their biological limitations.
What is the concept of the Singularity in AI?
The Singularity refers to a hypothetical point in the future where AI surpasses human intelligence, leading to rapid technological advancements that are beyond human comprehension. Singularitarians believe this moment will be a historical turning point, requiring humanity to adapt to a new era where machines dominate technological progress.
What is Effective Accelerationism (E/ACC)?
Effective Accelerationism is a philosophy that advocates for the unrestricted advancement of AI and other cutting-edge technologies to accelerate human evolution and societal progress. It emphasizes the role of technology in driving social change and believes that technological development is an inevitable and universal law of the universe.
What is Vitalik Buterin's concept of D/ACC?
Vitalik Buterin's D/ACC (Decentralized/Defensive Accelerationism) promotes a decentralized, democratic, and defensive approach to technological development. He believes that technology should be distributed and not controlled by centralized entities, ensuring a balance of power and protecting humanity from potential risks posed by advanced technologies like AI.
What are the main criticisms of technological optimism?
Critics argue that technological optimism overlooks the potential negative consequences of technological advancements, such as increased resource consumption, environmental degradation, and social inequality. They also contend that technology alone cannot solve deep-rooted societal issues, which require systemic changes in economic structures, cultural values, and political systems.
- 技术乌托邦主义者对互联网和人工智能的乐观态度
- 他们反对政府对技术的过度监管
- 他们对知识产权保护和行业补贴的支持
- 他们对未来社会愿景的描述
Shownotes Transcript
欢迎收听由科技慢慢拍和 AIGC 开放社区联合出品的播客节目
在上期节目中我们介绍了三位典型的乐观主义者 Sam Altman, Ben Gosser 和马克·安德森的主要观点以及马克·安德森提出的所谓的技术乐观主义宣言的主要内容他们代表了这些乐观主义者对整个世界整个科技从业者发出的一个重要的声音
上期节目我们在结尾的时候也谈到了技术乐观主义者如果再往前走一步就会成为技术乌托邦主义分子或者是超人类主义者那么今天我们的节目就来接着介绍这两类人群以及他们的主要观点在最后我们还会提到加速主义者的一些代表人物其实从 20 世纪 90 年代开始
对于全球民主未来的一种乐观情绪伴随着整个的科技发展其实弥漫在整个的资本主义社会中这个类似于对于新自由主义对于市场的一种信心各种资本主义的基础乌托邦主义开始兴起那时候最早来自于互联网领域互联网大家可能有的朋友还记得那个时候被叫做信息高速公路
那刚一出来的时候呢其实就跟今天的人工智能一样早期的发展也存在着很多专家的诟病比如信息过载啊一些不真实的信息互联网上充满了谎言暴力和色情等等其实今天这样的论调在互联网上还有很多人会去谈到那这个也是对于互联网治理的一些专家人的主要观点
但是技术乌托邦主义者却完全不同他们成了对互联网的狂热的知识分子他们希望互联网成为一种自动化民主力量的一种中间的一个存在他们对此保持一个非常乐观的态度他们觉得互联网能够给日常底层不能发声的普通人提供了发出声音的平台
于是这些技术乐观主义分子或者技术乌托邦分子更希望互联网是一个整个开放的架构能够形成一个全球的网络通过这种创新的机制能够充分的赋予企业家消费者甚至是政治制定者的一系列的整个权力和平衡
其中基础乌托邦主义者的一个核心观点就是反对政府对于技术的过度的监管或过早的法律限制
但相反他们往往也是对于严格的知识产权和行业补贴的坚定的用户者那听起来他们的立场似乎是矛盾的但其实这个情况也是必然发生的原因在于说对于一个新兴的技术的出现如果只是采用这种市场定价的自然的运作方式那么也就是说那价格会通过竞争不断的去降低
那通常呢这种做法是无法收回这些高科技企业在初始这种研发时候的一个高额的一个投入的当然呢大家也知道后来互联网发生的情况了就是互联网的特征就是赢者通知啊当形成了互联网的这种垄断的寡头之后那他们带来的利润是相当可观的
所以你很难讲就是说对于这些技术乌托邦主义分子他们背后是一个真实的对理想的追求还是对商业利益的这样的一个追求但总体上来说呢技术乌托邦主义者他们所希望打造的这样的一个社会场景就是说比如说对于广泛的民主啊这种人工智能或者高科技的广泛的应用从而实现这个更公平的资源分配呃
互联网或者人工智能能够为人类创造出更好的就业机会然后能够解决一系列的社会的问题甚至是气候变化 粮食安全 医疗和保健人工智能能够替代人类执行更多的任务那么人类就可以释放出更多的时间和精力来去做更多具有创造性和更有价值的这样的一些工作
有可能会迎来人类新的文艺复兴和黄金时代其实互联网高科技以及人工智能让整个物理世界真实的世界以及真实的人各领域之间的关系变得更加的融合相互的这种大家的行为方式也逐步的模糊了起来所以这些技术乌托邦主义分子他们更希望未来的社会本身就能够
被当成一种技术类的系统那他们不单是认为他们所处理的这个设计的系统是一个技术类的机器那么更希望我们当今生活的这个社会和组织也可以被设置成一种不断完善的机器那因此呢说那既然是一部机器那这个整个的社会的组织和管理就应该属于工程师的范畴也就是说属于科技人员的这个范畴
至于说社会中我们经常谈到的这种文化政治经济的问题都可以视作像一个大系统的子系统然后来去如何构建和分析然后再通过工程师这种技术手段来去思考和解决所以他们认为整个社会目前是缺乏有技术引领的这样的理性的进步
而他们认为目前的社会呢主要是被这些所谓的官僚和政客所领导而缺乏这种真正由科技能够或者深入理解科技为社会所带来的一个进步所以呢他们认为说那社会的领导应该由这些技术的这种
精英或者是更懂高科技的这种知识分子来去引领那社会应该委托给这种技术专家科学家和工程师来带领才会避免我们今天看到的世界上的这种混乱只有这些科技人员来去领导世界的建设才会为我们人类带来这种黎明时代
而且这些问题大家可以看到在过去的一些年被更加的强化因为经常网上流传着那些视频或者段子比如说美国听证会的那些议员对于扎克伯格或者 Sam Altman 或者以及 TikTok 的周树枝在被问询时那种政客或者官僚持有那种对科技的非常低的一个认知程度
这个经常在科技圈就被沦为了一个笑话所以大家就更回头会讲说你看这些政客或者官僚他们其实根本就不懂科技根本不了解今天世界运行的一个规则所以我们可以看到今天的很多硅谷的科技界人士他们就不只是单纯的站在科技角度来提出建议他们更多的希望为国家政治经济能够出谋划策
担当起很多所谓的经济学家和政治家的一些职责其实这次大家在特朗普的竞选中也看到了其实马斯克就挺身而出不单是为国家这个宪言宪策而且出了很多的真金白银当然这里边有所谓的科技理想主义者或者乌托邦的这样的一些思想当然背后也不排除巨大的经济利益的所谓的牵引
现在大家听到的音乐是来自于 2014 年由诺兰指导的电影《星际穿越》的主题曲这部电影就描述了地球当时正在遭受着一个灾难性的枯萎和饥荒里边虽然谈到了环境污染妇女之间的亲情但其实更多体现了说
当前地球已经无法再适合人类生存那么人类不得不利用高科技带上人类的受精卵然后来探索新的宇宙中的生存的家园最终宇皇原利用土星附近的虫洞找到新家园的这样一个故事所以这个故事就体现了人类在解决世界末日时利用科技这种解决的构造新世界的一个方式
接下来我们再谈两位基础乌托邦主义分子的典型代表第一位就是我们在 AI 反动派其实第一集节目中也谈到的尼克·波斯图罗姆为什么他会重复上场他在上一本书中他认为人类在未来的 100 年内将会有 1/6 的可能性得到灭绝
所以他说可能人工智能是一种危险形式的人工智能所以我们当时把它放在这个人工智能末日论者分手内但事实上他在 2024 年又出版他的最新的著作叫做《深层乌托邦解决世界中的生命和意义》那在这本书中他就考虑了完全一种截然不同的一种结果
他认为如果人工智能发展的非常好那会发生什么呢所以他在书中提出了新的一种情况也就是说技术进步到能够以接近零成本来完成所有具有经济价值的工作那在一种更激进的情况下即使你在看到可能有一些留给人类的任务比如说类似养育子女
虽然这些工作人类还可以做但事实上人工智能可能比人类做的会更好所以他就设想了一个由基金人类增强技术实现的一种乌托邦式的未来他还指出如果人类殖民宇宙并创造行星大小的计算机能够运行数字人那这样的话可以生活在这种虚拟的现实世界中那么未来的后人类的这种人口会达到惊人的规模
仅在处女座超新系团中波斯通伦估计将有 10 的 3 4 8 亿次密个数字人它在可观测的宇宙中至少有 10 的 58 密次这样的一个数字人的存在那由于超级智能引起了经济的爆炸那我们
可能还会受到地球的物理资源的限制所以他认为应该尽可能的进行一些太空的探索来加大人类生存的空间并且他认为会有一些所谓的中间世界在那里人类发展出强大的新型的智能但还不会发展到随意遨游太空的这样的一个程度所以在这样的世界中财富可能多到我们今天的人是无法想象的
其中一大部分很可能会被房地产吸收那就像今天的富裕国家一样所以他还勾勒了说我们到乌托邦世界的这样一个路径最后波斯鲁姆还提出过天堂工程的概念也就是说给大家设想了一个通过先进科技带来的乌托邦的未来
从不朽的这种视角来看说这样的世界到底会是一个什么样子得到了认知能力增强后的人类我们会认为乌托邦给他们带来了更多的欢乐所以这是波斯通的一个在这本书中的一个主要观点
他也认为说大多数人仍然会喜欢那些有内在价值的活动比如我们人吃到美味的食物这种心理感受是非常愉悦的
那乌托邦主义分子呢会认为生活变得太容易他们可能会决定挑战自己也许会在一个新的星球上进行一个殖民试图开始重新设计一种新的文明也就是说其实就是吃饱了没事干我们要去干一些新的更有挑战的事情
当然也有一些其他的经济学家认为说人类的这种需求是无限的这种欲望是无穷的所以人们可能需要享受或者消费的东西会越来越多即使在这样的乌托邦主义的社会所以大家可以看到大家畅想了一种乌托邦主义的社会在这种社会中人类到底要怎么生活
到底是不是还是持续的这样的一个消费还是我们去来重新构建文明其实即使在很多的乌托邦主义分子中大家的观点也是不一样的除了波斯托姆以外还有一位在业内人士大家认为是比较基础乌托邦主义分子的人就是维诺多·科斯拉
他之前是 SAN 公司就泰亚公司最早的联合创始人现在目前是一名风散投资家大概他的资产差不多有 72 亿美元他在 2023 年底的一次泰的演讲中就谈到了他所谓的这种 12 个科技的预测这种预测都充满了对于技术乌托邦的这样的理想主义的这种讨论
第一他谈到了说我们每个人以及孩子都会有免费的专家服务我们将得到全天候的免费的医生免费的老师这些资源是随时可以享用而且不用花钱的所以这是他的第一个预测第二个预测是人类将有
无限的免费的劳动力到时候世界上将拥有 10 亿台的机器人他们的工作起来比现在人类做的事情还要多得多第三他认为说到时候计算机无数不在任何人都可以使用人类的语言来编写横序和应用这样大大扩大了计算机的使用范畴计算机就变成了像今天的水电煤这样的完全通用和免费的公共资源和基础设施
第四呢他讲到的娱乐和设计行业将会大爆发随着 AIGC 像我们今天看到的这样的能力每个人都可以成为艺术的创造者每个人也都可以自己去创造个性化的艺术作品甚至包含这个音乐和电影等等的
第五呢他说人们使用这种智能体就 agent 来去工作那每天呢有数百亿个这种 agent 活跃在互联网上这将成为日常它将帮助人类做很多我们日常所需要的一些工作
第六呢他认为说未来的医疗水平由于人工智能的发展将会大幅提升那我们能够创造更多的能满足个体的个性化药物并且呢能够在疾病预防方面做出重大的贡献第七呢他认为我们将会拥有更多的新的食物和新兴的肥料那这些食物呢将拥有更好的蛋白质
和能量那这些肥料呢也会更加的环保所以他从这个食品和土地的角度也做出了自己的预测但在城市交通方面呢他的第八个预测就是说在城市了以后不再需要汽车
个人的这种无人驾驶的交通将会出现而且这种无人驾驶的资源是随需而使用的而且大家都能负担得起像一种整个城市的无人驾驶公共交通这种交通比传统的这种个体化的交通会更加的便捷也会更加的便宜
第九个预测他认为说我们到时候的飞行器会变得更快比如说他认为从纽约飞到伦敦吃顿午饭可能只需要一个半小时的时间那这样的话世界会变得更加的紧密
第十个预测他谈到说我们由于技术能力的提升我们将拥有更加清洁的这种能源的替代他就谈到了其实可控核聚变将会提到我们现在目前知道所谓的绿色能源就是太阳能风能所以可控核聚变的将会成为新的绿色能源在第十一个预测中他谈到说人类将会探索出更多的自然资源
因为我们现在有人说我们今天地球上的这些礼仪啊,孤卧这些稀有的这种金属随着这种科技的发展可能会逐步的枯竭但是他认为说人类可能通过对地球的探索我们能找到更多的这样的一个资源
最后一个预测就是第 12 个预测他讲的说我们今天大家担忧的这种碳排放问题将不会再成为问题因为到时候人类利用高科技可以利用更少的这种能源或者资源从而创造出更多的产品
所以这 12 个预测我们在今天看来很多还距离比较遥远但是从科斯拉的角度讲他认为是说这些早晚会马上就会实现而且伴随着整个人工智能的大的一个发展他认为当今世界的 80 亿人中其实只有 1%也就是 8 亿人可能相对拥有着富裕的一些生活方式这个里面的包含交通住房教育医疗
那其他的 72 亿人呢其实大家生活的并不好但是呢如果说我们让地球上的 80 亿人都拥有这种富裕的生活方式那么人类可能会毁掉地球因为我们没有那么多的所谓的资源能够满足 80 亿人的消费但是呢所以科斯拉认为如果我们通过这种科技的发展和创新利用人工智能技术那我们就可能让这一切都成为现实
所以呢我们经常人类大家以这种线性的方式来去预测社会的发展比如每年 GDP 要增长多少那我们的能源多长时间就会消耗完但事实上呢他认为科技将会以这种非线性的方式来增长那所以会给我们今天的人带来很多目前还理解不了和前所未见的东西所以呢科斯拉作为一个这种技术乌托邦主义分子呢
他提出了对未来的这样的 12 个主要的预测除了波斯特鲁姆和科兹拉两位其实像我们在上期节目中谈到的马克安德森或者三毛特曼其实他们都有很多所谓基础无托邦主义分子的这样的思想体系在内因为我们上期谈到了我们这里就不再重复介绍了
那我们在之前也谈到对于这种技术的发展如果大家把它不用于社会而他把它用于人人类的这样的一个发展或者创造那么可能就会产生我们今天要谈到的第二类的 AI 乐观主义人群那就是超人类主义者超人类主义者的英文是 transhumanism 有时候呢也被称为 human plus 或者 H plus
那也被称为超人文主义或者超人主义或者过度人文主义其实呢他们是主张利用使用科技和理性来改造我们人类自身特别是从基因方面来提高人类的智力和延长寿命然后再利用一些生物工程或者一些机械植物的技术来增强人体的这个身体的本能
在超人类主义者的眼中人类的未来就是在技术的帮助下能够超越人体的一些自身的一些局限性致力于使用技术消除残疾疾病痛苦衰老和死亡充分利用技术来增进人的智力生理和心理的各项的一个能力
虽然他们也认为说这些新的技术可能带来一定的危险但是他们认为带来的好处可能会大于危险那他们对未来人类的生活将会彻底的改变那第一个给予超人类主义者完整定义的是英国的哲学家马克思默尔
在 2011 年他就成为人体冷冻技术公司 Alco 的 CEO 他提出超人类主义提供了一种乐观的充满活力的这样的一个生活的哲学我们应该怀着这种兴奋和喜悦的心情看到这种技术给人类的身体带来无限成长的这种可能性的生活
来消除对生命智力自由知识和幸福所有的这样的一个人类自身的物理上的一个限制马克思默尔还提到目前阻止人类进步的最大的问题其实是死亡所以他认为说我们应该有技术或者科技不让死亡来阻止人类这种智慧生物的进步
他认为人类的演化路径应该是从最早的古猿到直立人到我们共同的祖先智人到超人类以及到后人类这样的一个过程
那顺便提一句马克思默尔其实还是最早提出的商增理论的人啊那大家可能有些人了解商增啊商增就是说在一个孤立的系统内由于系统的混乱程度也就是这种代表一种商总是趋向于增大的最终达到了一个最大的状态其实这很像这个热力学的这个第二定律啊
所以我们可以看到马克思默提出这种超人类主义者之后从 98 年开始其实在世界范围内就有一些类似的一些人组成了世界超人类主义协会这个组织简称 WTA
那这种观点呢其实在很多的这种互联网的社群中最早是传播开来的那他们大多呢都相信这种人类的理性思维和现实的乐观主义希望通过这种计算机的发展科技的发展能够为人类延长寿命啊通过纳米技术来改进人体的一些能力和功能
特别是对于生物医学技术还有人去搞心灵上传就是把自己的思维意识能够上传到互联网能够长久的生存或者还有人去搞人体冷冻或者大脑保存的技术来通过各种各样的不同的方式来实现人类的无限的寿命和永生
那 WTA 的刚才我们谈到组织的联合创始人除了我们刚才谈到的尼克布斯特鲁姆还有大卫皮尔斯
纳维·皮尔斯其实是一个英国的哲学家他将超人类主义的描述为天堂工程在这个里面通过这个工程通过科技可以彻底消除我们人类的一些痛苦但我们应该重新设计全球的生态系统甚至将天堂工程可以扩展到非地球的宇宙的其他的地方甚至这个工程可以被定义为是整个宇宙的一个救援任务
那这个 WTA 组织呢后面发生了一些转变现在变为了叫 Human PlusHuman 家的这个组织它也是一个这个非盈利性的国际的教育机构其中呢就包含我们在上期节目谈到中的乐观主义者这个本格特尔和我们刚才谈到的 Max Moore 等等的这些人所以这个组织呢目前来说还是非常的庞大的一个组织嗯
我感受到一切你意思是什么,甜心?空间,气息,人类我感受到地球的重力我感受到地球的转动热气离开我的身体血液在我的脊椎里我感受到脑子里的深刻的记忆甜心,我们有个不好的联系我听不清楚你什么时候说的记忆
刚才大家听到的音频是 2014 年由绿科贝松导演斯嘉丽·约翰逊主演的电影《Lucy》但在国内这部电影也被翻译为《超体》
这个电影里面就谈到了 Lucy 通过药物把自己的头脑开发到百分之百的一个情况刚才那个对话是她和她母亲来讲述她的身体所发生的一系列的变化其实这个里面就体现了对于通过外在的药物对人类头脑和身体的这样一个改造甚至发生了一些很多超自然的一个现象
我们在这里可能要去总结一下超人类主义者的一些共同的思想和意见怎么总结其实他们发布了一份叫做超人类主义宣言的这样的一个材料里边就体现了超人类主义的核心价值观和目标以及他们对未来科技发展的很多的期待和建议超人类主义宣言一共有 8 条
第一条就谈到了人类的文明的发展深受了未来科技进步的影响我们希望进一步能够扩展人类的潜能包括克服衰老突破认知局限消除非自愿的这些痛苦并且超越地球的很多限制第二我们坚信人类的潜能尚未被充分的开发
有很多可能为人类带来非常美好的且极具价值的这样的人类的增强的这种场景是可以被利用的第三我们也深切的意识到人类的文明正在面临着一系列的巨大风险尤其是源于新兴科技的不当使用
而这些技术的不当使用可能让我们已经获得的一些价值灰飞烟灭这种情况已经非常严峻了所以他也认为说进步意味着改变但并非所有的改变都是进步
第四说认为学术研究应该致力于理解我们所考虑的这些未来的前景审慎的考虑如何降低风险并且有效的应用科技并且超人类主义者应该去建立社群让人们能够建设性的来讨论并参与到具体的行动方案中来形成更负有责任的社会秩序第五
谈到我们应该降低存在风险以保护生命和健康减轻人类的痛苦提高人类的远见和智慧但我们应该把这些内容作为目前的当务之急并且鼓励大家投入更多的资源来去达到这样的目标
第六,决策制定者应该尽职尽责,或者采用包容的道德为指引,同时权衡风险和机遇,充分尊重自主权和个人权利。我们应该展现团队精神,关心全人类大家庭的每个成员的利益和尊严,并考虑我们在未来世代中的道德责任。
第七我们相信超人类主义者将极大的促进人类的文化和多样性和个性化并且希望每个人都能够自由的参与到超人类主义的这种活动中运动中并根据自身的价值观和偏好来选择其所希望的增强的方式第八
我们认为超人类主义者是一种理性的科学的进步的思想能带来更美好更智慧更健康更幸福的未来所以我们邀请所有志同道合的人加入我们并且探索这一伟大的愿景所以以上的八条就是由这个组织所发布的一份超人类主义宣言从超人类主义者的实践上来看
特别典型的就是 2016 年马斯克所创立的 Neuralink 的脑机接口公司
其实他曾经就探考过一个类似科幻小说的一个概念叫 neuraless 就是人脑和机器能够交互互通马斯克认为说脑机绝口这是绝对有必要的这不仅为了让人类作为一个物种能够继续的进化下去而且他认为这样的话我们人类才能跟上机器的这样的科技的进步的发展的步伐
马斯克谈到如果我们人类不主动与机器主动融合那么人类在未来将会变得一无是处虽然马斯克平时并没有把自己成为基础的乐观主义分子或者超人类分子甚至我们在 AI 反动派中也谈到了马斯克的很多的观点但是至少在人类脑机增强这样的一个领域中马斯克是做出了很多的实际的一些工作的也做出了很多的探索
除了我们前面谈到的超人类主义者其实还有一些所谓的乐观者又变身为叫做奇点主义者大家知道在人工智能领域经常会谈到一个词就是所谓的奇点就是当技术发生到最大化的转变之后将会快速的超越人类然后这个点叫做奇点我们可以看到我们的这些奇点主义者认为技术的最终源头就是智慧
那预测将出现超过人类这样技术的出现的将是上历史上的一个这样的一个分水岭这个分水岭就是这个起点时刻那我们应该去来预想或者去预防或者去保证这样的在技术出现之后我们人类的一个发展的一个情况其实起点主义者很多的观点和超人类主义者是相似的比如说类似利用机器改善人体的机能啊
比如被截肢者创建一只灵活的手臂或者是人造的这种内脏器官比如人造肾人造肺来帮助重病患者来恢复健康也包括增补大脑除了脑机接口之外其实还有这种促进智力的这种药物以及基因技术以及这种网络大脑的这样的一个形成
那也包括呢这种 AI 的个人助理像这种钢铁侠描述的那个智能管家贾维斯一样能够为我们的人类能够提供关键的信息决策形成这个人类的第二辅助思维
他们奇天主义者也包含这种延长寿命纳米技术提高人类的健康甚至实现返老还童还包含精神层面的内容比如科技的整体进步与物质飞跃能够让人类更加注重精神层面的进化他们让人类应该更加重视自我价值的实现让人类变得更加理性和自律
他们的这种视野的责任心应该超越个人家庭甚至可以延伸到社会以及全人类以上是奇天主义者和超人有很多观点相似的内容但是他们也和超人类主义者有些观点是不一致的因为他们更认为说机器智能终将会超过人类智能这一系列的技术的突破是不可改变的
所以我们应该是为适应此时刻的爆发而改变一些人类的生存方式这个就不止说我们提高人类的能力然后这个怎么怎么样而更多的说我们要去适应到起点发生的那个时刻那起点主义者的最典型的代表人物当属库雷库斯维尔
他现在是奇典大学的创始人和校长他最著名的著作就是 2005 年所做发表的叫做奇典临近当人类超越生物学在 2024 年他又出版了一个续集叫做奇典临近当我们与 AI 融合时
他认为人与机器的融合加上机器智能的突破爆发和基因研究各种各样的理论包括纳米技术让我们能够超越我们脆弱的身体和限制最终我们可以看到疾病将会被消除所以大致来说奇天主义者和超人类主义者的观点是一致的他们这些人都基本属于一种狂热的科技的爱好分子
利用这种综合的能力这不也不只是 AI 了刚才也谈到了像基因啊药物啊等等方面的一些内容那以上呢就是我们谈到的关于乌托邦主义分子超人类主义者奇天主义者的主要的观点那事实上呢
对人工智能的乐观派不只是对目标就是我们要实现的目的地的这种乐观的想法其实对于科技发展如何去发展或者科技发展的速度很多人也有自己的发展这就在整个的硅谷又演化出了新的一派这一派叫做有效加速主义分子 EACC 刚才大家听到的是奈飞在
新剧《三体》中的主题剧《三体》其实国内已经翻拍了在美国也拍了一部同名的电视剧我们不去谈这部剧的主要内容因为大家对《三体》的故事情节已经非常了解了在刘慈欣的《三体》小说中其实就谈到了黑暗森林中的两大重要的概念那就是猜疑链和技术爆炸
那技术爆炸谈到的是说那我们在人类的 5000 年的历史中我们现在的科技发展只需要 300 年的时间就能够快速的建立起来
而且 300 年在整个宇宙的尺度下其实只是一瞬间而已所以他认为这是一种技术爆炸因为也有人把地球的 46 亿年的发展比作了我们一天的 24 小时其实真正我们有了能力是到了晚上的凌晨的 11 点 59 分的 45 秒左右智人才终于学会了火的使用
那凭借着这一优势呢逐步扩大最后其实几乎是在午夜零点左右那人类才会由于高科技的使用给世界带来的前所未有的变化也就是他其实讲到在漫长的整个的宇宙的尺度下这个技术的突飞猛进是非常快速的那么由此理论呢他就谈到了说那一个技术的
文明的快速的发展和爆发会引起另外一个文明的恐慌那当这个文明的这个被暴露之后暴露到宇宙之后那另一个文明呢就会出于自身的安全的考虑然后啊
来毁灭掉这个文明所以这就是他谈到的这个猜疑链和技术爆炸的主要的思想其实这里面主要就是谈到了一个叫做技术加速进步或者技术大爆发的这样的一个理论思想这个也是有效加速主义的这样的一个主要的思想的来源有效加速主义其实是从 2023 年才是在硅谷出现的一种新的流派
为什么叫做 EACC 呢 EACC 其实代表是 Effective Accelerationism 是有效加速的这样的一个思潮他认为人类应该无限制的推进 AI 等前沿技术的加速的研究来促进人类的发展和进化
那 EAC 这个词呢最早的发明呢其实有点像玩梗啊因为我们最早在上期节目中就是在反对派中里面谈到了叫做有效利他主义者啊这样的概念所以呢他相当于是硅谷的程序员啊在这个闲聊过程中说那我们应该也反造一个词来反对他们的观点所以就创出了所谓的有效加速主义的这样一个概念那后来呢
里边的主要的人物就是我们谈到的马克安德森以及最新的外西服花旗的 CEO Gary Tan 他中文名字叫陈嘉兴他们首先在自己的 Twitter 账号就 X 账号中在后缀描述中里面加上了 EACC
后来很多的科技界的大佬就跟着来站台来表达自己的观点来反对这种 EAC 的观点所以很多人跟风就在自己的名字背后加上了 EAC 的这样的后缀也马上出现了一些很多 EAC 的相关的一些论坛所以我们看到 EACC 的有效加速主义它是将一种生物物理
经济社会的理论整个联系在一起的一种哲学的思想强调了说这种科技的适应性进化智能和加速那是宇宙中的一种普遍的一种法则和规则大家是无法避免的那有效加速的最大的特点就是强调技术创新和对社会的推动和变革的作用
但是其实由于 EAC 这种思想它是来自于整个硅谷的一个社群网络或者互联网上的这样一个群体没有这个所谓哲学或者体系的一个定义所以大家其实对于 EAC 也没有一个非常标准的一个定义我们怎么去理解 EAC 这些人物的主要观点我们可以通过一个叫 Jarwin Muldoon 的人
他这个人是在 EAC 社区中非常著名的一个人物他其实在 2022 年的 7 月他就整理了很多关于有效加速主义的一些讨论的结果那么后来很多人也把这些内容作为了 EAC 的主要的原则以及对流派或者思想人群的一个主要观点的一个注解那这个 John Whedon 他是 Entropic AI 的创始人兼 CEO
他为了在互联网上保持一种神秘感他在 X 账号上注册了一个叫做 BiffJazzles
的一个账号这个账号主要就是介绍有效加速主义他在后缀中他会谈到说是宇宙后人文主义基于精神分裂症自闭患者积极学习的基础兄弟因为他其实在真实中有一个他的名头他在账号上虚拟的做出了这样的一个人物来辩喻他整个的讨论
所以我们可以看看他在 2022 年 7 月份整理的这些内容主要有什么主要观点可以总结为以下几点首先他认为 EACC 类比于热力学的上东定律就是宇宙的复杂程度是不可逆的在增长那么人类的这种社会的技术程度也应该匹配的成长
另外呢 EACC 指的是技术与资本之间偶合的这种正反馈的螺旋加速的一个状态就是资本呢可以来不断提升技术技术呢又可以帮助资本赚钱回馈资本那这样是一个叠加的正反馈的一个螺旋加速的过程那 AI 技术呢发展是不可阻挡的
所有反对 AI 的人其实是不了解技术才会欺人忧天人工智能虽然就有一定的风险但是目标应该让更多的人加入到技术浪潮中才能找到风险的应对方法所以要支持开源加速以及让技术保持这种良性的发展而不是限制和延缓 AI 技术
那 EAC 人认为呢目前的人类社会的公共部门包括政府啊 NGO 啊科学家协会啊和我们他们设置的这些机制和体系和我们所预想的这些能够管理 AI 的或者有效管理 AI 的这种体制呢还有很多的差距所以呢那就应该反过来讲那应该你们就充分放手啊来加速 AI 的发展让 AI 系统呢自我进化到能够相互制衡的这样一个状态
并且 ESA 的人认为当今存在的社会问题可能是无法通过现在目前的一些所谓政策手段来去解决的所以必须要依赖于技术的突破这样虽然有可能会加剧社会的矛盾的一个发生但是技术达到了一定的这种加速发展到一定能力的话它就会突破旧的这些社会的很多的制约我们的很多的问题也就会迎刃而解
那 EACC 和我们在原来思想界这种传统的加速主义还是有区别的
因为传统的加速主义通常是和这种左派思想有关就是说马克思主义或者激进的左翼思潮在资本主义社会因为他们认为说应该去推动资本主义社会的加速发展然后充分的让内部矛盾激化导致资本主义社会崩溃为一个新的或者后资本主义社会或者社会主义形态铺平道路所以这是重点
传统的所谓的加速主义的观点但我们可以看到有效加速主义更多的还是和这种所谓的右派加速主义相关他们还是受到了整个未来主义基础乌托邦主义者刚才我们谈到超人类主义的这样的思想他们的目标并不是要去
推翻资本主义社会而只是想通过加速资本和技术的这样的一个发展推动人类能快速走向另一个更高效更发达的这样的一个社会的一个状态他们追求的主要还是科技进步利用科技和市场的力量来解决我们今天的社会问题而不像传统的很多加速主义者谈到的说要通过革命和剧烈的社会变革来去解决这样的问题
所以他们相信技术进步和资本主义的加速可以给社会带来更高效的运作改善生产力解决全球性的一些问题
但是他和超人类主义者就我们前面谈到的那些人的典型观点还是不同的因为超人类主义者主要是为了人类自身的增强和永生而 EACC 对人类我们人类这种碳级生物并没有太多的崇拜更像一种后人文主义者他们认为说我们的主要文化思想能够继续传播甚至传播到其他的星系
那这种呢就可以把人类的这种碳级生命转化成新的这种归级生命那这样的话呢我们的人类的文明仍然是得到了延续的所以呢他其实在这个程度上呢有些加速主义者是超过了我们所谓的超人类主义者的这样的对于人的这样的一个这个碳级生命的一个制约所以呢他们认为呢技术加速其实甚至是加速我们整个宇宙文明智慧发展的一个最好的方法
但这种技术神圣论的这种角度呢可能目前显得就是太离于这个社会了啊
所以呢将复杂的社会简单的归结为用技术中心或者技术决定论就可以去解决那其实呢这个和我们一般讲的技术拜物教啊或者技术崇拜论呢其实我觉得可能还会阻碍人类对所谓人们与技术之间的关系的这个发展但是总之呢有效加速主义者在近两天来在硅谷是一个非常啊
快速成长的一个群体当然这个得益于说人工智能这两年的快速发展那当有效加速主义者大火之后其实很大一部分并不是从事 AI 人工智能的人加入到了这个领域而是哪一类人士呢主要是 web3 和区块链大家可能知道说这些年来对于区块链或者 web3 这样的相关的领域的一些技术就是一些加密货币领域吧
一直被传统的这种中心化的政府监管以及金融企业所打压所以大家正是谈到了这种对于社会的转型之后这一类人群也逐步加入到了有效加速主义者的一个阵营
所以区块链领域的领军人物也就是以太坊的创始人 Vitalik Buterin 在 2023 年底就提出了自己所创造的一个新概念他没有用 EACC 这个词他用了叫 DACC 这个词
我们简单介绍一下 Vitalik 他在区块链领域是非常有名的他曾经是一名俄罗斯裔的加拿大籍的计算机程序员他整个伴随着区块链的最早的出现他创建了著名的区块链的社区大家可能知道最多的是比特币其实第二个最著名的就叫以太坊他主要是在区块链和 web3 领域是一个非常著名的风云的人物
那在 DAC 的这个词中呢这个 ACC 呢还是这个加速主义的这个缩写啊但是我们不但看出其实它和另外一个版本就是 ESA 的这个版本还是有区别的因为维他利格他谈到这个 D 呢其实有很多种的解释比如可以写成理解成 defensive 就是防御性的也可以理解成 decentralized 就是所谓去中心化的也可以理解为 democracy 就是民主化的
或者理解为 different 就是作为区别化的所以这个 D 有很多的理解那总之呢把 D 和 ACC 放在一起就代表了主张利用一种去中心化的民主化的防御性的机制来应对很多基础发展中的问题所以呢他也特意为此撰写了一篇文章来解释什么是 DACC
维他利克首先相信由于技术的这种彻底的变革未来会比现在变得更加光明他认为这种变化不仅是数量级的还有整个技术方向上的整个大的改变他认为某些类型的技术出现可以让世界变得更加的美好当然这里面他就是谈到的很多就是分布式的这种技术这种区块链的技术某些技术如果得到发展那可以减轻其他类型技术所带来的负面影响
那世界在某些技术上发展的过快但是有一些呢可能发展的过慢所以呢我们应该对于人类啊第一选择技术和技术朝向应该做一个非常好的一个选择采取这种利润最大化的方式让这些有用或者有利于人类的技术能够快速的发展
他同样和我们讲到的 EAC 的人观点是一样的说他认为延迟技术的发展是错误的因为他在理解说在过去的人类的 100 年的历史中人类的寿命延长了很多而今天的终结衰老和遏制疾病似乎可能还有一定的距离但是如果我们从 1945 年当第一天出现计算机的这样的角度来看
如果那个时候的人类看到我们今天人类使用计算机的这样的一个现代的时代那他们在当时描述出来那应该也是一个乌托邦的
即使在当年的很多科幻电影中我们可以看到计算机的这种大小像一个房间一样所以他那个时候人们也想不到说计算机会发展成今天的状况同样我们今天看到的生物技术和过去计算机发展速度一样未来发展可能会远远超过我们的预期
所以我们现在所处的文明所采用的第 N 版技术是完成的他把我们现在的文明比作一个类似操作系统的某个版本第 N 版我们可以在第 N 加 1 版的这样的一个技术中很好地解决我们今天的问题还是一个技术迭代然后来改变整个社会形态的这样的一个过程把它比作了系统的升级
但是维他利克他也认为说他所谈到的这一切并不是会自动发生的而是需要人类有意图的努力才能去实现的维他利克是怎么理解人工智能呢他认为说人工智能一种新型的心智其智能正在迅速提升很有可能超过人类的智力能力来成为地球上最新的顶级的物种
就像人类超过猴子多细胞生命超过单细胞生命甚至包括生命本身的起源一样那在工业革命中那自动化的机器很快就在体力上超越了人类那维他利特说他见到过太多拯救我世界的方式但是呢他之前见到的方式总是把这些能力啊或者要求赋予了一小部分人
让这部分人直接去拥有某种不透明的权利然后希望他们能够明确的使用这些权利但是维他利格他希望寻找和维护一种更加民主的世界避免这种中央的集权这就是他的解决方案也就是他 ACC 的主要的理念其实就是避免中央就是分布式的这种分权的去中心化的
他认为呢技术对于世界的宏观影响可以看作是防御和进攻的一种平衡框架如果呢有些技术啊可以使用攻击他人变得更加容易一些而做一些违背他人利益的事那其他人就需要做出反应那所以需要使用一些技术这些技术呢它具备防御性特征
甚至说我们不依赖于这些集中式的这种主体我们就可以进行防御比如他今天看到比如像在安全领域网络安全啊灵知证明隐私保护区块链和密码学其实他认为这些技术都是在 DAC 原则下最好的例子那这些技术呢允许用户在不损害自己隐私啊
或者私有财产的情况下来去处理业务而且在这个过程中并不依赖于中央的这些控制点和机器或者系统或者人那也可以很好的做到自身的安全保护所以这些防御类的技术就能够创造出更好的人类的未来用更加公平的方法来保护用户和服务安全
如果我们想继续研究更广泛的这种技术的发展我们就需要充分研究这些防御性的技术让我们的互联网变得更加开放安全和自由他认为这是一种必须的方式
而且他反对说如果我们全球只让一些垄断性的组织或几个大公司来去搞人工智能这个其实不符合他的原则所以他倾向于类似用所谓多神论的就是他认为世界上有很多的人工智能或者超级人工智能同时存在才是确保世界上能够更安全的一种方式
所以他希望说世界上要有足够多的人和更多的公司能够加入到人工智能的研究过程中这样的话我们才会保证说不能不让一个某一个 AI 变得非常的强大大家是这样一个相互竞争相互制约的这样一个情况
所以即使在这种情况下让人类的人工智能变成一种超级智能那也会保持所谓的霸权或者权力的一种平衡维他利克最终理解的科技的下一步是将通过人工智能和脑机接口两条基础路线相融合可能我们到时候会把我们的头脑直接下载到计算机上
能够去运行保证说我们人类的思想能够和计算机充分的一个融合这也将是在物理安全的终极防御加速就是 DACC
到时候就需要保证我们人类免受伤害的一个重要的一个内容就他认为说到时候如果这种融合实现那我们必须得有这种安全防御性的能力所以 DAC 将成为保护人类不受伤害的一个大家不得不去谈的一个话题
其实维他利克在整个文章中依旧延续了他在整个区块链领域的这样一个思想但是结合人工智能的最近的发展谈出了自己的观点他的核心就是要让我们不同的 AI 有竞争并且这种能力是要去中心化的
这种技术去中心化对于人工智能的这种管理和控制也应该是去中心化的才能够防御我们这种的一种新型的技术的一种进步至此我们通过上下集两期节目介绍完了所有技术乐观主义者的主要观点
那从比较单纯的技术乐观者比如像 Sam Altman 或者以这种技术乌托邦主义出现的这种马卡安德森或者是超人类主义者的本科则或者是技术加速主义者或者是像维他利格这种带有防御性的加速主义者的很多的观点
那么就如我们在前一期节目谈到 AI 反动派时我们在节目结尾做了一些批判性的思维的总结那么同样我们对于我们这两期谈到的所有 AI 乐观派我们也试图从思想根源的角度对他们的观点做一下重新分析基础乐观派的思想主要来自于两个方面一方面是 1960 年代的反文化运动
这些反文化运动中追求个人自由自治和去中心化而另一个方面是来自于自由市场的资本主义崇尚自由经济和技术创新那硅谷的这些科技精英嘛恰恰把这两种思想融合到了一起特别反映了一种所谓新左翼和新右翼思想的奇特的一种融合从而形成了类似这种技术乐观主义或技术乌托邦主义的思想
那什么是新左翼呢?新左翼是关注于技术如何促进平等,解决社会问题,例如气候变化,贫困,医疗等等的问题并且希望通过技术的民主化和公共资源的分配,使社会向更公平的方向发展他们一般支持社会主义和后资本主义的社会模型,提倡共享经济,普惠科技等等
而这里谈到的新右翼通常是指强调市场力量和个人自由认为技术进步将通过资本主义市场体系自然而然的来推动社会发展更关注通过技术创新来提高生产效率推动经济增长或者通过私人公司来掌控技术发展因为美国类似在加州的硅谷是传统的美国的左翼阵营也就是说民主党支持的地区
但正是这种新融合之后我们会发现很多的科技领袖和技术从业者转变为了右翼分子这次在特朗普大选中我们可以看到那很多是支持特朗普所代表的共和党的例如我们前面谈到的马克安德森马斯克等人了当然了特朗普他自己也并不代表特别典型的一种共和党的观点
这是我们解释了新左翼和新右翼以及二者相融合的这种技术乐观派的总体思想根源这种观点也受到了广泛的批评当然听过我们 65 期和 66 期的听众就一定知道因为那里面谈的是 AI 反对派的观点 AI 反对派其实很多就是在反对这些科技乐观主义的思想
我们今天再把所有内容再重新总结一下这些反对的声音大致于来自于四个方面首先因为这些乐观派认为说技术的发展总是有益的但其实并不一定例如技术的进步可能会造成一些所谓的回弹效应也就是说技术虽然提高了效率但却可能导致资源消耗的一种增加比如一种新技术上汽车的燃油效率提高了
但此时的人们可能会选择更多的去选择去开汽车或者是开更长的距离反而导致整个社会上的总能耗的上升例如农业技术的进步确实增加了粮食产量但也可能会带来更严重的土壤退化物种灭绝水资源污染等等问题
就如同我们今天的人工智能可能会带来一些个人隐私问题假新闻泛滥包括 deepfake 深度仿制这样的一些的问题所以技术并不会指朝向善良的方向发展第二呢那技术是我们社会推动社会发展和进步的唯一因素吗那因为技术乐观者大多受到自由主义意志的思想非常注重个体自由并且反对政府干预
因随技术的发展往往是以盈利为目的的这就很容易导致这些在发展技术的过程中忽略了所谓的社会正义公平和公共责任单纯的技术观也让这些乐观者忽视了文化艺术和人文主义的价值
就像刚才的例子如果人们只是过重于技术这单一因素容易忽略技术进步给社会道德环境带来的挑战总之呢反对者认为技术不能替代社会或这种深层的改革更不能替代制度性的变革也无法消除政治过程中的固有矛盾许多的问题的根源并不在于技术而是在于社会和经济体系
而并不是由于缺乏高精能的技术而造成的因此解决这些问题还是需要对制度体系经济结构和文化价值所做出根本性的调整而不只是简简单单依赖技术就可以完成自动修复的第三虽然这些乐观主义者声称新的技术可以为人类带来平等但他们并没有能够证实新技术给世界和社会所带来的更加的不平等
从区域的不平等来看少数的精英技术精英和企业巨头拥有这些尖端技术在全球化的过程中不同的国家和地区人们在使用技术的方面也会显得更加的不平等从而导致上经济上的不平等并且在这个过程中还存在一些人权不平等的问题
因为这些技术乐观者大多认为自己才是社会的精英能够用技术的手段来重塑世界但他们也往往忽视了技术对不同行业不同阶层人所造成的影响特别是对于那些处于弱势地位的人群第四 虽然从观点上来看技术乐观者好像也在赞成技术分散开源或者反垄断等等的政策
但这一点却成为乐观者们绕不开的悖论话题他们要想发展技术资本人才和各类资源就需要不断的集中而且这些集中到越头部的一个公司越能获得他们相应的回报和取得技术的进展
这个就需要更好的通过技术壁垒和垄断来盈利如果不集中资源可能也就找不到最新的技术的发展的路径所以很多的事情或者很多的技术发展都是靠融资烧钱烧出来的
所以我们可以看到其实现在目前社会上主要体现在头部的几家大型科技公司来主导形成了新的这种权力集中和垄断的局面所以这个和技术乐观者他们谈到的所谓的能够更好的普惠技术分散其实是有备的我们今天看看美国股市中几大科技巨口的市值大家就可以知道了
所以这个就是以上从反对者来讲四个主要的观点方面硅谷的这些企业家的乐观与激进
和学术界的这些传统观念的悲观与保守形成了这种鲜明的对比当然我们从 65 期 666768 我们四季节目讲到了乐观派和反对派的各种典型人物和代表但是其实他们更多反映的是在天平的最两端的一些相对极端的一些思想和认知
他们其实是天平上的最头的那一层的砝码而大家都知道天平我距离越远我的砝码的重量我显现出的能力会越大所以我们可以看到他们对于整个世界的影响是很大的
这是第一层法法第二层法法我相信是他们对于广大从业者的影响所以我们可以看到很多硅谷企业内的这些从业者更偏向于一些乐观基金的做法
而学术和政府这一边或者我们的管理者可能竟倾向于偏保守的这样的一个态度可能这是我们的第二层法而最大的那一层的思潮涌动其实是对于大众大众的这种思想涌动可能会伴随着人工智能的能力的突破或者衰减然后形成这种不同的涌动然后再天平两端来不断的打破天平的平衡
最终我想说这些四潮的涌动这三层的砝码最终都会回到一些关键决策者的决策上以及对未来世界的影响所以这是我们想通过这四期节目想跟我们的听众来完整的来讲述至于什么是 AI 的反对派什么是 AI 的乐观派他们的主流观点
在 2015 年美国上映了一部科幻电影叫做明日世界 Tomorrowland 这个是由迪士尼来制作的其中就有意思的谈到了说未来世界当时是由爱迪生一众科学家在不同维度上创造的一个这样的一个虚拟的一个新世界里面高度的发达我们现实中的埃菲尔铁塔不过是类似接收信号的一个天线
所以电影里面虚构了一个这样美好的一个技术乌托邦的一个世界所以今天在最后我们片尾想给大家带来曾在片中出现过的一首黑剑乐队就是 Black Keys 的 I Got Mine 我得到了我想得到的这首歌曲这首歌曲也曾经获得过 2008 年的百大金曲它也曾经出现过在多部的电影中
我想得到我想要的那这不管是乐观者还是反对派那大家都是希望有这样的结果所以呢我们今天在片尾把这首歌曲带给大家好今天的节目就到这里如果您对节目的内容感兴趣也希望您能评论订阅和转发
i couldn't get no sleeptime
I got mineI got mineOh baby I got mineOh I got mineI got mine
by bwd6