#67 AI乐观派（上）｜那些技术乌托邦、超人类和加速主义者们
01:04:29 Share

欢迎收听由科技版版拍和 AIGC 开放社区联合出品的播客节目上两期我们聊完了 AI 的那些反动派们如果大家仔细听下来反动派这个词肯定用的有点大了

他们只不过是对 AI 发展的一些持不同的意见者例如像尤德科夫斯基这种末日论的代表者可能显得略微极端一些但是类似于这种学术路线之争的怀疑论者艾米利本德或者杰弗辛顿或者杨立坤等人其实都是保持着非常清醒和理性的

并没有像大众一样那样跟风 OpenAI 他们都在保持着那种学者的一种风范而是可让我们警醒 AI 发展方向的新任的诺贝尔奖得主阿奇莫格鲁以及警惕我们 AI 滥用的纳拉亚南或者说是说警惕那些大公司垄断的

格布鲁对于这些警兴者来说呢更多体现的是传统的这个美国左翼政府下的一些意识形态因为这些学者或者专家大部分是高举民主人权反垄断的这样的大旗他们并不是少数派其实他们代表了非常多的美国大众包括学者专家的一些想法

对于前两期的节目我们就回顾到这里按照我们的原计划那这一期呢我们将来聊一聊对于 AI 发展持有乐观态度的这部分人您可能要说其实不是大多数人都非常看好 AI 的发展吗对 AI 的发展前景也保持非常的乐观但是如果呢您和今天的这些节目里面提到的人相比呢我们大众的想法只能算是谨慎乐观

而我们今天聊到的这些专家是真的乐观那里面大概包含了几类人一类是传统的技术乐观派就是觉得技术能解决一切的这些人他们说的这一切可不是单止说什么 AIDC 写诗 作画或者自动生成歌曲视频什么的而甚至说一些所谓在经济或者社会中发现的一些问题

这是第一类人第二类人是对于乐观程度就比较加深了他们逐步就变成了这种技术的乌托邦分子他们觉得 AI 技术能够解决社会上的所有的问题可以构建一种打破原有社会的一种新的以技术为依托的这种新世界

那如果说乌托邦分子呢他的还是心向社会或者心向世界的话那么其实他们的另外一个更加乐观的演进方向就朝向了超人类主义者他们相信是可以依赖技术突破人的一些限制可以形成类似超人的一些能力那这个是对人类自身的一些突破那上面说的这几类呢还都是对于未来社会和人类达到某种状态的一种设想

但是对于如何到达 用什么方式到达 或者是用什么速度来到达那么其实最近在几年在硅谷又兴起了一类新的人群那他们叫做有效加速主义分子 就 EACC 所以今天我们的节目将通过单口的形式跟大家聊一聊这几类的乐观主义分子以及这些乐观者他们的主要观点

那同样呢在节目过程中呢我们会穿插一些电影电视剧关于 AI 的或者是我们介绍的相关内容的一些剧情或场景分享给大家因为影视作品呢也比较容易传播可能更有趣味性一点那好的废话不多说我们现在开始啊

现在大家听到的是 2014 年上映的美剧《硅谷》Silicon Valley 的主题音乐这部美剧呢讲述了一群年轻的程序员和创业者在美国硅谷努力创建发展了一家科技公司的故事一方面呢这个剧中的展示了硅谷这样的科技行业的创业文化

里面有很多搞笑的一些场景和一些创业出去的艰辛那另一方面呢其实也在很大程度上体现了像硅谷这些科技人员的一些极端自信和对这些未来技术发展的一个非常乐观的一个态度其实这些年轻人恰恰是我们今天要讲的这些技术乐观者最典型的一个画像音乐

而我们今天要讲的第一位技术乐观者就是大名鼎鼎的 OpenAI 的 CEO 也是 OpenAI 的实际掌控者 Sam Altman 各种社交媒体上对于 Sam 的报道和评价已经非常多非常多了在这里我们只想补充几个细节他是 1985 年出生的到今年就是 39 岁明年就马上 40 了他是一名犹太人

之前也是在斯坦福大学计算机系没有上完就退学的一个著名的创业者那英梅其实对于奥特曼来讲现在看起来更像是一个激进的商人和投资家所以你从这个角度也很难去衡量他对 AI 的这种乐观情绪是一个真实的表达还是为了这家公司的商业目的而营造出来的一种表现

例如他在 23 年的 5 月 15 号在多伦多举办的一次会议上就曾经表示过说我们已经失去了对未来的一种集体的乐观情绪他认为所有人都应该有责任恢复这种乐观情绪而且他知道这种乐观情绪的唯一的方法就是利用技术来创造更加丰富的应用

首先说我们其实认为传统的一些硅谷的科技工作者都是极是乐观者而只是对于人工智能这件事情来讲那才有了分歧所以萨姆才会说我们已经失去了对未来的集体的乐观情绪所以我们今天的更多的是站在这些对于人工智能有美好愿景和发展的人我们来把它做一些详细的介绍

其实 Sam 在今年的 9 月 23 号他发表了一篇新的文章叫做智能时代其实也代表了他最新的对于人工智能技术的一些发展的乐观态度首先他在文章的开头就讲到他相信超级智能很快就会到来也就是说几千天内我们就可能会拥有超级智能

那几千天大概也就是几年的时间那从时间维度上来说呢 SAM 依旧保持了对于 AGI 或者到来的这种惯有的信心那然后呢他又讲说我们应该相信人工智能的力量那人类的能力的提升呢不是因为基因改变而是社会的智能化那社会本身就是一种高级智能的一种形式

那人工智能是作为一种高级的工具能够帮助人类解决难题推动各领域的进步所以呢我们可以看到其实奥特曼来讲呢他还是对于改进社会这一点来讲而不是改进人类他更持有一定的信心

接着他又讲说 AI 将推动社会进入智能时代为人类带来巨大的繁荣和进步例如更好的医疗 个性化的教育尽管过程中会有挑战但前景是光明的

而且呢我们人类很快就会与 AI 来合作帮助我们完成比没有 AI 时更多的工作最终呢我们每个人都会拥有一个个人的 AI 团队这个有点像这个个人助理啊以及不同领域的虚拟专家来共同创造几乎我们任何想要或者想象中的任何的东西那我们的孩子呢也可以拥有自己的虚拟老师

他们可以以他们想要的任何速度和任何科目和任何语言来提供个性化的指导我们可以想象类似的未来这种 AI 技术能够改善医疗保健创建人们各种想要的任何的软件有了这些能力之后他相信就会给社会带来共同的繁荣接下来他又从技术路径的角度

阐述了他对于如何发展成超级智能的这样的一个技术到底是什么所以他认为最好的方法就是深度学习

他可以用 15 个词来形容哈指从英文的角度他说深度学习是有效的并且可以预见的是随着规模的扩大深度学习会变得更好那我们也为其投入越来越多的资源所以这个还是从 Skelling Law 的角度和本身深度学习有效的角度那 Sam 给出了总结

他认为从这里开始通向智能时代的道路必然会由计算能源和人类的意志所搭建的所以这个时候他把人类的意志已经和计算以及底层的消耗的技术设施资源已经并行了所以他更多的是给他的所有的受众意义鼓励背后的逻辑是为了让更多人能够受益于 AI

他需要呢降低成本来建造足够的基础设施来避免 AI 成为少数富人的资源其实他自己就是富人他其实更多的角度讲是说那我们只有扩大更多的规模基础设施足够多成本才会低这个时候才不会让富人收益那其实呢这个时候我们大家可以自己想想这个里面的逻辑到底是什么哈

如果我们可以让尽可能多的人掌握 AI 那么他们就需要降低计算成本来采用更多的能源和芯片如果我们不建立这些足够的技术设施那么 AI 就会变成非常有效的一种有限的资源

这种资源容易引起争夺而引发一些战争并且可能成为富人的工具也就是说他背后的逻辑就是要让底层的计算资源足够多来降低成本让普惠到每个人这是 SAM 的一个态度

最大限度的发挥 AI 的好处就是最少限度的减少其危害虽然 AI 可能会改变目前的劳动力的市场但人类总是能找到新的创造和相互帮助的新方式社会也将继续的进步并专注于这些新的产业或者新的工作任务的诞生

所以他希望自己是一个点灯人如果一个点灯人能够看到今天的世界他会觉得说周围的繁荣是难以想象的如果我们从今天这个十点再往前快近一百年也许我们那个时候看到的这种社会的繁荣也是我们今天难以想象的

所以这篇文章其实并不长,其实 Sam 就是展现了他对于未来 AI 世界的这样的一个从时间维度,技术路径维度,以及形态维度,以及规模维度的一个总体的一个观点的一个表达,总体来说还是让所有的他的听众或者受众抱有一种乐观的态度。

其实我们回看 Sam 在早年的一些想法其实就能看到其实他的这种技术的乐观主义的信条早就进行了他自身体系的一个理论化其实更大体现了他类似于这种技术无读方式的一些想法他在 2021 年的 3 月份就写了一篇文章这个文章叫做万物摩尔定律

大家知道可能摩尔定律主要是用于定义芯片的发展速度的但是从 SAM 的角度讲他认为未来的很多的技术和整个的世界都将以摩尔定律的速度在前进所以在这篇文章中他开篇就讲了说除了农业工业和计算机这三次大的技术革命之外我们马上将会迎来第四场的技术革命就是人工智能革命

那在未来一百年所取得的技术进步将远远的超过我们首次人类比如说利用火或者发明轮子那个时候所取得的一切的成就那接着他又讲到了整个社会的人们变富有的两条的途径那一条呢是赚取更多的钱

第二就是可以让商品价格下跌下降之后这些实际上我们拥有的财富的购买力就增加了 SAM 认为人工智能是可以降低产品的价格和服务的这种成本的因为劳动力是供应链许多层面的一个主要的驱动成本

所以呢他在文章中也谈到这个标题就是这样说的说这个摩尔定律适用于一切那想象一下我们会来迎来一个什么样的世界那几十年以后呢那所有的一切内容包括住房教育食物衣服等每两年的价格就会便宜一般那其实呢他是把各种各样的这些我们的消费品啊

我们的资产都会用这种以商品价格下跌的形式来去表达而且它的速度是按照摩尔经理的速度在增长那他总结一下说这场人工智能革命是不可阻挡的

随着这些智能的机器本身帮助我们可以制造出一些更智能的一些机器这种创新将是地归循环的将会加快革命的速度也就是他这个时候他想到的人工智能机器是能够自我复制或者自我去加工一些更智能的机器的所以他认为说这样的革命之后将会带来三个关键的结果

第一是将为整个世界或者社会创造一个惊人的财富因为他认为 AI 能够带来足够多的劳动力那多种的劳动力价格也就会将所有的一些商品或服务的成本降至为零那价格将会低所以人们的购买力就会强

第二世界将会发生非常大的迅速的剧烈的变化所以我们要有对应的政策一些新的制度来去分配这些财富并使得更多的人能够追求他们想要的生活

如果他认为能做到我们上面的这两点就是一个是价格下跌二一个是我们同时有匹配的政策能够去分配这些财富他认为说我们能够比任何时代的人的生活水平都将会提高所以他觉得世界需要一个新的体系或者制度来去拥抱这种新的技术给社会带来的变化他要希望能够改变原来世界的运作模式

那原来的很多的大部分的税收也好这种费用也好那大部分来自于这种有价值的资产包括公司和土地的这种征税然后通过征税的方式再分配重新分配财富他希望这种的未来的社会能够有一些新的方式能够减少目前社会这种一个裂痕就是这种贫富不均的一种形态

那他谈到呢如果我们想要一个新的稳定的这种经济体系那需要两个组成部分那一块就是增长就是我们要有足够的这种增长经济增长能力二一个还有公平就是所谓的这种财富均等那经济的包容性呢其实包括这个公平性就意味着说每个人都有合理的机会来获得他们想要的生活的所需的资源

原来社会体系的增长一直是都为经济增长带来保障的

也就是说他奖励那些投资于我们真实的在社会劳动中创造财富的那些人所以我们现在社会中是一种采用了一种有效的激励的制度但这种激励制度的增长以后给社会整个带来的就是不平等也就是说有钱人会更有钱他们利用金钱可以创造更多的财富而穷人会更穷

目前现在解决这种不平等的方式主要就是通过收税再由政府来去再分配的方式而 SUM 认为未来的社会的重点应该是对资本而不是劳动力去征税并且这些税收将最终通过一种直接分配的方式分配给我们所有社会的公民换句话说就是让每个人都作为社会的一个类似股权的所有者

从直接的这种收益中获益他建议将所有 18 岁以上的公民都将获得每年一种分配或者以现金或者公司股票的方式存入他们的账户只要这个国家做得好每个公民都可以从这笔个基金里边获得更多的钱其实类似就是他把整个社会作为了一家公司而每个公民都是作为这个公司的股东而参与整个的分红

每个公民将会越来越多的享有经济自觉而带来的自由权利自治的机会贫困的这样将会大大的减少更多的人将有机会过上他们想要的生活这可能也是说在 23 年的时候萨玛他们参与创立的当时叫做世界币所干的这个事情

所以技术无多帮者就很容易和我们今天看到的区块链比特币或者 web3 元宇宙的这些热融者就走到一起因为我们后面还会提到类似的一些人物在这篇文章中他又建议美国应该推出一种新的美国股票基金制度这种是可以减少转型冲击带来的一种过渡的方法

比如说它通过律法逐步过渡到 2.5%的利率如果法律通过直日期如果 GDP 增长 50%以后 2.5 的全额税率才会生效但一旦进入 AI 时代以后它认为增长速度会非常快

那他就可以以后逐步的减少其他的税收所以呢他为整个的这个经济转型呢又提供了一个类似过度的策略就是把我这个全民的这个收入和 GDP 的增长进行了一个绑定如果他认为未来 AI 真的发展之后呢那其实这种绑定也可以减少那直接家家就可以这个每个公民都可以分红就可以了哈

所以 Sam 认为我们目前正在处于这种结构性转变的一个开端他认为说目前有一个难得的机会我们可以转向未来我们在这种转向的这种情况下来解决目前的一些社会和政治问题我们需要为不久的将来我们去重新设计一些社会的体系和这种利益分配的制度

所以他认为说如果今天我们的社会制度不转型那么今天社会我们面临着新的人工智能技术大爆发以后那我们可能会面临着农业社会或封建社会类似的一些失败

其实我想他还是讲到的说当生产力极大的提高之后必须有相应的制度就代表着必须有匹配的生产关系其实还是马克思谈到的类似生产关系要匹配生产力的这样的一个问题所以萨姆奥特曼已经在考虑某种脱离于目前我们生活的现实制度以外的这种新的技术乌托邦的类似的一个世界了你不能说他有理想

或者说是非常有道理但是这种本身他谈到的这些内容很多是超过了科技行业的牵扯到了方方面面至少他谈到的这些我们在人类的社会是没有实现过的也是需要摸索的

所以我们说像 Sam 这种技术乐观主义者可能当他想的过多之后谈到了整个社会的进步发展以及机制的时候他就有可能会变为技术的乌托邦主义者

SAM 的观点我们先讲到这里其实大家可能会经常听到 AGI 这个词就是通用人工智能这个词这个词是谁来推广和让大家了解的其实这个是我们想谈的所谓今天的第二位的 AI 的乐观主义者就是本格策尔

今天很多的媒体可能会把 AGI 挂在嘴边比如什么时候能够实现 AGI 或者实现了 AGI 会怎样怎样可能大多数人都不知道 AGI 具体指的是什么或者说每个人所理解的 AGI 也不太一样这个词的流行其实与本格特尔是密切相关的这个词虽然不是他第一次发明的

但是他在 2002 年左右呢他由他和先来个他们将这个词呢重新引入因为当时他们写了一本书就这本书是 05 年出版的叫做通用人工智能所以这个时候呢这个词呢后来其实被萨茅他们在各种场合或者通过 OpenAI 的推广然后让大众能够清晰的知道有这个词的一个存在

那他在 07 年的时候呢他就在谷歌技术的演讲中就谈到了他创建 AGI 的这样的一个方法所以他也成为了 AGI 这个词的这个推广者而且真正让大家其实出圈的只是在 ChatGPT 这几年出来之后通过 OpenAI,SumMultiple 的这样的一个反复的引用让整个业界所熟知

那本格瑟尔其实是一位跨学科的科学家企业家和作家他这个人呢是出生于巴西父母都是美国人他其实还在香港生活过一段时间那后来呢 2020 年他主要将运营的基地呢迁到西雅图附近的一个乡村岛屿上所以他现在的形象呢总是留着长长的头发而且经常戴一个有豹纹的这样一个牛仔帽四处演讲

他之前是 Singularity Knight 的创始人兼首席执行官这个项目就是利用区块链的方式来去分发人工智能数据所以你看这时候人工智能又和区块链关联在一起了本格瑟尔早期他是通用人工智能框架 OpenCog 的主要开发人员后来他成为汉森 Robotics 公司的首席科学家

这个汉森 Robotics 这家公司可能大家不太熟悉但是可能大家还记得当年有一个四处巡回演讲的一个女机器人叫做 Sophia 大家可能就有印象了哈

其实 Sofia 它是在 ChatGPT 出现之前的一个产物大家想象当时它通过传统的自然语言处理它的能力可想一半了但是 Sofia 当时它其实具有一个人的形象而且作为上一次的人工智能的兴起它更像一个网红四处演讲 巡游相当于给全世界引起了一个话题所以

所以他当时作为人工智能机器人当时还受到了一定的一个争议所以本格斯尔后来他就逐步发展成为一个超人类主义者现在他成为这个 Humanity 这个机构的非盈利机构的主席这个机构我们待会后面还会谈到

本格子对于 AGI 的热衷它体现在很多次它在对外的演讲中比如说 2023 年的时候它在巴西的一次网络峰会上它说它公开反对那些人希望遏制 AI 研究

他说我们已经距离 AGI 不过只有几年的时间了这个观点他和萨姆的观点很像他也相信通过 AGI 能够解决很多的问题例如气候变化社会治理等等社会问题可以给人类带来很多积极的影响

他未来的愿景是人类与机器相融合这个就是超人类主义的典型观点比如说人类的思维上传太空殖民等等他认为 AGI 将会远远超过我们当前所能理解或想象的一个能力将成为一种科学的未来魔法

我们在搜索资料中其实也看到虽然他相信 AGI 但是他和 OpenAI 经常谈到的构建 AGI 的底层的代言模型这种技术方式他并不见得完全认同所以格瑟尔在最近的一次访谈也谈到说代言模型只是 AGI 的一个组成部分甚至都不一定是通往 AGI 的必经之路所以至于什么是方

方式或什么技术能够通往 AI 的我想他也没有太多的谈过所以本格斯尔更多的现在是一种以超人类主义者的这种形态出现这个话题我们一会儿还会讲到所以这就是我们要谈到的第二位的 AI 乐观主义者本格斯尔

那接下来呢我们将会给大家介绍一些今天最主要的我们的第三位的这个乐观主义者就是风险基金 A16Z 的联合创始人马克安德森那马克安德森是谁呢其实他是网景公司就 NASCAVE 的创始人后来呢他和朋友共同成立了风投基金 A16Z 那目前呢也是身家过亿身家差不多 17 亿美元

他为什么被认为是一个技术乐观派的一个典型的代表人物呢主要呢是因为他发表了两篇文章一个是在 23 年 6 月份他发表了一篇文章叫做为什么 AI 能够拯救世界当时的传播度非常广

以及在 23 年的 10 月 16 号其实他是代表很多技术的乐观主义者发布了科技乐观主义宣言那这篇宣言也正好代表了当时很多技术乐观者的一个主流的一个思想所以我们才说马克·安德森现在目前是技术乐观主义者的一个最主要的代表人物

我们首先看一下他在 23 年的 6 月 6 号发表的这篇文章就是《为什么 AI 将拯救世界》它里面体现了很多的观点但是其实它是在驳斥那些防止 AI 发展的一些主要的这些论调的这些人

首先他讲到了 AI 和一种普通的计算机程序其实是一样的它由人创造并由人来控制其实 AI 跟你电影里面看到的那些场景什么杀人机器人什么软件杀手其实完全是不一样的所以他首先否定了我们在上次节目中谈到的关于 AI 末日轮的这些观点

而且他从历史的角度谈到了说我们人类几千年的文明都是由我们人类的智慧来创造的它其实就是改变我们今天世界的杠杆人工智能恰恰是为人类的这种智慧提供了一个增强的机会所以说当然会对我们未来的美好世界会带来更好的一种场景

所以接下来他也规划了一下未来美好的场景例如 AI 帮助孩子成长 AI 的教练 讲师 导师 顾问每个科学家都可能会有对应的 AI 的助手或者伙伴管理者或者领导者也有了

这种 AI 的帮手最终整个的经济会随着生产力的提升会加剧的增长科学的突破新的技术药物也会继续扩展创意的这些艺术也会进入黄金时期同时通过大幅降低死亡率来改善我们今天的这样的一个生活水平总体来说就是说他觉得未来的所有的

这种人的生活经济政治医疗教育等等的都会由 AI 的带来能够创办出一个新的世界并且事实上甚至能够实现比如未来的星际旅行所以他首先是为人们规划了一个这样的一个美好的场景同时他有谈到说对 AI 的这种所谓道德恐慌其实是非理性的

就是我们其实在那些悲观者里面我们能够看到这些想法那这些人呢其实是呼吁采取正式行动的比如制定政策对 AI 的限制啊法律法规啊所以呢从他的角度讲呢他认为这些人呢其实是在某一种进行一种这个道德恐慌的一种宣传或者在占领某种道德的高地把

这些人更加描绘成为公共利益的无私的捍卫者他也举了个例子这件事情和在 1920 年代美国禁酒的例子当时出现的一个情况是非常像的所以在禁酒的时候当时就出了两类角色一类叫做亲近会

一类是私酒贩子所以曾经有专家和学者就对这两类人进行了一个对比当时你比如说这个清津会的教徒就指的是那些说必须基于道德和伦理我们必须要支持公共利益表现出非常高尚所以他们在禁酒令的时期清津会就反对酒精的生产和消救认为酒精是对社会有害的

而另一类人就刚才我们谈到的一些私酒贩子他们代表了一些支持这些基于经济利益能够来保持社会行动的这一类人

尽管他们的行动可能并不道德但是呢私酒贩子在禁酒令期间呢通过非法的制造或销售酒精来获利那事实上呢他们是希望禁酒令是继续存在的因为如果没有禁酒令他们可能就没有这样获利的行为正是因为有了禁酒令才会导致了这样黑市的一个行为所以呢看起来金金会是来支持禁酒令的但事实上真正从禁酒令中获得收益的是这些

所以当时的那篇文章就会谈到金静慧是天真的理论家而这种私酒贩子是愤世嫉俗的经营者所以我们有时候想通过改革来朝向一些的方向但反而成了这些私酒贩子获得了他们想要的东西

所以在清津会的某些时间中虽然他们是真诚的但是他们相反也被这些死囚犯的所操纵所掩护了所以最终这些清津会的这些会员所谓追求真理追求高尚的这些人最后他们的一些行为是却显得非常的离谱

所以这两个名词就来自于美国经济学家叫布鲁斯亚特他提出的理论就是用来解释某些政策法规如果在不同的动机的驱使下它其实对社会的受益群体是不一定的

所以他反过来就讲说今天我们对于 AI 的这些限制难道是真的在保护我们的群众吗没准是保护了一些所谓能够利用 AI 的人能够获取利益的这样的一个信息所以这个从马格安德森的角度讲呢

他正是一个和传统的我们讲的这种民主党或者左翼尤其是硅谷这一类的人的思想是有些区别的因为传统的左翼政府特别是像民主党强调这种强奸馆这种大政府一般讲共和党右翼它是体现了这种推崇自由的小政府而传统的硅谷大部分它是左翼的意见持有者

所以马克安森在硅谷也算是异类所以目前现在美国正在大选一般来讲硅谷它是代表了一个左翼的阵营支持民主党的人比较多

但是事实上对于马卡德森来讲他是支持特朗普的这个也是后来马斯克的政治导向很多的硅谷人风向的转移的一个比较代表但他背后是什么动机我们这里不做讨论但是从至少他那种官方表达的这些文章和思想来看他是非常推崇像自由化像这种 AI 自由发展这样的一个前途去方向发展的

我们接下来再说他对一些反对者提出的五大的 AI 风险进行了回击这些也是我们在前面很多谈到这些反对派的一些声音我们首先看第一个反对派会说 AI 可能会杀死我们所有人这一点其实是来自于反驳那些 AI 的末日论者他认为其实 AI 并不像动物或者我们那样经过十几亿年进化而存在的这样的一个生物体

其实马克安森认为他还是有数学代码计算机和人类建造人类拥有的人类控制的这样的一种计算机的一个产物所以他认为反对者的这些立场其实更像于科幻电影他本身是不科学的所以他有没有可检验的假设条件呢那他可以被证伪吗因为我们知道可以被证伪的才叫科学那你知道什么时候会进入危险区吗

如果你对这些都无法阐述的话那你就是提出了一种恐慌的一种思想并不是一种科学的理念所以呢他对此提出了三点回击第一类他说这些反对者的言行不一致说一套做一套虽然你是在抵制但你也在研究比如说最早像马斯克也是最早抵制 AI 那其实后来他自己的这个公司也在做大模型啊

第二呢是说所谓的这些 AI 安全专家 AI 伦理学家包括 AI 的风险员他们本身这些就是他们的职业他们必须要这么说呀否则他们不这么说那他们的价值在哪那他们不是丢了饭碗吗所以他从这个角度讲说这些人的这个讲法是更加荒谬的第三呢说其实美国现在包括他说加州有很多的邪教这些人呢经常讲一些的内容非常的引人入胜啊

并且天马行空这些人经常聚集活动互相洗脑所以这些人的想法也是在社会产生确实你不能排除在美国有很多这样的类似的邪教组织所以带动了所以他通过三点的驳斥他首先驳斥了第一个观点就是说是不是 AI 会杀死我们所有的人类第二个他驳斥的奉献点就是说 AI 是不是会毁掉我们的社会呢

因为这些有一些 AI 的行星者或者专家会说说 AI 破坏了人类的这种价值观道德和人类伦理所以这一类的现在的名词叫做 AI 对齐上期我们谈到的节目里谈到的比如说伊利亚 苏斯维克 约束亚 本吉奥这些都属于超级对齐主义者

安德森在此反驳道说他们到底想与什么样的价值在对齐呢人类价值观谁是人类的价值观呢谁又能代表人类的价值观呢

其实他说早年间在互联网社交媒体刚刚爆发的时候其实这样的事情就发生过当时有很多所谓来自政府或者一些社会活动人士给予当时所谓互联网媒体与巨大的压力他们希望能够在这些互联网平台能够禁止限制审查或者以打压的方式来消灭掉很多内容

他们的攻击对象当时就是这种仇恨言论或者是当时认为他们平台有一些所谓算法偏见或者错误的有害信息等等现在这些人又把这些所谓类似的担忧的这种话术从互联网又转移到了人工智能这个新领域

所以呢他说一方面不管是人类或者 AI 都不存在着绝对的言论自由啊所以你人就不存在哎所谓的绝对的价值道德观那 AI 也不一定存在首先这是他第一个点那第二点呢他认为人类和 AI 自由表达言论也是必然会形成的这一点呢就跟他支持这个互联网上的言论自由表达其实是一样的他说这种表达呢并不存在什么问题啊

而且他说这种人希望通过这种控制言论的这种思想是极为傲慢和自以为是的也就是他在否定这些所谓的超级对齐者他们想要的这种一种所谓跟人类对齐的这种方式所以他说总之不能让这种类似用警察的思想来压制 AI 的发展所以这是他对第二观点就是说 AI 的这种价值观或者言论是不是会毁掉人类的社会

那第三呢就是大家经常会恐慌的就是说 AI 是不是会取代我们的工作吗其实是自从工业化以来和数百年间人们对于这种机械化自动化计算机化对于导致这种失业的恐慌一直是反复出现的当然这次也有人说说这次人工智能是特殊的啊

也许我们可能会拥有真正的这种类似 AGI 这种超强的人工智能也好最终取代了所有的工作并且让人类看起来可能是一个多余的生物其实这种自动化扼杀人类就业的这种说法其实很早就有而且这类的想法有一个专有的名词叫做劳动力谬误

劳动力谬误呢也经常被称为就业谬误或者叫固定限谬谬误或者叫零和谬误其实在 1891 年就有经济学家戴维弗雷德里克施洛斯就曾经提出来这个谬误其实这种劳动力的生产效率的提高由于移民或者自动化会导致失业率的上升其实就指的是这种谬误哈

我们可以看到其实类似 AI 或者自动化和当时那个年代的移民是一样的其实那时候反对者就会说如果你一个国家吸收了太多的移民那这些移民会取代原来国家中的一些原有的劳动力就像我们今天用 AI 来替代劳动其实是一样的但其实最终的事实并非如此

因为如果就业或者经济中的就业环境如果就业机会它是固定的可能会产生这样的问题但事实上由于引入了移民或者自动化或者 AI 也好从而使得新的生产力或者新的就业机会而产生了从而创造了更多的就业的机会其实大家听起来是不是这个观点和上期节目中阿西莫格鲁的观点很像就是说

如果你的 AI 朝向的方向是带来新的就业机会那其实它是良性的

所以这个是在原始的劳动力谬误里边所谈到的关于就是新的生产力的这种活力能够增加就业机会的这样的观点但事实上在这篇文章中马格安德森他讲到的其实跟我们刚才最早提到的奥特曼的观点其实很相似就是由于技术来带来新的生产力而导致商品和服务的价格下降从外而反向

意识意味着工资的上涨那反过来就会导致经济的增长和就业的增长同时刺激了更多的就业机会和新产业的创造如果说市场经济能够正常运转的话那么允许这项技术的自由的引入那么将是一个不断循环向上的这样一个过程

所以这是马卡安德森的观点如果真的出现了所有的现在劳动力都被积极取淡那就意味着说我们的经济生产力的起飞速度达到了一个非常惊人的高度还远远超过了人类的历史的时期那么所有的商品价格都会下降而且几乎降为零所有消费者的福利将会

突飞猛进的在增长啊那消费者的消费能力也会飙涨所以这样的话呢社会中的各种新的需求又会爆发啊从而产生了这种呃令人眼花缭乱或者我们现在已经预测不到的这样新的产业啊产品和服务所以呢这是马克安德森在文章中谈到的主要的观点来否定关于 AI 是不是会替代人类工作的这个谬误啊

第四就是说有人会认为说 AI 是不是会带来严重的不平等这个也是我们在上期节目一些经营者里面谈到的人说认为科技掌握在少数人的手里从而加剧了社会的不平等

但是马克安森认为如果作为一项技术的所有者如果只是把技术留在自己的手里只为自己来创造利益其实这个并不符合这些技术所有者自身的利益的因为对他们来说他们是希望把这项技术能够出售给更多的这种用户来去使用

所以对于任何产品来说整个世界才是最大的市场让地球上的 80 亿人都来获益其实对他自己才是最有利的并且他指出说在现实中其实看到每一项的新技术最早都是给这些所谓有钱人或者高薪人或者富裕阶层去使用后面就会逐步扩散然后最终弥补或者是普及到大众的市场里边

包括我们过去看到的像汽车电力计算机互联网手机等等类似确实是有这样的一个总体的趋势的

那这些技术的生产者呢都是非常积极的愿意去推行这样的技术而且愿意用把这个技术的价格去降低让更多的人都能负担得起啊所以我们可以看到其实我们今天看到人工智能领域这些事情呢其实正在发生啊并不是因为这些供应商的这个愚蠢或者慷慨那恰恰反过来是因为他们贪婪他们希望啊

占有更大化的这个市场规模最大化的利润所以呢才会去降低产品的价格而且他认为这种产品价格降低其实这不是不平等这是为整个社会带来了平等让每个人都能公平的去或廉价的去使用这项的技术

所以他也同时解释说其实不平等是我们的社会问题但这个社会问题它并不是由 AI 或者技术来去造成的它恰恰是由于在政府的一些经济部门一些政府的一些干预一些资源的垄断从而导致了我们在使用技术的时候或者我们在消费某项东西的时候它的不平等比如我们的住房教育医疗保健等等

恰恰不是因为技术而导致的而技术是可以为人类制造更加的平等所以这是他的主要观点也就是他去驳斥所谓的 AI 是不是给社会带来原生的不平等的问题

第五是不是说 AI 会不会导致说被一些坏人所利用然后做一些恶然后来对社会产生更不好的这样的一个情况马卡恩森认为基础其实是一种工具从最早的火和石头一样工具就可以用来做好事你可以做饭建造房子你也可以用来做坏事比如说打人或者烧伤人任何技术其实都是这样的

那 AI 制造的这些技术呢其实它也不像说我们说那个原子弹啊这些这个稀缺的一些物理材料其实它就是世界上最容易获得的材料比如说这种算法呀计算机的代码所以他认为呢有两种比较直接的方法可以解决说所谓坏人利用 AI 做坏事的这样风险第一呢他说我们现在已经事实上已经有了很多的成文的法律

也就是说他背后讲的时候就不需要为 AI 单独去制定法律如果有人利用 AI 做了坏事那其实是可以被定罪的并不是说他就会逃之夭夭如果坏人使用了 AI 那么执法人员就应该

也应该去使用了 AI 去对付他们要否则的话那敌人有了更好的武器如果你的这个执法人员你没有然后那你怎么去来防范或者控制他呢所以呢首先他还是在讲说那不管是这个什么人或者是我们更好的说执法人员那也应该去使用 AI 这样才能来对抗这些坏人

那第二呢说我们应该努力的把 AI 运用到比如像这些网络安全啊生物防御追捕恐怖分子以及保护我们自己这种社区或者国家的安全之中就还是讲说那我们应该最大化的去使用去 AI 而不是说去制定一种政策来控制 AI 的这个使用所以这样的话呢

马卡恩森他就是否定了或者是反驳了上面的 5 个主要问题第一个 AI 杀死人类第二个 AI 的价值观毁掉社会第三个 AI 替代人类工作第四个然后 AI 导致社会的不平等第五个 AI 被坏人利用这就是他在文章中主要驳斥的 5 个问题

那在文章最后呢他谈到了大家需要做什么比如说他认为这些大型的 AI 公司呢应该快速的或尽可能的去建设这个新的 AI 系统而且呢他说应该避免那些所谓由于所谓提出 AI 风险或声明那形成了一些所谓正无保护的一些 AI 的公司就是只允许少数的 AI 公司去构建 AI 而不允许其他公司去构建的这样的一个情况存在

另外对于初创公司他认为说所有初创的人工智能公司也应该被允许尽可能的或积极的去建设 AI 另外他在开源的角度讲应该允许开源 AI 的这种自由扩散并且能够与大型的 AI 公司和初创公司形成这种有效的竞争机制

还有通过正企这种协作来抵御坏人利用 AI 做坏事的这样的风险政府应该尽可能的与这种私营的这种企业或者部门进行合作积极参与到各个潜在的所谓的风险领域中利用 AI 来最大限度的提高这种社会的防御能力在文章最后他也做了一些总结他谈到说人工智能的发展从

1940 年代开始它几乎是与计算机的发明是并行存在的第一篇关于神经网络的科学论文发表于 1943 年整整过去了 80 多年的这样的一个时间整整一代代的人工智能的科学家出生上学工作或者很多人可能在没有看到这一切的时候就已经去世了

他们都没有看到他们所应得的这个回报所以他认为说他们每一个人都是传奇那么今天呢越来越多的所谓的工程师或者科学家或更多的年轻人有机会参与到了这种人工智能的这样的一个创造的过程中那应该努力使人工智能成为现实并且应该反对那些散布恐惧或者谣言的这些人或者这些想法

那这些人呢他们想把这些从事人工智能科研的这些工作者描绘成坏人但事实上呢他们每个人都是一个真正的英雄所以呢马克安德森和他的公司呢非常希望能够支持他们百分之百的和他们站在一起所以这就是马克安德森关于为什么 AI 能够拯救世界这篇文章的一个主要的观点

那事实上呢他在四个月之后也就是说 23 年的 10 月份他又发表了一篇所谓叫科技乐观主义宣言的这样的一篇文章这篇文章里面呢他其实没有讲太多道理了因为刚才那篇文章他可能已经把道理都讲完了哈那这里边呢他更多的是用一种宣言的方式来告知世界他们的结论是什么

在宣言里首先谈到了谎言,那什么是谎言呢?他认为技术夺走了我们的工作,降低了我们的工资,加剧了不平等,威胁了我们的健康,破坏了环境,降低社会水平,腐蚀孩子,损害人性,威胁未来,其实这都他认为是说人工智能别人给我们说的一种谎言。

真相是什么呢我们的文明是建立在技术之上的技术是人类雄心和成就的荣耀是进步的先锋是我们实现未来的一种潜力所以我们每个人都应该成为一个技术乐观主义者后面他又谈到了技术技术如果我们停滞就意味着零和思维内部斗争退化崩溃最终导致死亡

那增长未来只有三个源泉一个是人口增长第二个是自然利用第三个就是技术但是他认为前两者呢现在目前都已经受到了一定的限制那所以技术的增长是成为永恒的源泉也是世界的杠杆所以呢那他就意味着说我们每个人都想用技术乐观主义的态度然后来去推动技术的成长

接下来他又谈到了市场他相信自由市场是组织技术经济最有效的方式在这个过程中自愿的买家与卖家能够相遇达成价格然后最后双方从里边获利所以他认为市场是一种最好的调节机器

又谈到了技术资本机器他们相信市场和创新驱动的技术资本机器是无止境的成螺旋式的上升状也就是说其实说在这个过程中呢

他们要通过价格向跌来释放更多的购买力来创造需求并且让所有的消费者多到好处而且人类的需求是无尽的企业家不断创造新的产品服务来满足这些需求

接下来他又谈到了智能他认为智能是进步的终极引擎能让一切变得更好而且智能也是螺旋上升的首先说全球越来越多的聪明人将会被裹挟进刚才他谈到的技术资本机器来参与到这种新技术新智能的研发过程中另外他也认为说人和机器能够形成一种共生关系创造出新的控制盾系统

第三说人工智能能够增强我们的机器和我们自身的能力然后未来人工智能就成为现代的炼金术也就是我们的点金石让沙子能够思考所以人工智能应被视为通用问题解决的一种主要方式它也能拯救生命

接下来他谈到能源说能源即生命我们相信说我们应该让能源更加充沛所以能够养活更多的人所以他们期待着第二个能源突破就是隔空的核聚变还有他谈到丰富我们应该将智能和能源放在一个正向的反馈过程中并将它推向极限

然后我们的真正富裕程度的真正衡量指标就是说这些能源和智能的价格在充分的下跌而且最后他还谈到说我们不是乌托邦主义者但是我们足够接近乌托邦他希望满足的是一种叫受限的愿景

因为传统的乌托邦它最早在 19 世纪就出现了谈到资本主义社会混乱然后所以会有一些所谓的乌托邦的社会主义分子谈到主要是类似废除货币商品平等等等的这一些就是超脱于现实生活的这样的一个社会思潮但事实上在 2022 年一名经济学家叫做拉德福德·德龙

他写了一本书叫做延伸乌托邦 20 世纪的经济史里边的书中的核心观点就是谈到了说 20 世纪人类历史上独一无二的也是人类的首次通过工业化和科技进步和全球市场的结合真正能够消除市场上这种物质匮乏的这种情况来迎来一种这个由于技术而推动的这种经济繁荣和人类依然没实现的乌托邦

这是一种所谓的新型的乌托邦的社会来最终通过技术来实现出普遍的幸福和社会公正所以这里边讲到的乌托邦其实就是我们在后面要讲到的所谓技术乌托邦主义者他和传统的乌托邦是比较大的一个区别所以在这篇宣言中

马克安德森才会谈到说我们不是乌托邦主义者但是他们也是相对的一种所谓在受限愿景下的乌托邦的追随者

后面在宣言中他会谈到说我们人类应该成为科技超人相信通过有意识系统化的方式将自己塑造成推动技术进步的人这里面对于人的培养不仅意味着我们将受到更多的技术教育还包括每个人的亲身实践使用技能以及在团队中的一些领导团队

我们相信技术和工业的这种浪漫崇尚冒险主义精神将去一起铸造这个未来所以这里面在宣言中讲的还是雄心壮志的哈

后面还谈到所谓的技术价值就是相信雄心进取坚持勇气自豪自信和自尊崇尚思想自由言论自由和探索自由拥抱差异相信风险个人主义坚决拒绝怨恨这是从技术价值角度讲

还有从生命意义角度讲技术乐观主义是一种物质的哲学而非政治哲学它既不左倾也不右倾而是聚焦于我们真实的一个物质世界这种理念从技术角度讲它具有解放性它能够释放人类的潜能解放人类的灵魂与精神扩充了自由的范畴所以在技术乐观主义看来技术开启了人类意义的新维度

后面还谈到了敌人说敌人不是坏人而是坏的想法敌人是停滞反卓越反雄心反奋斗反成就反伟大是某种国家主义权威主义集体主义和中央计划主义是一种官僚主义所以这里面谈到的是说我们应该从宣言的角度应该抵制哪些思想应该遵循某些原则

最后谈到了 future 就是未来宣言中说我们从何而来我们的文明建立在探索发现和工业化的精神之上我们将去向何方我们正在为我们的子孙后代创造一个怎样的世界是一个充满恐惧内疚和怨恨的世界还是一个充满雄心丰富和冒险的世界他们相信我们有责任保持乐观因为未来是开放的而非预设的

我们对未来都负有责任都有责任为创造一个美好的世界而奋斗所以他鼓舞大家是成为一个技术乐观主义者了需要开始创造了

那听起来真的是一堆豪言壮语就是鼓舞所有人应该加入到技术创新的这样的一个氛围当中而且亲身去实践所以马克安德森所发布的这种技术乐观主义宣言体现出整个在科技行业里面封建投资人的一些乐观主义精神但这个确实也是他们的生存之道因为没有这么多技术创新

这样的勇于开拓的技术前沿的人他们的这种投资或者风险投资也没有人去投所以我们可以看到基尔马格安德森他本身就是技术跃进的最大受益者所以他在不断的宣扬这样的技术乐观主义精神

我们其实回到最后我们总结一下其实技术乐观主义者大概可以分成三类第一类就是单纯的技术乐观就是相信技术不断进步可以解决一些我们传统的一些问题

第二类像马甘德森也好奥特曼也好他们都具有一些市场的乐观主义精神就是技术将带来价格的走低而增加所有消费者的这样的一个财富从而带动市场进步也就是技术它解决了很多经济上的问题

而第三类的这种技术乐观主义者他会上升到对社会进步的一些建议和设想那成为了制度的乐观主义者那就是说技术的这种美好会带动整个在政治经济文化各个方面的一个影响所以我们才说他更像一种技术无多邦主义者

我们前面谈到了这些人大部分都属于一个典型的技术乐观主义者那技术乐观主义者在后续的演化分禁中就分成了两类一类是技术的乌托邦主义者另外是超人类主义者所以这个里边一些具体的区分和一些典型的人物我们将放在下期节目再来谈所以这期节目我们主要介绍的就是技术乐观主义者的这些典型代表

今天片尾给大家带来的是摇滚乐队 Fall Out Boy 这支乐队为动画电影超能路战队也就是我们大家都知道大白那个形象的那部电影他演唱的主题歌曲叫做 Immortals 不朽者

超能陆战队改编自漫威的一个 1998 年的一个同名漫画在这个故事里出现了一名医疗用的机器人叫做大白后来被改造成一个多功能的机器人成为了电影中的超级英雄所以从这一点来说我们看惯了很多所谓技术末日论者的那些观点其实这个电影最好的体现的是技术乐观派的一个观点的一个体现

好今天的节目就到这里如果您对节目感兴趣也希望您能评论订阅和转发好我们下期再见