AI 狂飙的时代，人还有价值吗？
01:37:06 Share

大家好我是木遥上一周我跟不合时宜的主播庆一起录了几部课关于 GPT 和人工智能大圆模型的发展包括很多它会带来的社会议题我们录的时候我当时就有一个担心说我不会录得太仓促了因为这个领域发展得太一日千里了但这种事情你也不能永远等下去所以我们上周录了在我们录的时候

我还不知道这周又会发布 GQT 的插件系统这会极大的改变这个生态所以我们当时在录音的时候我很谨慎地说也许有一天 GQT 可以做到实时的处理更真实的数据源的信息我当时以为那会至少是半年一年之后但结果事实上就是几天之后

但除此之外,我觉得那个录音里面的大部分内容还是比较反映现在的真实情况的。我们那个录音讨论的很多问题其实不是技术性的,而是关于它的社会冲击,关于它的文化影响等等。我觉得这个角度可能是,我觉得比较有意思,但也讨论不够充分的一个角度。

所以我把这个录音也从清德要了过来放在我这边因为大家也知道 1157 真的已经很久没有更新了最近的两个月啊我正在香港中文大学放学

也为那里的同学们开设了一个工作坊主题是关于如何提问就在我们上课的这几周时间里 ChatGPT 以迅雷不及掩耳的速度进入了大众的视野我在课上也与同学们进行了讨论以上声音便来自于课堂的原始录音

有人讲在 XGPT 的时代会提问可能比会回答更加重要那在今天的节目里我们就请来了一位懂技术也懂哲学的老朋友围绕着关于 XGPT 的许多迷思展开了讨论

今天来跟我一起做这期节目的还有我们节目的一位老朋友是这个人在纽约的穆瑶老师那穆瑶老师那边现在是周末的早上大周末的早上起来跟我们聊天那穆瑶老师先跟大家打一个招呼吧大家好我刚起床我不知道我的状态是不是能够应付这样一个

还挺费脑子的话题但是我尽量好了这其实是穆扬老师来我们节目做客这么多次以来好像应该是第一次有提纲的录制所以其实我也有一点紧张因为这个话题真的有一点不明觉厉啊

我们今天其实想要聊的是最近比较火的 ChatGPT 的一个话题这个话题在社交媒体上包括在各个行业里面吧感觉好像也火了一阵子穆雅老师呢作为中文世界里面一直在对这个话题保持输出的人过去这段时间就我们也一直是有在看她的微博

中间也聊过几次但之前的时候其实也没有在我们最开始一提议要聊这个话题的时候就欣然答应但现在可能觉得这个还是得出来说点什么于是沐阳老师来跟我们录了这期节目你要不要讲一下就是这中间的一个历程对这个话题火起来应该是在我印象里是在 2 月份当然《差点 GDPT》本身是去年年底就出来了

然后当时若涵跟我说要不要来聊一期我说先等等主要原因是我觉得第一他有点话题本身每天都有新的进展很多事情还不是特别确定

第二是我自己有很多想法觉得需要沉淀一下那现在已经又过了一个多月我觉得很多想法稍微固定了一些所以可以开始比较放松的聊了若涵此刻正在写论文然后他说他在用那个 XGBT 来搜索文献对而且顺便说一句很多人都抱怨过 XGBT 写文献会经常诱惑你犯错误因为它其实经常骗人我们待会会讨论这个问题肯定就是怎么面对 XGBT 骗人的问题

这个话题本身热度我本来预期它到一个月之后会降一点但是也没有因为刚过去这一周 GPT-4 的发布和微软的那个完全建立在大语言模型上的新的 office 发布又把它推到了一个新的热度高峰上所以很显然它还会再热一阵儿

如果大家很多业内人士预期正确就是这个事情真的是一个所谓新的工业革命的话那它可能还要再热很久我们会看到对 其实就在今天录制之前我也在微信上刷了一刷然后我看到就是昨天被分享的很多的一篇文章这个标题我给你念一下感受一下这个焦虑的程度

叫微软深夜放炸弹 GPT-4 Office 全家桶发布十亿打工人被革命这类型的标题在过去这段时间里面已经可以说是屡见不鲜吧那媒体在写作的时候大家是会希望说通过这样的一些标题去

吸引更多的流量但另一个方面呢我也从穆亚老师这个微博当中感受到这一次如果仍然去说 XGPT 它取得的这些进展什么都不是这个其实也是一个很有误会的一种解读我得承认了就是我自己对 XGPT 的这个了解其实也还蛮有限的简单的就是玩过几次我这学期其实是在香港中文大学就是做访学嘛然后我正好在给这边的学生在开一门课程

然后也是在我们这个上课的过程当中 ChatGPT 在中国媒体上就是一轮又一轮的刷屏比如说像我们新闻业大家就会担心说那码字这件事以前的时候可能还算是一个智力活但是现在 ChatGPT 出现了之后有亲自玩过的话我觉得是会惊讶于它的这种潜词造句的成熟的程度

那当然它有些问题但是我觉得当它以这种就是一个高度智能化高度女人化的一个形态就出现在大众面前的时候是会产生很多的焦虑所以这学期我也在课上组织我的同学们就聊了一下这个话题

过程中也有一些问题吧所以今天也会挨个的可能跟穆瑶讨论一下那我就从一个非常纯文课生的这个角度提出一些比较基本的问题希望能够回应到可能我们这种普通大众吧对于这个问题的一些疑惑那我觉得先从这个问题开始吧就是我知道你这几年其实一直都有在关注 AS 相关的一些技术的发展然后也在社交媒体上有做一些分享那

你要不要就是先跟我们分享一下你最开始接触到 CHATGPT 大概是在什么样的时候然后是在一个什么样的场景我

我可以简单的梳理一下这个 GPT 的发展我不想把它变成一个像科普一样的严肃讨论但是我觉得理清一些时间线可能对大家了解这个事情有帮助顺便说一下你刚才描述的那种心理就是一部分人非常焦虑然后另外一部分人可能会有一点不屑一顾甚至怀疑这个媒体是不是过度炒作了

包括那些震惊式的自媒体是不是在故弄玄虚我觉得都是非常真实的反应我们待会也可以展开讲讲我觉得遗憾的就是大家可能视角不够完善的部分在哪里但是我先回答你的问题就是这个时间线的问题

TED GPT 不是第一代 GPT 很多人可能知道它背后那个技术叫做 GPT 3.5GPT 这个大圆模型本身进入可能研究者的视线是两三年前但是它第一次比较成熟应该是说 GPT 3 但是 3 的时候还是更多停留在业内跟一般的大众没有什么关系

然后 ChatGPT 作为 3.5 的一个推向大众的 demo 版本一下子引起了普通人的关注这是在去年年底的时候我在去年年底的时候发过一条微博我说我觉得以后历史的书上会记载 2022 年最重要的历史事件是 ChatGPT 的发布而不是俄乌战争当时很多评价是觉得完全莫名其妙怎么可能但我觉得今天可能同意这个说法的人会多一点

然后前两天大家也知道 OpenAI 推出了 GPT-4 这个版本号听起来有点琐碩有点像我们说 iPhone13 14 15 一样但其实不是因为碰巧是在 GPT-3 和 3.5 之间它的能力发生了一个飞跃

这个飞跃使得 GBT 3.5 一下子冲破了我们之前认为大语言模型不太可能冲破的一些限制使得它到达了一个新的高度但也正是因为这个突破本身非常新它发生在过去的一两年内它没有进入大众视野大众也不太了解这个飞跃的实质和它的影响所以很多人可能还在用一种比较过时的眼光来看待这个大语言模型所以对它会有误解

这些人不光是一般的老百姓包括一些非常知名的人士我相信庆肯你知道两周前乔姆斯基在纽约时报上发表了一篇文章他的主题就是这个东西没有什么大不了的

但这篇文章发表出来之后呢就被基本上被业内人群嘲大家觉得真的是连波浪蚁原因不在于乔姆斯基本人的语言学观念是不是正确原因在于他对这个新技术明显停留在一个过时的认知上他中间举了一个例子说你看 GPT 是不可能回答什么什么什么问题的但是事实上呢你只要打开 GPT 试一下就知道其实是可以的

所以我觉得要理解蔡志斌这个事情需要了解过去这个时间线特别是黄河那个飞跃是什么简单的介绍一下这个事情为什么大家过去觉得这个事情是有限制的而今天发现它的限制被突破了

大圆模型传统上被认为是一个统计模型什么是统计模型呢就是很多人可能听过这样的描述它的工作机理是你给它一些你说过的词然后它根据它在语料中学到的统计相关性来预测下一个词是什么这个机制听起来过于的简单粗暴和无聊以至于很多人觉得这怎么可能描绘人的大脑的工作方式我们大脑又不是这么简单的机理你看了一百万个文本

然后你记住每一词后面有可能跟哪些词然后就这么说话这不是我们思考的方式对不对也正是因为如此很多人对这一类统计模型的能力的上限事实上一直以来是低估的直到 3.0 为止它确实表现的就像是一个统计模型它能够说出一些比较像是人说的话的话但是呢你说它有意识好像还不至于那

那从 3.0 到 3.5 中间发生了什么呢发生了一个新的飞跃这个飞跃是因果链条能力的建立我以前在微博上写过这个事情什么是因果链条呢就是它可以做一些推断性的事就是它不只是说我通过前一段词来推断下一个词是什么而是说我能进行一些类似于逻辑上的思考

比方说你给他说我把一个香蕉放进一个纸袋子里面但我又从这个纸袋里面取出一个苹果这说明什么事情如果你只是从字样上的概率你是很难想象这段话的下一个字样最大概率是什么的但是我们有逻辑我们就可以想说这是因为那个纸袋里面本来就得有一个苹果对不对

这个事情是逻辑上的想法它不是单纯字词上的相关性导致它需要你对这个纸袋子是什么东西然后为什么香蕉进去苹果出来有一点特殊性它反映了什么问题你需要有一个世界知识在后面这个东西传统上大家认为在语言模型的限制之外

但是从 3.5 开始大圆模型可以回答这类问题了它可以建立这样的因果链条了那这个飞跃很大程度上是出乎人们意料的事实上它为什么能够做到在今天仍然是研究领域的一个热门话题就是即使是 AI 的研究者也不是百分之百的理解它为什么能够做到了

但是越来越多的实验表明它真的可以做到关于这个领域的论文如果有感兴趣的专业的读者可以去搜就是所谓的思维链条的这个领域它是过去两年的一个非常非常热门的领域

因为这个领域的出现使得从 3.5 开始语言模型一下子变得成熟起来了不管他怎么做到的吧至少他有了一个好像是世界图景在他脑海之中的时候他跟你聊天的就会显得非常非常真实就不像是只是画感画的在说一些似是而非的东西正是因为这个飞跃使得 3.5 一下子变得可以面向大众了所以从去年年底开始 OpenAI 把它推出

变成一个 demo 推到大家面前然后引爆了整个媒体和一般老百姓的视野之后今年 3 月份顺势推出了它比较成熟的 GPT-4 那 GPT-4 具体会引爆什么样的接下来的连锁反应我们还要再看但是这是正在发生的故事

你刚刚提到那个真正具有突破性进展的飞跃是关于就是因果链条的建立那为什么建立这个因果链条它那么的重要然后它为什么在之前的时候那个技术上不能够达到之前的时候技术上不能够达到的难点主要是什么

这有点技术性但是我可以试着回答一下这个问题然后如果我的回答有点过于枯燥你可以随时打断我有一本非常著名的书叫做《思考快与慢》它讲的是人的思考的两种模式一种模式叫做快模式什么是快模式呢就是你看到一个东西你本能地做出反应这个本能是来自于人的动物性

所以这部分是人和动物共有的你在眼前闪现过一个红色你马上感知到危险这个东西是不经过思考的你就是千百年来的生物本能让你感觉到危险你看到一个好看的异性或者同性 whatever 就是你会觉得啊它对我有吸引力那这个也是它不经过思考它直接就触发你的荷尔蒙这东西叫快思考慢思考呢是你必须要一步一步想问题就像我们做高考题一样你不可能看到题目马上脑海中就闪现出答案来

除非你那个题你见过你必须要一步步想题面题干内容说明了什么它又说明了什么它又说明了什么所以退出答案应该选 A 这个过程是快不了它必须有一大堆中间步骤这个东西叫慢思考慢思考一般认为是人类有的动物是没有的或者至少极少数的高等动物海豚这样的可能会有但大部分动物是没有的

传统意义上的神经网络模仿的是人的快思考哪怕像 AlphaGo 这样会下棋的非常聪明的神经网络它也是快思考为什么呢它就是一个单纯的网络一头有输入一头有输出你通过训练使得它知道什么样的输入应该有什么样的输出然后你把它放在现实生活中给它一个输入它给你一个输出在这个过程中是没有步骤的这也是为什么神经网络长期来被人诟病比如说它像一个黑盒子

就是因为它中间没有任何中间的过程它就是一头输入一头输出神经网络可能非常深就是它中间的那个模仿函数的网络的那个结构可能是好多步但是那只是它思考的函数非常复杂但它仍然没有步骤它只是一个非常非常复杂的函数但是仍然一步到位地从输入算出输出来而思维链条 Chair ThoughtCOT 一般简称是完全不同的方式

它不是从输入一步到输出它就是在模仿我们刚说那个人类思考的东西我给它一个输入它先想一个第一步中间过程然后用第一步中间过程想一个第二步中间过程第二步中间过程想第三步中间过程然后推出一个结果一旦你能够建立起这种结构来你就能够做到那个快思考都不能够做到的事情因为我们很多人类的思考过程是这样的就是你要把一堆信息综合在一起推出一堆中间结果然后最终得到一个我们要的结论

这个东西你可以想象不要说低等动物就是比较高级的哪怕像猫和狗这样的动物它其实都未必能做到对吧我们你觉得猫能够做到一步步想问题吧其实有点悬对吧但是今天的 AI 至少 2021 年以后的 AI

开始逐渐能够做到对点了这就是刚才为什么我说它是一个非常本质的飞跃对我觉得你那个例子还是很有帮助的我只能说我现在比刚才五分钟之前稍微了解的更多了一点但是我仍然感觉到有很多疑惑的一些地方比如说像 AI 有多聪明这个事其实也是过去这几年或者十几年就大家一直一直在聊这个事包括像去年也比较火的那种 AI 活动

你输入的东西然后他能给你画出那么漂亮甚至是独一无二的一些作品所以我觉得是不是对业界人士来说去 HPT 它实现的这个飞跃它其实是一个一系列的技术进步中的一环但是到了社交媒体上之后因为大家可能之前没有一直在关注才会有一个印象就觉得这是一个技术性上的一个前所未有的提升以至于导致了某种程度的恐慌

就在你看来就是这个技术飞跃它的实现是一个怎样的过程我明天问你的问题而且我觉得这是很好的问题就是这个飞跃怎么样放到一个更大的坐标系里面来观察事实上这个问题业内人士本身在社交媒体上也有触及过就是大家很多人发现了一个现象就是好像业内的兴奋更大业外一部分人觉得焦虑而另外一部分人觉得首总监说这跟我有什么关系或者是不是又是狼来了又是炒作

而更重要的是就是如你所说因为我们都知道今天大家已经被社交媒体训练的已经疲了对吧不管多大的事它都是震惊其结果就是你分不出这个震惊的数量级到底是十倍的震惊还是一万倍的震惊反正它的标题都是震惊探号什么东西所以你有必要把它放在一个真实的坐标系里来考虑就是这个东西到底是多大的一个事它和别的事比如和 AlphaGo 这样的事或者和画图这样的事相比是怎么样的

这里面进行了一个概念叫做 AGI 就是通用人工智能通用人工智能一般被认为是人工智能领域的圣杯什么意思呢就是通用人工智能是一切问题的母问题你要让 AI 或者说让机器来做一个特定的任务这件事情断断续续是一直都有进展的 AI 竟然会下棋了 AI 可能也会作曲了 AI 也会画画等等等等的

但什么叫通用人工智能呢就是同一个模型能够同时做很多事这件事情是困难的因为同一个模型能够同时做很多事意味着它不只是被某一个特定的任务所训练成了一个鼠手不管它怎么训练出来的而是它真正好像像人一样了解了关于世界的某些更本质的运作机理你可以想象你训练你们家的宠物狗帮你雕拖鞋

有一天他非常非常熟练他可以认出你喜欢穿什么鞋他知道你每天回来最喜欢穿什么样的拖鞋他就知道你每天回来心情不好不用给你掉拖鞋这都是有可能的这说明这个狗真的很聪明但是如果有一天这个狗开始说我不只是帮你掉拖鞋了同时我还帮你做饭

你就会觉得这里面一定有某些不寻常的事情了因为你再怎么训练掉拖鞋这个能力不可能转化到做饭上而通过人工智能的意思就是说我能够训练出一个模型它既能够掉拖鞋它又能够做饭这说明什么这说明它不只是单纯被你训练成一个熟练工它一定了解了某些关于世界运作的方式鞋是什么饭是什么以及我该怎么做的一些东西那么这个认知就要到一个非常非常底层的层面这就是为什么菜的 JPT 它本身引起的震动

比之前那些震动都大因为 Chad GPT 可以说是人类看到 AGI 通过人工智能的第一线曙光它终于有点通用的意思了你今天也试用过你也知道你问他的问题并不需要局限于任何一个特定的话题方向对不对你问他什么都可以让他写诗你让他模仿胡锡进写一个微博或者你问他一个技术问题让他写一个代码都可以这就有点通用的意思了特别是你可以很容易想象既然他可以说话他就可以通过这些话

再去指导别的行为对不对今天也有很多这样的工具就是让 GPT 去控制一个我们叫做 agent 就是一个代理让他来进一步控制电器进一步控制跟物理世界发生关联的操纵的东西那他就理论上来说完全可以通过语言来真正做一些事而他的语言本身又不限于话题那他就好像真的可以做很多我们生活中可以做到的事情我不知道你有没有看上周四所发布的那个微软发布的新的 officeoffice 这个东西

对人的冲击是很大的因为大家都用 offense

如果 AI 只是能够仍然跟你聊天那还只是一个聊天机器人那如果 AI 可以帮你写文档可以帮你写 PPT 可以帮你写邮件可以帮你做会议总结那它就几乎可以做 95%白领的日常工作了对吧这个通用性是这个飞跃在业界引起最大震动的部分所以如果我们用那个震惊体来描述的话那这次的震惊是真的比较震惊比之前的那些震惊要高至少一个数量级

如果从你刚才说的这个意思来看它之所以能够高这个数量级的一个很重要的原因是在于它好像让这个语言具有了一个直接去行动的一个能力然后这一部分能力可能以前的时候大家还会觉得未来的这个方向可能会是 AI 结合人

人仍然还是占据一个非常重要的一个角色但只不过说你用了 AI 这样可以让你工作中更有效率但是一旦说这个 AI 它具有了直接的行动能力它其实是完全可以某种程度上取代掉人的可以这么理解吗我觉得取代不是一个好的词因为取代是一个非常容易反驳的词取代我可以说我仍然会干这个 AI 干不了所以它取代不了我但正是这种字面上的抬杠使得问题的本质被掩盖了

因为 AI 对人的我不能说取代 AI 在人的生活中的渗透是一个逐渐的过程它能够百分之百的取代掉你可能仍然不会发生可是它也不需要百分之百的取代掉你它只要百分之五十的取代掉你的某些工作职能那它就会对就业市场形成非常大的冲击我有一个纽约的律师朋友他是很早就开始用这个东西他本身不是一个技术人员他是一个高等的文科生平常用一个新软件都要紧张半天的那种人但是他开始用这个之后

因为律师的工作是很大程度上是依赖于文本的而文本是 GPC 的长项嘛所以他就开始用用完之后我就问他说所以你真的开始辞退你的员工了吗因为他自己是一个律所合伙人

他说我还没有真正开始辞退任何人但是我确实打算今年暑假不用再招实习生了因为他给我省他的活就完全可以让我腾出手来做一些事以至于我可以省下招一个实习生的那个 adcount 那这就是一个真实的影响对不对他没有真正取代什么东西但是他仍然冲击了一个真实的就业市场上的职位我觉得 AI 对

我们社会的影响就是会以这种方式出现它不会马上一下子让你这个人变得没有意义但是它可以让三个人都活两个人现在都能干完那多出来那个人就没有存在的必要了

所以老板可以把它开掉它是以这种方式它并不是百分之百取代了那个人的方式来逐渐进行的而且这个事情是非常真实的这也是我觉得很多人对这个冲击仍然没有做好心理上和智识上的准备其实有点令人忧虑的原因就是如果你今天还用一种这东西都是媒体的炒作来对待这个问题那你就很可能会在真正的影响到你切身生活的冲击到来之前没有做好对自己来说比较有用的帮助

那我觉得我们可以顺着这里就是聊下去就聊一些可能更具体的一些使用的场景和可能会影响的群体这个话题就是它的出现它出现的这个技术进展在你看来它可能会产生的这个影响会有哪一些哪一些人群哪一些工种或者说哪一类比如说生活方式是最容易受到它的影响的在我们目前影视的这种技术条件下就且不用考虑说它再来几年的这种发展

我来简单的解释一下为什么它能够帮到你的工作然后我们就可以来看看它到底会帮到什么样的工作我今天在网上看到一个笑话说 GPG 这个词在法语中会非常好笑我自己法语很烂我不知道为什么如果在传统时代我要么去问一个懂法语的人我要么去搜但是这个搜很难搜因为除非有人在网上贴过这个笑话否则你也搜不出什么东西来

但现在有 GBT 我就打开 GBT 我搜为什么 GBT 这个词在法语中非常好笑然后他非常快地告诉我的答案因为 GBT 在法语中的念法是 JPYDAY 然后这个意思法语中是我在放屁的意思请发出了不明所以的一个嗯我的意思是说我应该配合的笑我想是完好的不好意思我不是说这个笑话很好笑我的意思是说这个过程反映了为什么它会有用

因为我们的生活中大量的事物本来是以这种形式在人和人之间发生的你有一个琐碎的事这个事情呢你需要别人帮你来做或者你需要一个秘书或者你需要什么但是在没有机器的时代我们只能使唤一个人或者我们自己花时间来做

但是有了这个东西呢他就可以帮你做而且你去问他没有任何心理压力你不要付出心理成本你不要想说我要请教一个人或者我要占他的时间不需要的那你以这种模式来考虑这个问题的话你就会发现其实我们生活中工作中的可能很大一个比例都是这样的事情

琐碎小但它又花时间基本上我们所说的一个白领的工作我不能给一个精确的数字但是我可以有把握说可能 50%以上都是这种事情你帮人写一个东西或者你帮人回答一个日常生活中的问题或者工作上的问题或者回答一个知识性的问题或者把一个什么材料总结一下大部分人我们今天所说的所谓做办公室的工作都是这样的工作极少数的工作是有创造性的有原创性的需要决策的

老板可能需要决策大部分员工也没什么需要决策的他就是老板说小张你帮我把这个什么东西搞一下这个小张完全其实可以被 GPT 所取代所以如果你问我是哪一类哪一种职业最大受冲击我只能说任何需要在写字楼里面有一个小张跑来跑去的工作都会被他所影响因为这个小张所做的事情其实就是这类事情我曾经写过一篇微博说我说 GPT 的本质不是一个对话机器

GPC 的本质是一种以对话为界面的服务什么叫以对话为界面的服务呢当你是一个老板或者你是一个所谓的 professionals

你日常生活中在不断调用这样的服务你有一个法律问题你需要有一个人来给你回答法律困惑你有一个编程时候的问题你需要请教一个人为什么这里有一个 bug 或者说我听你的你让我安装这个我安装了但是现在界面上出现一个弹出一个错误我不认识这个错误我该怎么办这样的问题是我们工作中需要遇到的在没有 GP 的时代我们需要有一个人或者需要一个能够至少说话的东西来帮助我们来往下走

而 GPT 提供的就是这样一种服务它以对话为界面帮助我们获得我们所需要的信息而这种服务在之前是不存在的之前当然也有一些类似于智能音箱之类的那个东西是假的它只能回答特定的有限的问题但今天的 GPT 是通用的它可以回答任何问题所以一切以对话为服务形式的工作就都会被改变而对话基本上是我们日常的白领工作的核心

不管是书面对话还是口头对话你今天在香港你放眼望去那些林立的写字楼里面的工作你想想他每天在干什么

然后想象一下为什么他们的工作不能够被 GPT 所取代其实你能找到的理由是非常少的因为他们大部分所做的事情不外乎就是把从 A 那里得到的问题自己消化一下再问 B 然后从 B 那里得到的回答再消化一下再传给 A 而这个事情 GPT 是完全可以做到的我觉得在这里有几个点一个是你刚刚说到这个消化然后以及转述的这个过程

就让我想起其实在我这个职业早期我曾经有段时间是在一个机构里面就是给他们每天写那个 news briefnews brief 其实就是我把头一天这个地方所有的重要的媒体然后他们关于某一个行业做的报道找出来然后我进行消化给他进行一个转述然后在里面就是去 highlight 出一些比较重要的信息这个大概是我十几年前就刚开始进入职场的时候做过的其中的一份工作如果

放在今天的这个语境下来讲那这个是一份非常完美的肯定可以被 ChaiGBT 去取代的一份工作因为今天 ChaiGBT 已经可以不管是帮我们去搜索新闻也可以帮我们搜索思维劳动可能更复杂的学术型的文献但是另一个方面呢我自己也会感到当我们去说到消化和转述这个事的时候这中间也存在一个质量的问题比如当时我的那个老板他就有时候会跟我抱怨说在我之前的那个助理吧

他竟然会觉得他提供的 news brave 质量上可能达不到一个 brave 的要求因为他不够 brave 或者说有时候他这个 highlight 的那个点他不够 to the point

然后我觉得这也回到就是说刚才我们提到的另一个点也是我自己觉得很想去深入了解的一个问题就是说 CHAT-GBT 它从能做这个事到能够以一个符合这个人他完整的要求去做这个事它中间是不是其实还是有一定的差距就包括刚才你提到的比如说

大家有时候会抱怨说 CHPT 它很擅长就是一本正经的胡说八道它有时候会给你提供一个就是字面或者说这种形式上看起来非常正确的文本但事实上它的这个文本不太能够经得起考验所以你会怎么样看待这个过程中可能出现的质量上的一个问题以及你觉得这个质量的问题它多大程度上可以解决什么时间框架内可以解决的问题

这个问题是差别比起刚出来的时候很多人对他抱怨的核心也是很多人觉得这可能不过又是一场炒作的根本原因就是他可能用了两下发现这不就是说车骨落花而且好像也没有很深刻而且很多时候还在胡扯但是这里面有两个认知上的分歧需要被摘出来讨论一个是

拆的 GPT 其实不是一个产品它是一个 demo 所以当你用消费者评估一个产品的视角评价它的时候这个评价可能是不公平的你消费者评估一个产品你可能会说我想要一个帮我扫地的机器人然后这个机器人把地扫得不干净那就是一个很糟糕的机器人为什么要为它激动但是这种视角只当你讨论是一个渐变式的新产品才有意义当我们讨论一个突变式的新产品的时候

你这种评价很可能就会影响时代我举个例子在马车的时代然后有了第一辆汽车第一辆汽车在各种性能上都碾压马车了吗其实是不可能的因为马车被优化了几千年而第一辆汽车它一定是非常粗糙的对不对

马车可能很舒服然后抗震性能非常好他已经能想到的部分都尽善尽美了而汽车他可能会掉链子他要加油他可能低力光浪的没什么防震他一开始是有很大很大缺陷的所以如果你直接比较舒适程度的话可能汽车未必比得上马车至少第一辆汽车是这样但是他仍然是碾压性的优势为什么因为它是一个断层式的革新

所以当你评价 GDPT 的时候你必须分清楚它哪些是我刚说这种它只是因为一个新的东西没有来得及做的好哪些是它就不可能做的好

但是这就是现在讲第二个问题是你怎么了它是马车和汽车的关系韩世荣就说我们大众其实过去已经被这种新技术的轰炸式的新闻弄得神经疲惫了你每个东西都告诉我能够改变世界 3G 打印改变世界 5G 改变世界比特币改变世界对吧每个东西他都会告诉你改变世界元宇宙关于元宇宙的新闻言犹在耳今天已经没有人提了

你当时也说到改变世界哪改变了对吧所以这种狼来了的心态是非常真实的那我们今天凭什么说具体是不是又改变世界了还是只是我们这帮人在自嗨

这个认知上我得承认你不可能百分之百准确你有的时候就是弄错了你有的时候就是以为他改变世界其实什么事也没发生这种错误的概率是存在的但是我仍然个人觉得 GBT 可能比刚才说的那些东西都更有可能是真的我不能说百分之百但更有可能是真的它的缺陷包括了两个层面的缺陷一个层面是它的表达是不是用你的话说 to the point 或者是不是足够精准这个东西是很容易通过模型不断的训练改进的

另外一个缺陷是它是不是胡扯这个在学术上被称作 fact grounding 就是它的表述是不是基于真实的事实这其实是一个非常有趣的技术问题因为我们今天知道 GPT 也好 GPT-4 也好它都是一个封闭模型什么是封闭模型就是它运行的时候并不实时查阅任何背后的数据库它只是在复述在训练的时候记住的东西如果在训练的时候这个事情还没有存在它就永远都不可能知道但是这不是本质缺陷这只是碰巧

因为从 OpenAI 这个公司角度来说它总得推出一个什么东西而这个东西你要让它查阅现实的数据库你需要跟很多领域去谈对吧你要让它查阅法律数据库你总需要去跟一个法律数据库的供应商去谈一个什么 deal 出来

或者你要让他实施检索网络你总得让他真正部署到一个可以实施检索网络的服务器的层面然后有这个服务器本身要处理大量的跟现实网络的交互这不是很容易的事情并是一个很好的尝试就是并就是把 GPC 置入到搜索引擎之中但是同时能够实施检索网络但是你可能更需要更专业的比方说你需要他能够回答医学问题的时候不是靠你的记忆来回答而是你真正过去查一个真实存在的医疗文献出来

这是我们作为消费者一个很自然的需求而这个东西实现起来是需要时间的因为它牵扯到跟现实的已经存在的知识信息网络上存在的资源有一个沟通的过程

这个事情不会一夜之间就发生但是它也没什么技术上本质的障碍存在所以我几乎可以肯定在未来一两年内你会看到越来越多的基于真实数据的就是我刚说的做好 fact grounding 的 GPT 那么那个时候 GPT 就不只是靠它训练时候记住的东西来回答你

它就变成一个中间的一个 layer 它负责理解你的问题然后输出一个答案但是它背后的事实来自于一个更真实的一个比方法律文书的数据库或者一个医疗资源的数据库或者等等那个时候它胡扯的几率就会大大降低这件事情并没有很困难我相信它会很快发生

其实你说这个让我想到它跟人脑的结构也是有点类似的就比如说我在跟你进行这个对话的时候如果我不是同时在用着互联网我在跟你进行这个对话的时候我所告诉你的所有的东西其实就是我在这个点之前我已经接受到那些东西我不可能在跟你对话的时候我实时地去查询说比如说今天这个天气怎么样然后香港的人口是多少就是我没有办法实时地去查询这样的东西如果我现在跟你讲了这个东西那只是因为我之前就已经知道

所以从那个程度上来说 CHI GPT 如果真的如你所说它能够在接下来一两年内不光实现理解回答你的问题这样一个需要一定的逻辑能力需要一定的这种交互能力去完成的动作它同时还可以在交互的同时进行一个无限的联通相当于说让你在跟他对话的时候你可能获得的信息比你跟一个这方面的专家获得的信息更及时更准确

那如果真的是这样的一个情况的话你会觉得这样的情况其实是一个会让人感觉有一点焦虑的时刻吗首先这不是如果这是必然因为这件事情已经发生了今天的 Bing 就是新的那个搜索引擎微软的我们一般叫 New Bing 但是读起来有点怪它就是这样一个东西它是实时调阅只不过它因为服务上的限制它没有办法查阅的非常多因为这个对服务器的压力很大它也在不断优化这件事情

特别是如果你用中文用牛病效果并不是特别好因为由于各种法律上的众所周知的原因他中文所能搜索到的东西是非常局限的可能局限于百度之道这样的来源这些来源本身的质量你我都知道是有问题的但是如果你用英文的牛病他今天事实上是已经在回答你问题的时候实时调用互联网了他已经不是再靠他的记忆在回答了

但这只是一个通用的搜索引擎以后会有越来越多专用搜索引擎出现我跟他聊天的时候他去实时调阅一个真实的专业数据库而这件事情在技术上没有任何难点我说他唯一的困难是你得真的去做这件事得有一堆工程师负责把这些该连的接口连起来这是需要花时间的而且需要对方答应给你提供数据的提供商他得愿意让你去访问他

这些问题都是可解决它没有技术上的本质上障碍所以归根结底 GBT 它就是一个中间的过渡层它背后是真实的大量的无线的网络知识它前面面对的是我们这样的人它起到的是我一开始说一个作为对话的服务它负责把结构化的知识翻译成我们人类可以接受的自然语言

然后又把我们人类的自然语言问的问题翻译成从那个结构化的知识中提取信息的那么一个 action 这件事情会不会让你焦虑 well

我打一开始就说了它当然应当让你觉得咱不说焦虑吧至少让你觉得做好准备否则你就会在真正的变革发生的时候措手不及因为这件事情不是万一会发生怎么办的问题它是正在发生并且很快就会因为这个东西它带来的效率提升是碾压式的所以它速度会非常快就像是当年汽车取代马车一样它

毕竟是一个代差上的差距就是有点像怎么说呢我们中国人刚刚接触到洋枪洋炮的时候那个差距你还是红龙枪那对面已经是火枪火炮了那个差距是你没有办法抵抗的一触即溃的

所以这个过程本身会非常快而且你必须做好准备不能还在想说只是未来万一可能会发生它不是万一它一定会发生那我就把这个问题再推得更极端一点因为我觉得在科技发展界其实大家一直以来也都会聊到说科技起点的这个问题

这个概念当然你可以给出更好的解释就是我非常肤浅的解释就是说是有这样的一个理论来根据这个科技发展史有一类观点认为说在某一个点人类可能会接近一个使得现有的文明完全被科技发展所颠覆的这样的一个事件点那这个事件点某种程度上它具有一定的这种科幻的色彩可能在一些这种科幻电影中也曾经不断地被描述

但是在现实生活中到目前为止它仍然是作为一种假想而存在但你看来你觉得这会不会是一个人类发展史上的一个起点时刻首先如您所说起点的东西不是一个有共同接受定义的东西所以你很难精确地说什么是某件早上我们醒来发现世界怎么样这就是一个文学性的比喻你并不会真的找到这么一天或者一个时刻

但是你要说这次的咱们不说它是不是工业革命它至少是一个不管什么意义上的革命它有没有特殊性呢有的我们人类在过往的工业革命史上对机器有一个非常本质的优势就是我们虽然在体能上远远输给了机器但我们的脑力从来没有输给过机器

而我们一般认为人类的能力不外乎就是体力加脑力对吧或者说我们的肉体加上我们的灵魂如果你在脑力上也被至少在很大一部分层面上被机器取代了那这就不只是你又被机器取代了一部分的问题是你必须要严肃地问问自己我还剩下什么我还剩下什么是机器做不到的

这不是一个很容易的问题我们必须理解过去两三百年的现在社会是被这样一种基本认知所塑造的就是人类的价值体现在他的脑力上的价值一个小孩身体非常好但是脑子很笨然后另外一个小孩身体素质一般但脑子很好我们一般认为后者更有出息但这个认为是哪来的呢这并不是自顾一来就有的这就是工业革命的产物工业革命让我们觉得脑力比体力在这个社会价值的鄙视链上更高

而它更高的唯一原因是它是我们人类的优势的体现我们再把这个话题再推得极端一点我们想想有三个小孩一个小孩身体不而棒可以肩上扛两百斤麦子一个小孩脑袋非常好会做奥数题一个小孩长得非常好看他身体未必有多么大的体力优势但是他就是长得非常好看我们今天的家长会觉得哪个小孩最有出息我们会认为那个脑子好的小孩最有出息对不对学好数理的话总比天下都不怕第一个小孩呢是最没出息的他只能去送外卖

第三个小孩呢他可能也能挣很多钱他长得很好看但是我们今天的价值体系认为你靠脸吃饭不是说不可以但他好像有点不是正道或者说不是我们家长会希望小孩子走的道路对不对你今天为一个家长希望小孩做工程师呢还是说去当网红他可能会觉得网红也挣很多钱但是他仍然希望如果你能做工程师还是做工程师好但这个价值排序它不是天上掉下来的它也不是自古以来就有的它是工业革命的产物

工业革命让我们觉得脑力是最高级的脸也挺重要你要只有肌肉那就好像胆而下之但假如你的脑力也被机器碾压了这个价值体系还能不能维持显然就不能了你没有任何理由认为聪明是一种优势聪明就跟你能肩上挑 200 斤麦子一样因为你反正也不如 AI 聪明当然今天还不是这样今天我们仍然比 AI 聪明但如果 AI 进一步变得更强大的话你就没有 AI 聪明了那时候我们人类的价值体系在哪里

如果你还是长得很好看你是当网红如果你长得不好看你的存在的意义是什么这是一个非常本质的存在主义的问题而这个问题我没有好的答案因为我们人类没有经历过这种时刻我们人类没有经历过你就是在方方面面所有的维度上都比不过机器的时刻所以你把它叫不叫七点我不知道但它确实是一个崭新的没有存在过的一个状况

另一个问题也是刚才你提到就是说历史上的这种情况嘛所以如果比如说要帮助我们理解说今天的这个情况到底有多特殊你会觉得在人类历史上曾经也是出现过的这些对世界格局对人类的这种发展进程产生了深远影响的这种技术革命你会觉得有哪一次可能会是跟这一次可以相提并论的吗

这两天会在网上看到很多比喻很多人说周四的那个微软发布会是微软的 iPhone 时刻就是它比较的是它相当于苹果在 2007 年推出第一代 iPhone

也有人认为这次的革命的幅度会超过智能手机的革命我们这代人其实最近的两个革命一个是互联网革命大概诞生在我们这代人的刚出生的时候一次是智能互联网或者说是移动互联网一般被认为就是乔布斯那次著名的发布会 2007 年的时候的发布会这是我们能够拿来做参照系的东西当然我刚说了这两个作用的东西做参照系都不是特别合适首先

我个人觉得这次人工智能革命的激烈程度会至少大于移动互联网是不是大于互联网本身还不好说我们还要再看但是另外一方面我刚说了这两次革命再怎么说就是已经发生这两次互联网加上智能手机都没有触及到我们人的存在意义的问题对不对你并不会觉得有了互联网你人就没有存在的意义了

但是当这世界上大部分人他会问自己我在这个世界上能够干什么如果这个问题没有答案的话就算我们社会结构因此适应了我们给那些找办工作的人发一个你知道今天在西方讨论很多的 UBI 就是基本生活补助或者说给你一个基本的钱让你不至于死掉即使这样

这是不是解决了问题其实没有因为我们人毕竟不是只能靠混吃等死只能过一辈子的生物我们需要有一个存在感我们需要有一个存在意义的自我追问哪怕是可能不那么知识分子的人哪怕是一个普通的日常的老百姓他也需要有某种意义

我们都听过那样的故事就是一个人退休之后或者一个妈妈的发现她的儿女长大成人不再需要她的建议之后的那种失落感为什么你会觉得失落因为你觉得我希望成为一个有用的人对不对这个有用并不一定体现在我挣工资但我希望别人认可我的存在我希望我以某种方式在跟别人交互的时候发挥出某种价值

我不但身体的能力比不过机器我连作为一个可以对话的人所能提供的价值都比不过机器的时候它对人类的心理上的冲击是

是无可比拟的这个比较你很难用它是跟互联网或者跟汽车或者跟飞机的比较来做衡量因为那些东西并不触及这个层面而这次是真的触及到这个层面你作为一个普通人你既不特别漂亮又不特别聪明你不能够成为那些去开发 AI 的工程师只能用它那你工作的意义你生活的意义是什么这是一个真实存在的问题我没有答案但是它确实是我们人类第一次碰触到这样的问题

那我想反向来问一个问题我们刚才其实谈了很多他可能带来这种技术变革他能做什么现在能做什么未来可能能做的更多那从你的角度来看你觉得如果我们要去定义说就 CHAP GBG 他不能做什么你会怎么定义这是很好的问题我们都知道在过去的二三十年里面我们社会的家庭观念或者说我们社会的关于家庭劳动的价值发生了一个很大的转变在上一辈人的观念中

比方说假定你是个家庭妇女你的工作是不被认可的对不对老公出去挣钱他觉得他在挣钱养家然后老婆在家里工作了一整天他这个工作其实都甚至不是一周工作五天是工作了七天但他在家里面收拾东西洗碗做饭照顾好小孩这个工作不被认为是挣钱不被认为是平等的劳动所以老公可以回来往沙发上一躺然后说我在外面挣钱挣了一整天好累啊你给我干什么干什么

然后过去 20 年你这点显得非常清楚就是由于女性主义死潮的兴起由于社会的更全面进入现代化我们开始意识到这个观念发生变化了我们开始意识到家庭劳动也是平等的劳动这部分劳动很大程度上是不可取代的但他再怎么说平等他也只是说我们把本来不被承认的劳动简直提到了一定层面上

AI 的出现会把这个变化更剧烈的我甚至不能说是推动而是说把它会打乱为什么呢因为你会发现它会把这两件事情的重要性调过一个个来 AI 仍然不能帮助你洗碗它仍然不能帮你照顾小孩伺候老人 收拾家

某些部分可以他可以比如扫地机器人可以帮你扫地但是很多事情今天仍然 AI 做不到最简单的你想把衣服都叠起来这个事情你故意给机器人来干仍然不是马上就会发生的事情但是那个传统上认为是成功人士的每天出入于写字楼的西装革履的老工作干的事情反而会变得毫无意义他的那个工作既挣不来钱也挣不来意义感因为他做的事情 AI 都能做了那我们的不管是家庭观念也好劳动价值也好会发生什么样的变化

我自己不知道但是它是一定会发生的因为你刚问我什么样的工作仍然不能够被取代这些东西就是仍然不能被取代的那些照顾人的部分那些在情绪上在肉体上在一切人和人交流的意义上所付出的劳动都仍然是不能被取代的当然今天吃 LGBT 已经可以跟你聊天了所以你可以跟他倾诉你可以跟他

甚至可以跟他谈恋爱在某种意义上来说但是他仍然不能取代你真实人和人之间的 care 对不对但他可以取代你在白天上班的时候那个看起来光鲜的白脸所以他会非常非常深刻的影响我们整个社会的对价值的排序我们本来被看作比较低级的所谓的家庭劳动或者说是那些不挣钱的劳动会变成人类真正的安身立命的东西

而那些傳統上被認為高級的 professional 的掙錢養家的勞動我也不知道像什麼一樣但是它會逐漸消散掉

你提到这个我觉得挺有意思的就是比如说像照护或者说情绪价值吧我记得前段好像是这个 ChatGPT 刚出来那阵子当时有一个非常主流的媒体的记者去跟 ChatGPT 进行那场聊天然后他后来把整个的转写就发在了网站上然后他说他聊完了之后其实当时有点恐惧因为 ChatGPT 跟他聊了他的感情并且劝他离开他的妻子

我不知道那个东西它在发出来的时候以那样的一种就 highlight 发出来这背后有多大的一个真实性或者说是不是中间有一些这个过渡产生的部分但我觉得它某种程度上其实是在提示说去 HPT 它可能提供的这个想象确实是我们之前从未想过的像很久之前我记得曾经有过一部电影叫做《二》吧

讲的就是一个人然后跟一个人工智能在谈恋爱的故事然后那个人工智能跟他交互的这个方式是以一个女性的声音当然那个声音非常的好听是 Scarlett Johansson 配音的一个 AI 但在故事当中这个男主角确实是不可自拔的跟

AI 在进行一场恋爱所以某种程度上你要说它是可以部分地去取代对人的这种情感价值陪伴价值甚至可能有一天也能够实现照护的一些功能如果就照刚才我们讲的那个逻辑它现在既然已经能够比如说从那个 ChatGPT 包括 Office 它在 Office 里面的这种应用它是可以指导你去进行一些

但是

实现它可能也许只是一个时间的一个问题就比如说在早远一点之前像洗碗机这么复杂的一个功能也得到了一个实现所以我想讲的就是说听你聊完了这些之后我自己现在对于 XGBT 的这个感受确实是还挺复杂的一方面知道说它会对你的这种工作现在这种生存状况带来很大的影响然后这种影响可能都不是说是一个未来式

他很有可能就已经是一个现在进行式但另一个方面他其实也把现在的结构当中可能很多重复的部分或者说很多如静如人意的一些资源让他进行一轮就是更好的整合然后也许会在某些程度上把人类从格雷伯所说的那种不是 job 当中解放出来这样的一个作用

但我想知道从你自己的这个角度来看你如果去描述说你在面对 XGBT 的这种巨大的技术进步的时候你的这种情绪上的回应或者说情绪上的一个波动你会怎么样去描述它

我先回答刚才纽约时报那个报道的问题就是他跟夏立彼聊了一晚上然后谈了一个非常荒谬的好笑的恋爱我们会不会有一天真的觉得 AI 可以跟我们谈恋爱或者说满足我们的情绪价值需求了

我不知道可能会可能不会可能我们这代人还不会因为我们这代人的思维形式已经定型但是今天才出生的小孩他会不会我一点概念都没有我有很多朋友告诉我说他们家的小朋友其实在家里跟智能机器人聊天是非常常见的事情我们很难想象因为你觉得你在家里跟一个音箱聊天是不是有点 creepy

但是如果你出生的时候家里就有一个智能音箱他可能不觉得这是任何特殊之处你就聊嘛我补充一个例子就是我最近不是在学校里面教课吗然后我的学生就有跟我说他们的同龄人里面在跟 AI 谈恋爱已经不是一个非常少见的现象对所以我们会不会真的跟他谈恋爱我不知道如果一个宅男他本来也没有什么真实跟人谈恋爱的能力他确实觉得 AI 可能是一个更好的一个选择这也是有可能的

他会不会能够帮我们叠衣服你刚用了洗碗机的例子其实洗碗不是一个好例子因为洗碗那个东西是碗大不了就打碎了也就是个碗我这么说好了我举一个很简单的现实生活中的例子你要给小孩换胶布这个事情什么时候能够让机器来干我认为不会很紧因为他现在有一个活人活生生的一个小孩

它对安全性的要求不是一般像洗碗机这样的它虽然是个技术问题但它不是一个马上就能解决的问题我觉得它反而比 AI 可以干很多我们认为本来遥遥无期的事情写一个长篇小说比方说可能更难

当然这是关于未来的判断你很难百分之百的确定但是归根结底的本质问题是我们在情感上的需求是什么我们这代人可能已经逐渐步入中年我们可能思维模式已经定型了下一代人是不是这么想我不知道但是我们人的情感需求是不是只是有人陪你聊天就够了还是你真的需要一个活生生的

这个是一个哲学问题我没有好答案这应该是一个用你一开始对话开始的说法这其实应该是一个文和生物问题我觉得它是一个很重要的问题但是我没有很好的答案但我觉得有两件事情值得一提一件事情是这个话题其实也挺危险的因为你知道在今天的中文互联网上你要讨论任何关于性别的议题都很危险但是

AI 会在很大程度上会提升我们被传统上认为女性更擅长的很多优势的重要性因为那些东西相对而言不太容易被 AI 迅速取代这句话当然很容易找到各种各样的漏洞但是我来解释一下什么意思我们传统上认为我们今天的职场上你说他是偏见也好你说他是刻板印象也好但今天我们确实更普遍地把跟理工科的或者说跟定量思维有关的任务派给男生不管

不管男生是不是实际上更好你要问我我并不认为男生更好但是现实社会结构是这样的我们认为男生来做这样的事情是今天社会上更约定俗成的一种办法而把那些跟沟通跟协调有关的事情派给女生我需要强调这不是说这件事情有什么避免性但今天的社会事实上是这么运作的那这两类工作哪一类更容易被 AI 取代显然是前者

AI 今天会让你处理一个 Excel 报表的工作变得完全不重要因为它做 Excel 比你做的好多了但 AI 能不能有更好的协调一个团队未必因为协调一个团队我们仍然是人的生物本能需要有某种人和人之间的 bond 人和人之间的非常微妙非常难以言表但真实的 human interaction 所带来的 chemistry

这种能力 AI 暂时是做不到的或者说我们想不到它以什么形式做到我们人类可以福音一个真实的人的协调当我们人类会愿意福音一个 AI 的协调或者它的领导或者它的指示这其实我不太确定下一代人会不会他们可能会觉得更自然但是我不知道只要我们这代人可能需要一点心理上的转变

所以在这个意义上来说这是我刚才问的问题回答的第一个层面就是我们人类仍然是有一些工作暂时不会被 AI 马上取代的就是这种牵扯到人和人交流的对那我想问你就是从你个人来说你觉得你会跟 AI 谈恋爱吗我不会但是我已经是成年人了我的思维方式已经定型了

下一代人会不会不知道那你不会跟 AI 谈恋爱的这个点你觉得 AI 它不能够给你提供的是什么它不能给我提供的是一个我在活人那里获得的认可这里面牵扯到一个本质问题就是为什么活人的认可都不重要我不知道但是我小的时候是这么被培养长大的那人总有他的时代局限性我看你是一代人我们这代人就是这么觉得的觉得活人的认可比一个算法的认可重要

但是我们小时候也没有什么算法的认可这回事啊对吧所以你打一开始你追逐的就是活人的认可如果你想的时候就告诉我算法的认可也挺重要的我今天是不是另外一种想法我不知道

但我们毕竟已经长大了第二点是我们所描述的是一个动态的过程所以它并不会让你在一夜之间就看到它必须跟我们别的社会议程一道发生作用我仍然想说的就是我们刚才说的很多社会结构的变化其实在没有 AIS 的时候也在发生我们今天的领导阶层上越来越多见到女性我们强调 diversity 等等等等这些东西长期以来只是被认为一个纯粹社会议题它是一个

说好听点叫社会进步说难听点叫白左的 agenda 但不管怎么说它是真实在发生的东西但 AI 的介入会跟它同步发生使得这个过程变得更加的有趣也难以预料因为有很多我们传统上

被认为重要的特质会变得不再重要所以整个这个权力结构会因为 AI 的参与进来而发生重要的调整而这部分是我是很难用一个简单的非黑即白的方式来把它总结出来的我是在回答你一开始的问题就是我认为哪些事情能够不被取代我不知道因为新的权力结构中可能有一些新的角色出现而这些角色在旧的世界里根本就不存在所以我根本无法预料到原来有些新的角色也许我不知道 AI 沟通师或者什么之类的

就是他根本以前不存在的角色而这些角色可能会变成某些人的专长我不知道这是我想说的第二点

刚才说到我们从小怎么样被教育的这个问题确实作为人来说你是有这个成长期的就是你过了这个成长期之后其实你的这种价值观世界观你怎么样去认识你周围的这个世界这一套结构已经被建立起来的时候其实我们就已经变成了一个所谓的成熟的人一个成年人但是我不知道对于 AI 来说会不会

它其实会更是一个线性的过程是一个扁平的过程它没有所谓的比如说青春期然后它也没有人生不会存在不同的阶段它可能也不会死亡它没有人生但它会有换代我们人在整体上来说虽然我们每个个人有人生一说但我们的人性在整体上来说上下限是比较固定的

而 AI 的特点是它每一代跟前一代都不一样所以你不是面对一个 AI 你是面对好几种不同的 AI 每两三年就会面对一个全新的 AI 而那个 AI 又要重新适应一遍所以其实 AI 是一个更大的集合 AI 的 diversity 其实比我们人的 diversity 要更大只不过我们今天只有一个 player 就是 Chad GPT 但很容易想象 10 年后 20 年后这个世界上是有很多很多种完全不同的 AI 同时存在的

所以它每一个个体是固定的但它们之间内部的那个方差会远远大于我们人类之间的方差

你刚说人类的适应性的问题我想一个很有意思的问题我相信很多人也很关注的问题就是未来的教育哪些东西还重要哪些东西变得不重要我们这代人的教育重要不重要是我刚刚所说的那种我们现有的社会结构决定的我们认为数理化最重要其次是文科我们虽然这个话政治不正确但是我们都心知肚明在我们念书的时候理科是比文科

被大家认为是更好的专业我知道今天网络上会对这种问题有很敏感的反应但是我们不是说这些事情应该如此但是我想说的是这个我刚刚说的它是工业革命的余续工业革命让我们觉得文史哲相对而言没有数理化那么重要或者说那么跟现实生活直接发生联系或者那么有 impact 但是在 AI 介入之后这个结构会被打破

所以会不会走到下一代人他们就会觉得学好数理化走平天下都不怕这句话没有任何道理我们今天是很难想象的但是下一代人可能会觉得当然应当如此你学数理化干什么呢而且这种变化也不是没有发生你想象一下清朝末年的最后一批韩林他们面对的是同样的情况他们读了一辈子四书五经靠着这个安身立命靠着这个当上大官靠着这个变成国家领导者但他们下一代人完全不学这个了

我小的时候曾经有一个困惑就是 1840 年英国人打过来了那个时候难道你就没有意识到 45 斤已经没法面对这个现实世界了吗为什么中国人要到 60 年后才取消科举难道要花 60 年才能意识到科举已经完全没有实际意义了吗后来我长大我就意识到这些事情的必然性了为什么要 60 年因为 60 年差不多就是两代人一个小孩是没有权利去取消科举制度的

只有那些已经功成名就位高权重的大人才有权利去取消而他们自己是科举上来的你让 1840 年的那些宰相韩林大学士们取消科举是不可能的因为他们自己一辈子他只经历过科举制度他们的儿子那一辈 30 年后也不会取消科举因为他们虽然在 1840 年的时候还不是掌权的人但是也已经 30 岁了世界观也已经定性了

因为他们的孙子被 1840 年刚刚出生的人走上权力中枢之后那要到 60 年后才有取消科学的真正的动力才会大于阻力这是一个物理学家普朗克说过一句很有名的话就是物理学的每一步前进都是由伟大的物理学家的葬礼构成的

他的意思是说只有老一辈人死掉了那个旧的观念才会真正消失新的观念才会出来你说当时英国人打过来的那个冲击够剧烈了但那个冲击再怎么剧烈你还是要两代人才能完成观念上的转变所以我们今天很可能你仍然会发现人的固有的惯性生物上的惯性仍然会起作用我们仍然会试图捍卫我们这代人或者我们下一代人的世界观

直到我们都死掉了我们下一代人也垂垂老矣再下一代人才会彻底迎接这个 AI 的新的时代到那个时候他们才会真正觉得为什么人要花那么多时间去学习所谓的理工科知识这些知识难道不应该让 AI 来做吗到那一天的教育是什么样子我不知道

今天还会有很多人会说你当然应该去学习理工科甚至还有很多人让你去学编程我那天看到一个非常好玩的新闻就是你知道有一个非常著名的在线教育机构叫做 Khan Academy 就是可涵学应该叫他们是一个非常著名的做在线教育的然后他们很快的跟 GPT 接触然后用 GPT 来改善他们的教育一方面你们会觉得不错动作好快

另一方面你又会纳闷说我到底为什么还要再学你这些课程呢这感觉就好像是你一个马车夫明明都看到汽车发明了然后他兴高采烈的去学开车但你问他学开车干什么呢是为了去更好地喂他的自己的马

你会有一种时空措置的感觉就是它那些课程本身到底还有什么用途虽然我可以通过 GPT 作为助手学得更快但是我为什么还要学这个东西包括今天很多人还说人工智能是 Python 写的所以我要现在学 Python 问题在于人工智能固然是 Python 写的可是人工智能自己也会写 Python 啊

所以你在一个已经有人工智能的时代你为什么要去学 Python 呢这些问题是真实存在的但是人会有固有的惯性我们不能够一夜之间就跳转到新时代我们需要花很多时间很可能要消耗掉一两代人的时间才能够真正跳转过来中间这个过程可能是非常混乱的可能是非常无序的甚至可能是波浪性的我不知道因为

因为你这里就讲到一个我觉得挺有趣的一个逻辑上的一个矛盾,就是说人工智能它其实仍然是由这些人工智能的软件工程师书写的吧,可以这么说,如果从现在开始新的这一代他们就已经觉得学习编程是一个不需要再去学的事儿,那他们…

可能就永远都不会达到可以去编写人工智能的水平因为你要写那个你肯定还是需要一系列的棋手才能到达那个水平如果是这样子的话那未来的人工智能它的更新换代将会是一种什么样的情况就它自己给自己更新吗还是说还是说会怎么样你为什么笑我是因为你很蠢是吗

不是这个地方蠢就这个非常好的问题但是它过于科幻以至于我很难不忍住笑我觉得长远来看人工智能自己更新自己是一定会发生的但是重点不在于这个长远因为那天到来的时候我们都死了重点在于我们怎么过渡到那一天中间是什么样一个状况

简单的说我不知道因为你问的问题其实是一个不光是在编程语在各个领域都存在的问题就是人工智能首先淘汰的是任何一个技能上的平庸劳动者这很容易理解对吧因为你如果你是真正一个极其出色的人你仍然是有一技之长可以做得比较好的但如果你只是平庸你只是 average 水平那人工智能就很容易把你取代了但你马上就会问那你把平庸人都淘汰掉了那那些少数的人他们从哪里成长起来

对吧就像我刚刚说了一个公司里面那些小张小王都被淘汰掉了老板不会被淘汰可是老板也不是天上调号来的他也得从小张小王那个地方干起来用中国人话说宰相必起于周部他必须从一个小官干起一步步干到宰相那如果你把低层的平庸的东西都干掉了这个社会职业路径是怎么样的我们没有经历过这种情况

所以我不知道那个未来的社会到底怎么样让一个人如你所说大家都不学 Python 到底一个人怎么变成写 Python 写人工智能的那个工程师虽然那可能是个很小的群体全世界只需要我不知道一千个人就够了但他到底这个职业路径是怎么样的我不知道但我说我比较有把握的是这样一种现象会一定会发生就是人工智能的出现会极大的放大人和人之间技能差异所带来的资源差异

这个过程不是新的人类历史就是这样一个过程我们在农耕时代一个好的农民和一个坏的农民的年的收成的差异不会有特别大的差异差出一倍称死了我们到工业革命时代一个好的工程师或者一个好的技工他所能创造的价值就已经比一个平庸的人平庸的技工创造价值要高很多了因为机器可以放大你这个差距的能力

到了编程时代过去 20 年你已经会发现一个好的软件工程师他所能够创造的价值他所能够造成的社会影响会远远高于一个平庸的学了两天 JavaScript 就跑到社会上找工作的一个普通的马农

就是这个差距会非常非常的大我曾经跟庆有一次私下聊天我聊过这个问题 Google 有一个非常著名的工程师叫 Jeff Dean 当然他很多人说他已经不是工程师这个他应该叫领导但是他自己确实写程序上来他今天也仍然在写代码技术上来说他也是一个马龙那他和一个一般马龙所能创造的价值的差别可能是成千上万倍的当然他拿的工资也确实成千上万倍而 AI 会把这个区限在进一步推得更陡峭

AI 会让极少数控制 AI 掌握 AI 的人他们所作为资源的网络的枢纽节点他们所创造价值的能力和调动资源的能力会远远远远超于普通的一般人

这是我们今天社会面对的真实问题就是我们本来已经面对很大很大的社会不平等了但 AI 会把这个东西进一步的放大实际上这个现象很多人今天已经发现了你今天如果你去推特上看业内人士对 AI 的辅助编程这件事情的讨论

发现一个现象就是 AI 会成百上千倍的提高一个好的共同声的工作效率只要你能够很快掌握跟它共同工作的那个节奏和那个模式就是它会让强者更强那个马太效应会积极的显著

所以在那种情况下就会发现整个一般的社会职业也好或者少数的我们想说特定的说编程这样的工作也好它那个大量的工作是由极少数人承担的而那极少数人因为有了 AI 的帮助他会非常容易地调动各种各样的资源而大量的人会完全无法跟上那这种社会结构显然是有它的问题的社会不平等大家都知道是非常深刻的问题但是

但是它就跟我刚说的那个大部分人会失去存在意义或者会面对一个存在主义危机结合在一起它会以什么样的形式延续它会不会导致整个社会的不稳定我不知道因为说了我们没有碰到过这样的情况但是至少目前来看趋势确实是这样的

我觉得我们可以顺着这里聊一下就是 AI 或者说我们今天聊的这个 XGBT 可能会面临的这个伦理的问题以及监管的问题我其实是这次也是在广州大学那课上跟我的学生简单交流了一下我就问他们说就是你对于 XGBT 你可能最想了解的是什么

然后其实很有意思的是不少同学都提到说希望了解说 XHPT 我们应该可以怎么样去更好的监管当然我觉得这其实可能一方面是因为在课上的大多数朋友还是文科生所以这个我们思考问题的角度更是从一个社会的从治理的角度去思考

但另一方面我觉得其实也能够体现出某种程度的焦虑就是在焦虑的情况下可能是有一部分人会希望 AI 发展得更慢一点给他的不受监管不受控制的这种野蛮生长去提供一定的阻力或者说提供一定的规范框架

所以我也想了解你是怎么样看待这个事的科技监管这个事我觉得也是一个老实常谈那我们知道在美国在中国在欧洲它其实不同的制度下它对科技监管是有不同的态度那像我比较熟悉的欧洲其实对于这些年来比较主流比较迅猛的一些科技发展一些科技公司的壮大

都是采取了一种相对来说监管为主的这样一种思路但在美国和在中国一方面有一种科技极头的存在另一方面我觉得也跟本地的这种社会还有企业文化有关系就是对监管会呈现出一种可能相对来说更开放的态度我不知道在你看来你觉得对 CHAT GPT 来说我们现在去聊监管是不是为时尚早还是说我们现在去聊它已经有点晚了

首先我 100%的同意 AI 必须以合适的方式监管但监管本身是一个含义模糊的词儿

你根本不让 AI 发展也是一种监管但很显然这未必是你想要的监管你刚说到中国美国欧洲的差别我相信你自己在欧洲你一定对这个情况非常熟悉就是欧洲一方面确实它监管更严厉但另外一方面它也因此在过去 20 年的科技浪潮中明显的落后于中国所以它固然避免了很多问题但其结果就是今天的互联网巨头可能一半在中国一半在美国

没有在欧洲的几乎没有不是说完全没有但是明显落后了跟欧洲应当在科学技术浪潮中应有的地位完全不相称而且某种程度上我了解到的正好是因为它没有这种科技巨头所以它在通过一些监管法案的时候它面临的游说的阻力更小所以它是一个就是有点相辅相成的一个过程

它就变成一个恶性循环了因为政客并不需要顾及巨头的压力所以政客就可以通过各种各样的立法但是政客通过立法之后他又未必真的懂这一行其实结果是那个立法可能扼杀了创新或者至少阻碍了创新结果就是更加难于生长出新的巨头出来但总而言之我不知道欧洲的政界怎么看待这个问题但是至少你从一个旁观的角度来看它确实落后了对吧就是它可能在监管上没有落后但是它在经济上在技术上都落后这种落后长远来看是福是祸很难讲

特别是欧洲人你也知道他本来可能觉得我生活就挺好了我干嘛要那么中二好处那么卷的对吧我在每年夏天我去海边度假就好了我并不需要科技巨头这当然也是一种生活哲学但是当这种差别更大的时候我不知道欧洲人能不能还那么心平气和如果他发现真的是新的工业革命而他被工业革命放弃了就像早年的工业革命诞生于英国从欧洲扩散到整个全球如果今天反过来欧洲变成了工业革命的歪地

我不知道欧洲人会怎么来理解这个事情但是说到监管的时候你必须要考虑的一个问题是你不能做七套反射式的监管

什么叫切到缓解的监管呢就是你在还没有了解这个事情的本质之前就凭着恐慌或者凭着焦虑来做很容易被时代抛弃的决定你的决定很可能不是基于完美的事实做的也不是基于对长远的深刻洞察做的而是基于你在那一刻的那个本能反应做的那这种监管很容易变得毫无意义要么过度严厉要么被现实抛在后面但是

在这点上我其实有点怎么说呢我对下面这句话可能又会引起很多争议但是我是对所谓的文科舆论界也罢知识界也罢对这件事情的反应让我是觉得有点失望的

因为我觉得大部分我看到的反应大部分我看到的批评都不在点上不在点上的批评就不是真正的批评也不能构成有效的监管这很容易理解对吧我刚才已经举了一个例子就是乔姆斯基那个理乔姆斯基当然是文科的剧情他毕竟 90 多岁了大家可以说他太老了但另外一个很好的例子就是前一任非常流行的那篇文章 Ted Chiang 的那篇写在纽约课上的文章他那篇文章是发在 1 月份

他自己是科幻作家,大家认为科幻作家应该是比较有前瞻性的但是他那篇文章就非常的落后于现实发展他写的非常好,那篇文章本身写的就文章而言是很好的唯一的问题是他落后于现实他那篇文章的结语是 ChatGPT 不过是关于现实互联网的一个拙劣的模糊的复印机你有真实的世界在那里,你要复印机干什么

这个结论是说白点错的赛里比特区并不是现实世界的复印机我相信他如果哪怕推迟两个月写这个文章他都不会把文章写成那样因为今天的现实已经非常明确地揭示这一点但是他文章写得很早所以他做出了一个在我看来七条反射式的反应如果你基于这样的反应来做监管那当然不会形成任何有意义的监管这反映一个现实问题就是我们不说

文科生或者怎么样但是确实大部分人如果他不处在这个技术的核心地带他确实容易因为技术上就不是很了解所以会有各种各样不正确的反应如果你是个老百姓当然无所谓

但如果你是知识界的重要领袖或者你是政客你是能够真正参与这个监管过程的人你在你不了解的时候你就做出反应就会导致这样的误区当然这个了解就非常困难因为一个人可能没有这样的知识储备对不对我相信

像神经网络这样的词你今天也熬熟了能想了但是大部分如果不是做这一行它其实对神经网络只有一个非常抽象的模糊的概念了解到底什么叫一个神经网络怎么写一个神经网络一个神经网络有多大怎么运行是没有一个上手的概念的那在这种情况下你到底怎么监管

你是不是要等到他已经全世界开花结果了再去监管那个时候确实就太晚了但是早期监管的时候你怎么再介入呢所以我觉得比较重要的办法就是多进行像我们今天这样的讨论

尽早地把不熟悉技术背景但又在舆论场上或者在政治上或者在知识上重要的既是业外但是又能够影响社会的声音纳入进来让大家怎么说呢 on the same page

至少在事实层面上弄清楚发生了什么什么即将发生他的能力的上限在哪里哪些事情我们今天仍然不认为他能做到哪些事情你们以为他其实不可能做到但是他其实今天已经能做到了把这些事情先弄清楚然后再来谈我们该怎么监管他的问题对不对有些问题可能是吸引眼球的比如我们禁止他谈恋爱或者禁止他给人看病

有些东西是更本质的就和我刚刚说的比方说如果它极大的冲击了我们这间社会上已经很加剧的不平等怎么办我们有没有社会上的好的机制去介入去做一个补助或者说是一个对人的关怀这些问题是更现实也更说老实话也更紧迫的

对 你就说到监管的问题我觉得其实这几年你看不光是欧盟这边相对比较偏严格的立法的思路还是说在美国之前这些科技巨头他们去国会做听证的时候你也能看出来其实我觉得很多的议员他们对这个科技是非常缺乏了解的如果你考虑到他们的年纪也对这个情况并不意外

可能他们能够问出一些问题是他们的助手给他们的他们自己可能本身对这样的一些最新的一些技术进步并不感兴趣但他们手中同时握有非常大的关于这个社会应该如何结构的权利就你刚刚提到的为什么要花 60 年才能够废除科学制度

所以我觉得这是一个可以说是人类遗留的一个这种劣根性的问题另一个问题我觉得可能对于当下的人来说更迫切的一个问题吧就你刚才也提到的就是说那我们需要让不管是哪个行业哪个领域是文科生理科生是中国人美国人欧洲人就大家可能需要对一些即将改变我们生活的科技技术有一个相对来说在同一个水位上的认识

那我觉得这个认识其实是很难达到的就是某种程度上在集体层面上去提高这种观念的水位比如说说到一个比较实际的问题你就今天提到了很多次说我们应该为那个社会去做准备因为它不是即将发生它是已经在发生正在发生那如果你要去给出一些建议的话你会给出怎样的建议我们可以怎样去为那个社会做准备

这是很好的问题我先跟你讲一个我自己的体验我自己你也知道在网上经常会聊这个事情然后我发现当我常开大论的讲

我觉得这个技术大概怎么回事的时候当然反应也很好但是反应最好的永远是我贴出一个视频说你看现在也可以干这个了这种事情当然让你觉得有点好笑因为你付出的劳动反而是后者是最轻的你就贴个视频就可以了但是我们社会就是这么运作对不对大家你看一个长文想象它给你带来的影响总是不直观的而直观就是哇可以干这个了一个短视频越短越好一分钟以内你放到抖音上

马上一夜之间所有人都看到然后大家说怎么办失业了这种冲击是最惨烈的那当然是一个非常尴尬也不是一个很理想的状况但是这是一个真实的状况就是你刚刚说的那个关键的水位很难持平如果说是

1840 年那个时候你让大家都接受科举制已经过时了那个很困难今天的好处也不能叫好处就是今天一个现实是你不用真的等那么久因为大家很快就会见到真实的东西了 1840 年那个时候毕竟你让中国一个内陆县城它感受了洋人的冲击它没有那么剧烈对不对它顶多能见到一个火柴但是它可能见不到铁路因为铁路修复需要时间但是今天呢你

你再怎么对技术怀疑的人其实你也不需要跟他争论因为几天之后他就会在现实面前败下阵来对吧他周围人人都开始在 office 用的时候不再打一整行字了他就直接在旁边问我现在想写这么个东西你帮我列一广稿子来他就列出来了你再怎么怀疑技术的人他也很快就会用上这个东西所以这是一个事实层面的征服他的过程所以关键手段反而是比较容易持平的因为大家会眼见为实

你让大家想象一个未来是比较吃力但是你让他看到大家比较认可你让他用到他就更加哑口无言了我刚才说我那个律师朋友他自己其实非常非常不喜欢探索新技术的人你让他说服他用一个新的 APP 是非常困难的他真正一用到他发现这东西真的管用那他就很快就被说服但是被说服这东西有意义这东西有影响是一回事

做好准备是另外一回事因为很多人我刚才说了他不是那个资源的占有者他很可能是那个在这个浪潮中间被摆布的被淘汰的或者说至少是被冲击的对象他可以说好的我现在知道了我关键跟上了我知道 office 可以干这个了我本来花上一小时他能做的话能变成他来往中就给我干好了但这只能说明我老板不需要我了我该怎么办

首先最大的回答当然是最简单的回答就是我不知道因为我确实不知道但是如果你今天是一个仍然在职业生涯出去的人我觉得有一个可能是老生常谈但也确实真实有效的回答是这样的就是你必须意识到当大潮袭来的时候你最大的资产一是你的安全保障

这个安全保障当然体现在各种方面而且这东西很大程度上也不是你自己能够想有就有的也取决于你的家境或者怎么样但是安全保障是第一位富尔代就这个水位会高一点是吗富尔代就在这个泰坦尼克的

是的开玩笑你说这不是开玩笑这是真实的但是第二个就是你保持自己的灵活性这个灵活性体现在不管发生了什么样的未来你都有以某种方式这个某种方式可能是比较你不好想象的方式包括你能开玩笑说好的我以后去给人送外卖或者好的我以后去当厨子有开玩笑的成分但是无论如何你越有选择或者你越能够保持自己的那个

选项的 flexibility 你就越能够迎接这个变化你越早把自己锁死在一个道路上你就越不容易迎接变化今天很多在互联网上的关于 AI 的讨论下面最常见的评论是什么说好的我明天就去考工因为你知道对中国人来说宇宙的重点是体制

所以

我知道这话听起来非常的虚而且这也不是什么有 action item 的建议但是保持自己的 flexibility 可能是面对大潮的时候能为自己做的最好的事情

我分享几个最近就是也是在网上看到的和身边接触到的这个关于吃 LGBT 的段子就一个是呢说凡吃 LGBT 它接下来就会把我们的智力情感的功能角色部分的取代甚至是全部的取代那我们还剩什么就还剩一副皮囊那不如从今天开始就每天去健身房

起码这个是 XGBT 不能够取代的就是一副美丽的皮囊然后第二个是也是我在那个课上然后也跟我的一个学生交流然后我就说那其实像他们现在都还就是在念本科生研究生就像你刚刚提到的这种职场初期可能都还没有进入即将步入职场的这么一群人

其中一个女孩呢她之前是特别喜欢写作然后我就问她说那你现在知道说吃 HPT 它可能会在未来有这样的一些影响你会怎么样去调整自己现在的时间分配

然后他就说他现在可能就会希望说能把更少的时间放在写作上因为他发现差 GPT 已经可以写出非常漂亮的非常精准的句子所以更多的时间放在写作上会让他觉得就是浪费时间浪费精力不能够对未来去做出一个更好的准备那这些时间要放在哪了他的回答是他希望能够放在更有创造力的工作上就是能去做一些更有创意性的事儿

我觉得这里就陷入一个其实有点吊诡的一个状态因为首先在过去在我们看来写作本身就是一个具有创造性的事其次如果说写作都不算是一个具有创造性的事了那什么样的事在 XGBT 的时代它仍然是具有创造性的它仍然是足够创新足够有创意以至于它不可能会被 XGBT 取代的

因为这种创业性的工作不会被人工智能取代我觉得这也是一个科技界的一个这种老生常谈我不知道是不是就讲出来还会文科生的但是我这一天在比如说网上刷一些评论的时候也看到就是 CHP37 现在也可以部分的去进行创造了我也想把这个问题丢给你你觉得这种我们可以把人的这种精力智慧更多的投入在创造性的工作

而不是重复性的工作上这个说法在差 GPT 时代是站得住脚的吗是可以让我们免受冲击或者说减少我们所受的冲击的一个行动吗

你刚才讲了两个事情我觉得都挺值得回应的我先回答第二个问题不要先回答一下漂亮的皮囊的问题了作为一个很需要去建设房的人我先回答第二个问题然后回头来讨论皮囊的问题第二个问题是创意的问题我的简单的回答可能不是那么简单今年二月份有一个论文是讨论怎么用 GP 帮助科研工作者做 research

然后他就找了一个领域他让 GPT 来完成四个任务一个任务是产生新的 idea 一个任务是综述已经有的工作一个任务是准备 data 准备数据一个任务是实现和测试

那么你听起来你觉得这四个任务第一个任务就是你刚刚说的更接近于人所所得的创造性工作对不对产生新的 idea 然后后面那些听起来好像更琐碩一点更技术性一点然后他把这四个任务都交给 GPT 来做然后把 GPT 的工作交给专家来打分最后发现什么呢发现 GPT 得分最高的是第一项不是二三四为什么呢因为产生新想法这个事情

而落到了 GPT 的强项就是他从已有的各种各样的实施的海洋中我不管这个比喻什么意思或者说一堆语词的海洋之中找到可能可以连接但人们还没有想出连接的东西出来然后把它作为一个新的 ideapropose 出来这个东西反而让他来做更有效

真正你要让他老老实实去准备数据测试他可能反而至少今天的 AI 水平就那么回事那这个故事告诉我们两件事情第一就是你所谓的创造性活动其实没有那么不容易被 AI 所攻克 AI 是可以做这种事情的第二存不存在 AI 暂时也做不到的真正的创意那一定存在我们一定能找到某些极端的例子在艺术上在科学上在

文化观点上完全原创性的它不存在在既有的世界上的东西完全从无到有的创新出来我举个很简单的例子假如今天没有比特币 AI 差点 GDP 能不能设想出比特币这样的东西我其实有点怀疑因为它建设了一种完全新的想法

这东西不是从既有想法中间联系出来的它是一个新的东西当然你也可以说它其实是把某一个 idea 跟某一个 idea 放在一起它总不可能真的从 canon 掉下来但是它不那么能够从现有的所谓的知识元素的海洋之中挖掘出来这样的例子是有的

但是这样的例子本来对普通人来说也没什么实际用处你一个普通人有多大的几率在一生中发明一个像比特币这样的东西不太可能对不对所以它作为一种安慰是没有什么意义的你必须要真正非常非常原创才够用那一千万个人中只有一个人那这对大部分人来说不构成任何实际的操作性

这是我对你第二个问题的回应这是一个不太振奋人心的回应但是结论就是原创性这个东西至少平庸的原创性或者日常普通老百姓可以达到的原创性其实没有那么神秘 AI 是可以达到的

你的第一个问题关于皮囊那个问题我觉得它不是一个段它是一个真实的问题就是说皮囊听起来有点过于物质化对吧你可以靠整容来获得一个好的皮囊但是我刚才说了在未来的职场上或者未来社会结构上 AI 可能最无法取代人类的是关于人的 interaction 的部分你怎么样说服一个人你怎么样领导一个人你怎么样团结一帮人你怎么样去塑造共识怎么样去迷和分析这些东西而且

而这些东西确确实实在很大程度上是依赖于我们人作为生活上的人的一些特性的这个听起来在过去的时代政治有点不正确如果你在过去的时代你说职场上长得好看的人会被优先提拔虽然大家知道这可能是真的但是大家认为他至少不应当如此你应当提拔谁呢应当提拔是那个能干的聪明的而不是长得好看的但是如果你的能干和聪明被 AIS 取代了你剩下的可能也确实就是好看了或者至少我觉醒了天哪

普通人到底要怎么办是但是我这里来把它说的政治正确一点我们这里说的好看不是弄一张网红脸那种一张好看而是更抽象的 leadership 或者说是影响人的能力或者说是克里斯玛对克里斯玛对这个词比较政治正确一点它不是单纯你搞一个寒食伴有酒就可以搞定的神才需要一些更抽象的东西但确实这个东西对 AI 来说是最困难的因为说老实话当你说我们应该提拔最聪明的

其实难道聪明不是也是一种类型上的升职彩票吗为什么聪明这个天生的天赋作为评价人的标准就好像很合理而皮囊也是一个 DNA 举证的东西就不合理

你仔细想想看这件事情其实也没什么必然性它也是一个工业革命建构出来的观念所以这个观念既然可以被建构出来它也是可以被打破的你没有理由认为一百年后的人们就仍然把聪明拍在皮囊之前因为它其实也就没有什么特别本质的原因

所以对我们说平常可能有点不太好说克里斯玛这样会好一点那这个东西可能是如果你今天想自我改造从自己身上做起可能着手的比较有效的途径锻炼自己的影响力锻炼自己的沟通能力锻炼自己 build 一个 team 的能力锻炼自己因为美国人喜欢说那套 NBA 的词 make things happen 的能力这个东西可能仍然是真实的所以我觉得第一个反而不是一个断了它是一个确实存在的问题

我现在听完了今天这两个小时的科普也好解释也好就是自己觉得确实觉得我自己会需要更多的消化一下我觉得不光是说它作为这种技术上的基本的结构也包括

它可能会带来的一些这种社会上的影响如果往深一点去想的话它真的是会重塑这个社会的方方面面就是我平时很少讲这个话因为我觉得这是一个非常空的话这是一句非常空的话就是哪件事其实说摆了任何一个形容

小的这种进步他都有可能达到这样的一个目标但是我在今天听了这两个小时之后我确实会有这样的一个感觉就是如果我稍微往深去想他确实是会重塑我们社会的方方面面吧就是从我们的工作从我们修显的方式从我们跟人打交道的这种方式我们的教育我们对于社会中什么样的角色是更有优先级的或者说

更本质的就是我们作为人之所以为人的这种更存在主义的一些思考我觉得它确实是一个非常非常值得去时时的关注然后保持更新的一件事那最后我想问一下穆扬老师你个人你有在为这一场变革的到来做一些怎样的就是个人层面的一些准备吗

我觉得我能够做的最目前来看最重要的事情就是我得理解他发生了什么事情即使我可能可以说是我自己就是程序员出身所以理解起来可能比一般人容易一点我也仍然觉得要跟上这个每天新的东西的冲击是一个很困难的事情他真的太快了就是

这周二 GPT-4 发布的那一天推特上有个段子说 3 月 14 号那天刚好是派对所以 Google 和 OpenAI 都推了新的东西出来然后网上有个段子说 2023 年 3 月 14 号是人工智能发展史上重要的一年他的意思是说那一天发生的事情就像平常一年发生的事情一样就是这个东西你想跟上这个速度是很困难的事情

所以我觉得我努力跟上努力了解它的潜力努力了解有什么事情可以自己上手去做这就很困难我周围有很多朋友在做类似的事情我每天会交流有什么新的工具出来这些东西可以试着用一下它的好处是你真的很容易上手

以前你要一个心动技术出来了你要把手头既有的东西放下去学它是有点心理障碍的那这东西只要你有点技术上的积累你要上手没有很困难你可能找一个周末花上四个小时就可以做出很多很多东西出来了这也不是调研校 GPT-4 出来的当天那个人发布的时候他照了一个自己纸上的一个草稿然后交给 GPTGPT 几秒钟之后就生成了一个网站出来他就说 OK 你既然说的这么厉害我来试试看然后

一夜之间真的是一夜之间推特上就出现了用 GPG4 来做一个小游戏用 GPG4 来做一个 APP 用 GPG4 来做一个互动性的服务都出来了那这种时候一方面很让你觉得焦虑大家都弄好快一方面也让你觉得有信心因为你觉得好像也没有很困难这么多人几个小时都做出来那我应该也可以所以上手是比较容易的事情积极的投入进去可能是我今天能做的最容易的事情当然你可能会问那我不会写程序我连上手都不会怎么办

我也不知道这不是一个很容易回答的问题但是对我来说跟上这个技术浪潮本身既有挑战性但同时还挺有乐趣那我问一个也许就是普通人也能够有一定参与感的问题吧就是比如说如果作为一个不是特别有技术背景的人想比较快的比较及时的去跟上现在这些信息用什么推荐的工具或者说信源吗最简单的办法就是了解这样一个 raw sum 嘛

第一这里是老分长谈了少看简中社交媒体第一方面它有一个现实的信息壁垒的问题就是大家都知道的那个问题我们就不展开了第二它确实你反正简中道不论是转述你还不如直接看源头只要你有看英文的社交媒体的能力和技术手段你就应该直接去看那个会比较快第二多看一线的资浅的

但是活跃的工作人员的讨论少看 big names 的讨论

因为越是功成名就的人不是说他们的观点一定是错的或者落伍的但他们不是在一线工作的所以他们第一还未必有那些名不见经传的一线工作人员的知识来的更新第二他们会很容易受到他们既有成见的影响比方说我们大家都知道一个非常著名的人工智能的专家图灵奖获得者燕乐存其实应该叫燕乐坤或者杨乐坤他的各种各样的翻译

不重要就是他是一个非常重要的专家但是他在过去几个月里面一直在长篇累读的写说为什么这东西不重要或者这东西方向是错的这是不是意味着他已经彻底被时代抛弃了那也不一定但是他确实有他的成见在他觉得这个方向价值不如大家想象那么大但是他最近好像渐渐也开始承认这个比他想象的要更有价值了

而这种错误一线的研究人员是不容易犯的而一线人员很多人是非常活跃的用社交媒体的所以最简单的办法就是你去推上关注那些今天正在 Berkeley 今天正在 MIT 或者今天正在 OpenAI 今天正在 DeepMind 做这个东西的人他们很多人是保持非常活跃的社交媒体的曝光的去关注他们去看他们的讨论是最容易跟上这个浪潮的方法

而且他们会彼此争吵然后你通过他们之间的争论就能够更容易获得很多 insight 我觉得其实我们都在面对一个非常大的未知而这个未知很可能会超越我们之前的未知我们之前的未知会带来一种想象而这个未知会带来一种恐慌我承认这一点而且我也非常理解这一点但是我自己从我自己在社交媒体上的活动所后面收到的反馈最大的感受是很多人仍然在用一种

怎么说呢看热闹的方式在理解这件事情他们可能会借机抒发一些焦虑甚至借机抒发一些不满比方说很多人会借机讨论为什么我们中文的语料不如英文的语料好因为 blah blah blah 这些当然都是非常真实的情绪但是就他有的时候会让你觉得很多人是在用一种情绪化的方式在看待这件事情我们当然都知道今天的互联网本来就是这样每件事情都显得像是一个 drama 一样的

大家会用一种看热闹的方式来理解我们周围生活中的每个变革但这件事情我觉得它比一般意义上的表面的 drama 要更深入一点所以它值得你去抛弃成见也抛弃气场反射式的情绪化反应而去更仔细地理解一些事情

包括理解一些平常可能不会问自己的问题比方说什么对你的人生来说是最重要的如果你今天你对人生的理解被证明是要被推翻了或者至少要被潮水冲破了那你将以什么样的方式来重塑你对人生的观念或者再问得极端一点这种问题一般人不会每天问自己就是如果你今天可以选择你人生的一个 purpose 那这个 purpose

会是什么才最让你觉得即使你的工作被 AI 取代了它也仍然能让你觉得你在这世界上安身立命是有意义的