Deep Dive
Shownotes Transcript
人们经过使用 AI 的辅助甚至主要使用 AI 的这样一个它的生成造就那些新的话语新的观点新的论证新的证据
回到了 AI 那个预料库那么就非常麻烦了到最后我们就是真假难辨 AI 生产的内容很容易模糊真实与虚拟以至于我们今天很多看的社交媒体上的视频大家都不知道它到底是现实派的还是人工智能虚拟出来的人民社会科学的学者对于公共政策的制定来说提出了一个非常高的要求就是你能够提供什么样的规则
规则技术不管是实现我们目标的工具然后技术它其实在塑造我们它已经显著地脱离了文化演化的那个能够吸纳的进程这才是那个基点真正令人震惊的原因
大家好 欢迎收听由大观天下制制作播出的播客东腔西调我是何必今天我们请到两位老朋友聊一期非常前沿的话题这两位老朋友就是来自华东师范大学子江特聘教授刘晴老师和来自北京航空航天大学法学院的翟志勇老师那两位老师和大家打招呼东腔西调的朋友们大家好 我是刘晴非常感谢您的参与
非常高兴在这里能够和智勇一起来探讨一个新的有意思的话题东江基调的朋友大家好我是翟智勇今天前沿的话题就是人本智能 AI 时代我们如何生活得更幸福
说到 AI 其实是这两年非常热门的话题业界很多人都在讨论在新年第一周人工智能的领域又有两个大佬发了两篇重磅的文章或者是演讲第一篇是 1 月 6 号 OpenAI 的奥特曼发了一篇博文他说 OpenAI 基本明确的找到了通用人工智能 AGI 的路径
也就是说在今年或者是很短的一段时间内奥特曼很乐观的认为 OpenAI 可以找到一整套的通用人工智能就不再需要一个单个的这种特殊的算法模型了然后同时呢他也认为说今年第一批人工智能体就能进入到劳动力市场
我猜想因为 OpenAI 主要是在做软件性的工作它可能会今年找一些机器人厂商共同合作来去做一些能够实施通用人工智能的智能体在劳动力市场做一些试水那第二篇呢是 1 月 7 号
英伟达的黄仁勋在 CES 就是美国消费品电子展览上谈了英伟达的今年的五个展望其中有一个展望让我特别的震惊就是他提了一个概念叫物理 AI 那什么是物理 AI 呢他说今年英伟达要推出一个 Cosmos 世界基础模型因为在训练 AI 大模型的时候通常需要现实世界里的很多数据输入进去让 AI 去自主的学习
而这个过程本身其实是有很多的障碍或者是低效率的所以黄仁勋就说我要去创造一个世界基础模型把目前当下现实世界里所有的物理定律都放到这个模型里面到时候每个 AI 厂商想要去训练自己的 AI 都可以用我这个基础模型比如说有一个厂商想训练一个山地地区可以这个呃
开展交通的 AI 算法那他就直接用这个 Cosmos 直接用这样一个世界基础模型虚拟出一个山地世界让 AI 公司去训练
那这样的话就是 AI 本身几乎可以就就完成了一个自循环了就是我自己生产出一个环境虚拟出一个很现实的环境然后让 AI 自己去训练可以说 6 号和 7 号这两篇很重磅的文章和演讲再一次向大家展示了
AI 人工智能给我们未来的发展带来的一系列的愿景但是我们也知道 AI 发展的如此迅速但是也给我们带来了很多的问题比如之前
之前我们一直在讨论 AIGC 也就是 AI 生产的内容很容易模糊真实与虚拟以至于我们今天很多看的社交媒体上的视频大家都不知道它到底是现实派的还是人工智能生产出来的再比如很多厂商其实在一些陪伴性的游戏里面就嵌入 AI 可以做这种情感陪伴越来越多的人可能觉得 AI 要比周围现实中的人更了解自己
再有就是像我们做内容的会特别敏感就是 AI 生产了很多文字图片视频信息那这些信息它的版权是谁的是 AI 自己的还是我们给 AI 发命令的这些人的
版权还是说就压根就没有版权了我想这一些都是我们现在当下世界运行里面和 AI 不太能够去适应的这些矛盾的地方所以今天就想请两位老师一起来聊一聊既然 AI 技术发展如此迅速同时又和我们当下世界有这么多的矛盾和冲突那我们如何去适应它如何能够让 AI 技术能够让我们生活的更幸福
关于人和技术矛盾的这个问题其实我自己有一个基本认识就是这个东西应该不是一个新问题两位老师感觉呢我先讲一个有点体感的这个状态就是你现在看这个只要你用社交媒体或者任何媒体大概我一个星期会收到三次或者两三次吧就说又有一个突破
然后真是逆天了然后你会非常惶恐然后对你的实际生活有什么影响像我们这种人是跟这个世界会有一个习惯是要保持一定距离你就说不能随着这个随波逐流世界上什么流行了什么时尚了你就跟着走我们是不是紧跟着但是现在在这样一个话语环境下你会惶恐因为你发现它有一个
非常大的改变就是由于它是跟内容生产有关系的像 AIGC 这种然后你现在像我们这种人是内容生产吧也算是就是你要输出一些无论是你的演讲视频备课写作著作研究
这时候你会发现出现了一个第三方以前是没有的以前就是我针对我的读者现在呢我在说这个话的时候在做这个论证的时候想这个观点的时候我要问问这个人我要问问这不是人问问 CHARGPT 怎么说的问问其他的人工智能的他们最新的研究是不是有新的东西
然后你会心圆意嘛你真的是会被 disturbing 的会被会被烦扰到的因为你你对自己不确信的以前你看我我搜查到了文献好我就开始展开了现在做一个事情我也是特别慢的来说现在他会怎么说就出现了一个第三方而且这个第三方呢不光是他生产的东西他生产的那些话语形象也好他又进入到了
我们现在的预料库进入到了我们的这样一个话语当中也就是说它不光是版权的问题它会再生产就是说 AI 自己也会收到人们经过使用 AI 的辅助甚至主要使用 AI 的这样一个它的生成造就那些新的话语新的观点新的论证新的证据回到了 AI 的那个预料库
那么就非常麻烦到最后我们就是真假难辨有的时候 AI 告诉我们这样我还不能确认我还要用其他的 AI 的不同 AI 的那个软件来相互让他们这个 crosscheck 相互这个对勘一下就你现在你现在的生活实际上就对我来说就这几个月吧
非常强的觉得存在着一个第三方力量这个第三方力量是崭新的因为它是进入了我们的话语系统的这个是一个切实的问题我不知道志勇会有这种感受吗
对 翟老师你在自己的工作中有没有感觉到 AI 开始入侵你的生活和工作了入侵其实上是会有了因为基本上你会主动的去用它某时候你会被动的会去用对吧被动用主要是学生用这个 chat gpt 写作业你怎么能够识别出来
我今年课堂上经常虽然我一再强调但是仍然能够看得出来有些学生会用这个单模型来写作业你被迫的要去使用这个技术熟悉它
刚才刘老师分享我突然也想到一个前两天和一个画家朋友聊天的一个讨论特别有意思因为他发给我一个有人写的一个文章他讲在抱怨什么呢抱怨说他现在想在网上找一些图片但他已经很难找到人拍的那个图片了很多的图片都是 AI 生成的就是你去搜索一个什么主题比如马上十个年了你要搜索一个什么主题的图片
出来的排在前面的大部分都是 AI 生成的他想去找一个比如人画的人拍的就已经很难了然后这朋友是个画家的朋友
他就想说我们将来还存在还有什么意义了对画家就是要创作这个作品的本身就是要创作的但是后来我就安慰他我说你要这么想当我们每个人去网上搜图片的时候我们搜的都是 AI 生成的我们特别想渴望有一个人画的图片的时候画家的意义真正的凸显出来了你创作出来的你自己亲笔画的那个画未来会特别的珍贵因为我们其他的都是 AI 生成的
反而人创作出来的呢是一个特别珍贵的东西志勇谈到这个我就想插一句就是在大机器工业时代会发展出一个叫手工制品就是当然他们仍然打不过整个大机器流水线的生产比如说手工刺绣对吧然后手工的水角
对它不是那种机械手表跟电子表这是一个非常典型的例子就是是 manmadehomemade 这样的食品也好用品也好但是他们仍然存在是小众我在想现在现在网络上是不是会办一个网站说我们这里所有的照片都没有美颜的
就去美颜素颜素颜这个图库然后还有就是无论是你绘画也好视频也好完全不接触 AI 会有人做这个的因为就像刚才这种谈到那个画家的那样一种关切吧他那种忧虑会有人做但是呢
我觉得它是非常小众的就现在我们用多少是 homemade 就是有人做的比如说奶茶是自己怎么样做的水饺是人工擀的包的它是会存在它是由于有大工业的这样的生产它会有它的自己的特色但是确实特别特别少了
对我想接着刚才刘老师这个说就是您提到了大工业对于人的生活的改变其实在这个意义上我们会发现新技术对于人类自身熟悉的社会的冲击并不是第一次 AI 某种意义上只是我们在近 500 年进入现代社会不断的技术演进中最新的一朵浪花
那此前在这个过程中我们知道像大航海时代欧洲的这种商人可以从美洲攫取大量的金银改变欧洲的这种社会结构再比如说像刚才老师讲的就是大机器工业就最典型的就是食品工业就可以通过工厂生产食品能够养活很多人但是我们之前特别熟悉的小时候妈妈的味道就那些手工的东西反而
反而变成了某种奢侈品就是就在不断的冲击着既有的这样一个社会体制那两位老师能不能从各自比较熟悉的角度先给我们回顾一下就是
过去 500 年有哪些技术进步或者是重要的技术发明对人类社会产生了非常大的冲击以至于在思想史的角度在制度史的角度让人们做了一些对于我们现在来说很熟悉也很重大的这种改变或者突破呢思想史我比如说首先是一个对技术的理解的问题就是最早呢我们有一个比较朴素的技术观就是技术工具论
我们知道技术呢先开始是把它看作人类的这个肢体的延伸可能最早掌握的技术人类最早掌握的技术是火就火当然是自然的东西森林的火但是对火的驯化的使用是人类最早的就是它可以用来取暖啊烹饪啊防止野兽啊到后来我们发现就是这种技术它不是一个工具
这个观点大概至少到海德盖尔那里就有了但最重要的一个技术哲学家之一吧是法国哲学家斯蒂格尔
斯蒂格勒他不久前刚刚去世他就认为这个技术是会塑造人的就是我们以前讲技术它可能行善可能作恶技术本身是中立的技术是造福人类还是会带来灾难的取决于我们人谁来用怎么来用人类怎么样来对待技术但是你会发现它是有两面的一方面是说对于我们现存的人类的心智认知和价值观来说
这个技术给我们来实现我们本来已经有的那些理想啊愿望啊目标啊带来了更快捷更便利更有效的工具但是只是一面另外一面呢它重新塑造了我们的愿望我们的欲望
比如我可以举两个例子一个就是我们如何看待人自己的欲望比如说避孕工具改变了我们的弗洛伊德以后弗洛伊德产生的这个思想在二十世纪初就有了对吧但他带来的性解放的那个运动作为一个社会运动和社会思潮大概要五六十年代六七十年代以后才发生了因为那个技术变得 available 了避孕工具于是我们对性有了重新的认识
就性欲望变得正当化它不再是说是羞耻的是需要接受宗教或社会传统的那些规训是需要压制的疏解的而它是正当的是可以积极去追求欲望的那么这个性的思想就是人类你看新演化出来的面对的技术的一个适应另外就是一个关于工作
因为那个比如说那个大的工业文明带来的那个人的在流水线上的那个工作
他变得是非常把人也变成了机器嘛人是机器好像机器整个流水线的一部分而不是一个活生生的一个有感情的有喜怒哀乐的人那这时候如何理解工作他们对工作有新的看法比如说韦伯讲的说工作本身是跟工作伦理有关系的把工作神圣化但后来呢发现这个东西它不起作用这个是在啊
齐格蒙特鲍曼写的工作消费主义和新穷人里面他专门讲了我们怎么样让工作能够重新变得有意义有价值因为工作是劳苦的不光是在体力上劳苦他说在精神上你发现你就是一个大的流水线的一部分你淹没掉了你没有对那个产品的整体感那么最后他就是说我们建立了新的一个想法我工作只是把自己当做工具
但是我有可以把自己当成目的的地方是什么呢消费消费是对我那些在工作当中受苦受出的那些付出的辛苦的一个巨大的奖赏那么消费主义就开始变成了好像我们应对这样一个技术使得工作无意义的一个补偿那么有很多很多思想呃
有的思想就可以说是意识形态就出来了刘老师后面讲的这两个案例其实非常有代表性而且非常有意思就是一方面我们看到技术的演进对人的思想对人的现实生活都有很多的具体的影响然后最简单比如说像刚才讲的这种时空观的转变以及对于工作观念对于生育观念性观念的这种变化那另一方面我们也知道
刚才刘老师最后讲的说工作伦理要和消费结合在一起这个事要想能够完成一个循环的话
就得有制度上的安排我们就要有严格的工作福利保障有严格的休假制度你才能有充足的时间去消费你才能把工作赚到的钱去花除了这种很具体的制度之外翟老师您有没有从更宏观的制度或者是更宏观的这种社会规则的这种角度去看近 500 年技术进步给人类带来的很重要的遗产
我觉得有一些点可以作为我们观察的出发点吧第一个呢就是技术发展本身的不可预期很多重要的技术的诞生其实上都是偶然性的布兰加瑟有本书叫技术的本质他也在讲其实是
我们说的所有的技术其实都是过往各种积累各种小的技术积累积累到一定程度的时候它突然一个大的变化比如说智能手机就是苹果发明 iPhone 之前其实所有的技术都存在了只不过它到了重新组合了一下那个时候它能够把它重新组合智能手机就出来了然后它就会带来非常大的一类的影响回到技术的历史你就会发现
大部分技术其实都不是在预期之内发生的都是在预期之外去发生的所以这是第一个就是技术本身的发展实际上是不可预期的非常大的不确定性今天我们讲这个人工智能其实也是一样你看这些大佬今天说这个明天说那个对吧每个人都在预测其实每个人都没有那么确定说未来一定会是怎么样第二个是技术产生的社会的影响也是完全不可预期的
就是大航海的时候更多的是他只是想找到一条通往东方的贸易路线多赚点钱对但当这个贸易路线被开通之后你会发现他带来的又不仅仅是贸易了带来的不仅仅是赚钱了比如说贩卖黑奴这完全不在他们最初的预料之内对吧
那么以及因为贸易路线的开辟后来带来的大的工业化的生产其实这也不在他们的预期之内那
它所带来的这种刚才刘景老师讲的对人的时间感空间感的改变这也完全不在预期之内所以技术的产生所带来的社会效应它是个之后的效应它可能过了十年二十年甚至说更长的时间我们才会发现原来发生的种种变化是因为之前的某一个技术上的变化所产生的
第三一点回到你刚才反复讲到的比如说法律也好制度也好其实它的回应会更慢因为法律对于社会现象的回应往往是某一种新的东西出现而且它形成一定的模式之后它还会去做出一个回应也就是说立法者其实更不会去主动的去预期说未来会发生什么我提前给他制定法律
不是 立法院往往是说一个事情反复的出现反复的出现大家认为说不得不去管了不得不去通过法律来去治理了那他才会进行立法那我可以举个例子比如说
因为刚才刘老师也提到工作工人你也提到我们现在都会知道我们工作有各种各样的工作福利也有各种各样的工作的保障包括工作场所的安全的保障但实际所有的这些东西都是技术带来的一系列的社会灾难之后的结果就是每一条安全规则后面都是一系列血泪的故事对比如说消防
其實早前半天的星期也是好多的制衣工廠有點類似於我們東莞這種制衣工廠一樣其實就很簡單的樓裡邊很多的人在那做衣服然後就發生了大火造成了很多的女工的死亡
然后大家才会知道要有消防然后要有工作环境的安全的保障要有逃生的通道所以我们法律里边有一本书叫做《世古共和国》其实主要是讲美国就是美国的法律的变迁是如何通过一个个血泪的故事造就的一系列的法律上的制定也好变革也好
所以就是从技术的产生到它所造成的社会的效应再到比如思想家学者对于这些社会效应的讨论形成一些共识再到法律跟政策的回应它实际上是一个很漫长的一个发展过程当然
可能在过去会更漫长那现在可能会回应更为及时比如说现在 AI 一出现对吧立刻有非常多的讨论然后就有欧盟就通过了人工智能法这是因为技术的节奏太快了它带来的社会变化也特别快所以因此的话他要求
学者也好立法者也好你要迅速的去做出一些回应我觉得刚才柴老师的这样一个解释深刻的印证了黑格尔的一句话密联瓦的猫头鹰总是要在黄昏后才起飞就是思想这个东西一定是要在经验的事实已经出现了以后才能对它做一定的回应
但是今天我们讲 AI 的主题讲人本智能的话题我想有一个很重要的现实性的因素就是 AI 技术发展的太快了而且不仅发展的快它和我们个人
结合的也越来越紧密了比如说我在准备咱们今天这一期播客的时候我也运用了 AI 技术既然是 AI 主题我也要运用一下 AI 技术我就尝试把国内几个目前主流的 AI 都注册了一下然后我用相同的问题去问他们
让准备比如说关于人工智能在 2016 年就是阿尔法购产生以来的时间线的分析再比如说像人工智能可能给我们目前的社会造成的一些矛盾或者一些张力有哪些比较典型的案例问他们不同的然后两位老师要是看电子稿后面我会有很多参考材料这一次的这五六条参考材料都是 AI 生成的
而且这个速度真的很快以往要想查这些材料我每一个问题都要在搜索里面去查然后把不同的网页阅读他们读一遍然后自己再总结然后再绘起来现在不用三个 AI 一开并列的然后一比较一下而且他们生成文本结构都特别规整我就复制下来然后一比较再稍微润身一下就可以了
在这个意义上我们会发现 AI 技术跟过往的技术的爆发有一个很不一样的特点就是它能够非常深刻的影响到我们个人的生活就像最开头刘老师您刚才讲的它甚至形成了一个 AI 内容生产的回音壁就 AI 生产东西给了我然后我今天做的这一期内容然后说不定下一次谁在想搜索的时候 AI 又把我的内容再检索到了
然后他又去把它作为一个 AI 产生的内容又给了别人就形成这样一个不断的会议那在这个状况下人们可能会遇到一些之前这 500 年我们没遇到过的情况
刘老师您在 11 月份参加财新峰会的时候也讨论了人工智能的善知之道一个很主题性的论坛在这里面您有一段话让我印象非常深刻就是您说人类正在转向三无人类的状态
无历史的时间感无实体的空间感无目标的体验感在未来的虚拟空间里有虚拟的国度虚拟的星球甚至还有虚拟的恋人您似乎对未来这种 AI 对我们人的影响有一个预想目前我看到的很多报道里面其实只是把您这段经典的话给练出来我很想听听您是
为什么会做出这样的判断以及您的这个判断能不能向我们再展开一下您觉得 AI 这项技术人工智能这项技术给我们自身带来了什么样的这种变化这个三无到底是什么呢就是我刚才开始讲的就是我们摒弃了一种叫技术工具论的看法对
对吧技术不光是实现我们目标的工具然后技术呢它其实在塑造我们这是所谓技术生成论吧 Take Genesis 这些一个观点像那个库兹威尔他也是说的库兹威尔他就是几点临近的那个作者他说我们的技术和机器其实就是我们的 Humanity 的一部分我们创造它们来扩展我们自己这正是人类的独特之处他是意识到这个问题就是说
技术会改变人类会生成我们人的很多很多这个非常基础性的层面那么但他是非常乐观的一个人或者说他是一个基础乌托邦主义者或者加速主义者但是呢我们发现就是在历史上我们都是要想通过文化演化来适应的但是这一次呢我觉得呢你想我们人类说哎
我们每次对新的技术从那个路德派那个砸机器啊这些好像都说当时都很恐慌那后来都还还可以嘛我们就走过来了嘛对吧比如说对环境的破坏我们后来有了环保主义运动有了环境运动有了生态生态的这个伦理这些都都发展出来但你想其实我们整个二世纪啊我们适应的并不那么好
我们二十世纪留下的很多问题包括现在一直谈谈的那个精神世界的那种迷茫啊现在每一代年轻人都会有的那种所谓相对主义虚无主义的问题一直是所谓现代性的问题它在某种意义上或者在某个层面上它就是技术适应不良的反应而这一次呢我觉得是我觉得人的立场从没有出现过这样的时刻就是技术发展到如此的它是迅猛
他已经显著的脱离了文化演化的那个能够吸纳的进程这才是那个基点真正令人震惊的原因就文化在以前他有蛮大的适应能力包括对火药蒸汽机印刷手电器通信技术我们都好像还勉强适应了但这次你会发现吧他那个升级换代啊
你知道现在的代际划分之细密以前比如说我们说十年或者五年是一代现在人家说这个 95 后和 00 后都不能够完全算作一代了现在人家讲这个什么 Gen Z 就是 Z 世代 Z 世代这个太粗了因为有些人他就是特别能够
适应最新一代的技术因为他们是原住民天然就好我们好多人都是技术的移民就是你很多技术还来不及新的这个技术还来不及我们还没用熟它还不知道怎么掌握甚至不知道怎么操作它已经升级换代了它已经有新的 updateupgrade 有新的升级版了
那么最重要的是他现在是他那个介入如此之深他成了我们构成性的一部分就包括刚才讲话语啊那么我讲的这个三无呢其实他是构成了我们最重要的是说我们人如果作为一个文化存在吧我们的时间感空间感社群感都是在跟
自然跟他人跟自我这三重关系当中建立的它最终会构筑我们的一个意义结构或者说意义产生结构我们知道人的意义它是赋予它不是一个动物性的自然的这样一个结构但是这个意义产生结构呢一般来说是要有一个连续的时间连续的明确的空间
和一个分布自己能够掌握的一个跟他人的关系网络在里面能够建立一个相对完整的意义阐释结构但你看现在我们的时间我们时间是破碎的还不光是说我们经常在使用短视频啊这样一些东西我们其实在多个时间频道上生活的就是为什么是我会说一个是没有历史的时间
没有历史的时间是说我们的时间我们对过往的追溯它不再能够安排在一个相对来说完整连续的叙事框架里面我们讲自己的过往会讲出一大堆故事比如说我现在在工作这是一条时间线早九晚五也好九九六也好它相对来说是有这样一个被公司的这样一种工作纪律安排的时间
但是在同时我在上班的时候我会摸鱼我会摸鱼比如说最基本的是两条一条是我购物购物的时候呢我是有一个另外一个时间线的就是比如说遇到特别是遇到什么双十一啊这个时候我要怎么抢购它那个时间是争风夺秒的然后我有跟朋友的共同兴趣爱好的朋友我们可能是读书啊
或者是什么登山啊健身啊我会跟不同的人在不同的时间平然后自己的亲密关系恋人家庭给孩子辅导作业我们同时在不同的这个时间的频度里边生活而这个时间对我们的重要性影响又是不一样的
所以你看我们很难说你过去一年做了什么你发现以前我们做年度总结的时候在我少年时代青年时代可以清楚的写出一条主线的现在变成一个什么现在变成一个比副调音乐还复杂的就等于说你有一个主旋律但是有很多副歌
这个主旋律呢有的时候在形式上你的工作是主旋律对吧但是有的时候你的工作你是很讨厌的在表面上你主要生活在工作的那个时间结构里但是像你自己最兴奋最愉快或者最重要的比如说有的妈妈我就知道她在上班的时候主要是在处理孩子作业所以你会发现她那个她构不成一个音乐你知道吗本来是由
主旋律有副歌你现在想象一下一个音乐家把我们过去一年的这样一个生活的心态谱写成为一个音乐它是一个既无调性又没有旋律是一个杂七杂八的这样一种状态所以它没有历史这是我讲的无历史的时间感
然后你的记忆就变得麻烦了你每一天好像都要新颖的是要从零开始和过去只有一些模糊稀薄的联系所以我们的时间感是破碎的第二个就是无实体的空间就是我们的主要生命活动对物理空间的依赖是越来越少我们人在办公室里我们连通到各个不同的空间这个互联网的空间里面
微信也好还有各种各样社交媒体也好所以你的生命活动发生在越来越多的生命活动主要发生在一个好像既不存在因为它在物理上是零但是又无所不在的一个互联网空间里面所以我们是一个无实体的空间感
然后呢由于这种时间和空间造成了我们意义产生结构的巨大的困难你要提供一个完整的意义是非常麻烦的所以那怎么办呢活在当下呀现在大家知道你活在当下你就体验就好了你现在但是你会发现这个无目不睭体验的他的那个感光快乐好像是可以找到你看到一段小视频一段透明的视频
脱口秀的段子你会很开心看谁做了一个美食很难看一个小姐姐跳舞你也会很开心但是这些体验你没有办法 make sense 也就是说其实人的意义像存在主义像萨特老师讲你的意义要阐释出来但那个阐释结构已经被变得四分五裂了所以我们就没有办法说这件事情有多少意义只要我们在
当下去体验就好了你不要想它能够对你的生活愿景长远的目标产生什么所以这就叫无目标体验我就为体验本身而体验开心了然后你无数个瞬间的小快乐小开心小惊喜你并不能够编织为一个
你的生活好像是有一个失量有一个明确的目标相对明确的一个目标的这样一种体验所以这种体验是破碎的是无目标的一个体验所以这样一种我们好像变得是三无状态了但是当我说这个话的时候我在想我是不是这里边有一个价值的偏见呢可能是因为我们是那个老旧的启蒙时代主张的
阅读文化这是在那个波茨曼讲娱乐至死的时候他讲的专门是那种由于阅读建立一个理性线性结构的那样一种框架里生出来的人可能现在小孩子他就天生处在这样一种他就是三无状态的这个原住民他可能很适应呢也不是所以我觉得有的时候人类他还是有
年轻的人和老年的人之间他还是有一些共享了人类一些更基础的结构当这些结构被困扰的话他会有很多不适所以现在的孩子他的状态是经常不稳定的这不是说要从我们外部评论他自己对自己的状态不满你看现在孩子最近我们去因为我跟颜飞老师有一本新书跟好多年轻人交流嘛
不是说要我们外部评价他对自身的状态当然这一方面有就业压力有经济的问题但他自己的情绪情感状态处在一个自己觉得又是失控又想驾驭的矛盾状态当中我觉得这是一个挺大的问题最重要的是我们的技术发展太快我们的文化适应文化演化赶不上技术发展
技术发展这个速度和强度它是介入性的它是介入到你的生活当中的就是超越了超出了我们文化适应对很多人来说适应的能力
这是我觉得是一个征兆就包括我说现在我要写一个东西包括要准备这个谈话我都会心愿意马上另外一个另外一方多出来的一个一个 player 这个 AI 的这些辅助软件他会怎么说他会
带给我什么对我想接着刚才刘老师我觉得您对于世代的判断还是很有意义的就是在更前几年就是区块链火的那一阵我关注了另外一个跟区块链很相关的技术就是 NFT 的艺术
我们作为可能作为老古董大家一般对艺术的理解还希望它会在技法上在细腻程度上会有一些无论是雕塑还是绘画都希望它更复杂一点但是 NFT 的艺术它就是几个像素点组合成的一个很粗糙的小表情或者一个小图片
但就有像刚才刘老师说的技术原住民很年轻的家里家境很好的人愿意去炒这个东西愿意去做 NFT 的艺术收藏我觉得这里面的确会有世代的这样的变化但是刘老师也提了一个很严峻的问题就是
在这个过程中 AI 会给我们个体性的人的我称之为精神结构吧会有很多新的改变这种改变呢在一个个个体上会汇聚成一个洪流它就会变成一个社会现象那在这个过程中翟老师您觉得在制度层面您觉得这种个体性的改变目前已经给我们的社会生活带来了很显著的变化吗还是说您觉得
这个变化还可以再观察观察其实已经带来了非常显著的变化如果我们从还是回到前面讲到技术发展的历史来讲的话你会发现其实在信息技术之前人类技术的发展新的技术它传导到个体往往是经过很多的缓解比如大航海航海技术的发展到它
这个结果传导到一个个体其实是经过漫长的链条工业时代也一样工业时代更多的技术突破实际是在工厂发明了蒸汽机发明了新的生产机器让它生产出新的产品这些产品栽到我们每个人消费者的手里实际上有一个漫长的一个链条但是信息技术呢
实际上它的发展每一步都是直接作用于个体的啊就像刚才刘老师讲那今天人工智能的发展它每发展一步只要它出来之后我们立刻就能够去体验到然后它就会改变我们的生活啊改变我们的呃工作这样的话呢实际上每一个个体作为单独的个体一下就会抛到这个技术的洪流里啊那实际上这个变化是呃非常大的一个变化呃
如果说从社会回应上来讲的话呢我其实刚才讲到有说法律的回应往往都是滞后的但是这其实上是基于过往人类历史的经验那我们也会发现在当下其实很多法律的回应已经开始做一些我们叫做预防性的立法
就是先发制人对我知道它未来会产生一个巨大的影响虽然我不清楚影响会是什么但是我要提前的去做一个预防像欧盟人工智能法就是一个非常典型的预防性的立法我们可以说
今天真正意義上的人工智能這個全貌是什麼我們其實並不在心中對吧我們今天更多的談的人工智能其實讓是基於這個大語言模型來講但這只是人工智能的一個側面因為它只是處理語言問題那還有很多的其他的人工智能還在發展的過程之中但是歐盟已經迫不及待的要做一個人工智能這樣的一個立法為什麼
他预想到这个东西会产生巨大的影响那我现在必须要去采取一些措施进行去应对它但是它未来会产生什么样的影响我也不清楚那怎么办那你就看到他的立法就会
它其实实际上是基于风险来进行立法就是他把它转过来就是有一些风险我是完全不可以接受的对吧 OK 那我就做非常严格的限制而有一些风险呢是我经过一定的限制我可以接受的而有一些风险呢那可能就是一个通常来讲我们就可以很自然的去接受因为所有东西都会带来一些风险嘛
所以它实际上是去把未来技术可能带来的风险做划分每一类的风险我要去采取什么样的一个应对的措施那至于什么东西会落入到它所划分的这个风险等级里边其实让它不清楚那你就会发现欧盟人工智能法和我们过去的法律的不一样的地方就在于说它没有办法拿过来直接执行
因为几乎所有的规定都是原则性的都是不明确的所以他才会在立法之后成立一个欧盟的人工智能的一个专业的部门这个专业的部门干嘛呢实际上是再去具体的去细化每一条规定或者每一个要求我怎么样去执行它
而它的一个细化过程实际上它要非常紧密的去和技术发展结合在一起就是说某种程度上来讲你出了什么东西我就立刻给你一个应对你出了什么东西我立刻就给到你一个应对那这其实也是一个没办法的办法就是说回到刚才这个刘老师讲的就是它变化
变化太快了他发展太快然后他带来的危害带来的影响又特别的大那怎么办那你就必须要去做的就是你立法能够对所有的变化做出一个迅速的回应那这个迅速的回应你又不能够瞎回应对吧怎么办呢就是立法者给到你一个基本的原则跟框架
然后靠执行者根据技术的发展不停的去有针对性的来做一个回应所以他会去改变未来人类法律的一些形态我们过往法律的形态更多的是非常成熟的立法按部就班的去执行然后严格的一个司法
那未来可能更多的话我们法律中也有一个讲法叫做回应性的立法回应性的这个执法回应性的司法就是你出现了什么问题我立刻的来做一个回应但是实际上就是法律其实很难去解决一些很根本性的问题就是说我们只能去防止最坏的那个情况去发生但是有很多的问题是法律没有办法去解决的比如说我们刚才刘老师讲到的
这种人工智能技术的发展以及它的使用所造成的人类的这种三无状态对吧或者说三无人类实际上立法完全我们今天的立法其实没有办法去禁止说因为人类可能进入到三无状态所以技术就不要发展其实是没有办法做到的对这是不可能的技术一定是会向前走的对那技术只是但是我嗯
你先说那立法其实只能怎么立法只能有一个基本的导向就是说你所有技术的发展仍然是要以人作为一个根本就是你不能够把人当成一个工具来进行发展就人仍然是一个目的就你这个技术最终还是服务于人类的福祉把人当成这是原则对不对对这是一个原则
这个原则必须在今天的立法里边去捍卫就像你讲到的人本智能就是你智能的发展实际上是为了解放人类使人类获得更多的福祉而不是说把人类变成了一个工具最后人变成了人工智能的一个工具这样的一个基本的原则其实是今天的立法实际上是去捍卫住
那至于捍卫住战的一个基本原则如何在具体的实践之中能够得到一个实施那很多的时候可能光靠立法是没有办法去解决的那包括像知识界思想界包括这些人工智能的企业可能都要承担起这样的一个社会责任就是我想起那个尤瓦尔赫拉利他有一次演讲当中他提到这样一个问题他说我们对比一下
就现在的整个人工智能对我们的这个介入特别是话语的介入这么大但是他这些人工智能的软件就由一个私营公司他们自己研发出来以后他直接向社会就 release 了就发布了
他对比他说有没有一个家药物公司可以这样做他不能比如在美国你要物公司你要特别当然都是要以人为本的对人健康带来他有动物实验有小的样本实验有大实验然后要申报 FDA 对不对
FDA 是国家的所有私营公司要通过像 FDA 这样的一个机构 FDA 它背后当然是有议会啊什么这种要有一个公共机构来认可你才能够向市场来发布你这个产品但是我们人工智能就不是这样他认为人工智能是对我们生活的影响可能在很多层面上要超过一个药物
那么这里面就带来了麻烦了就是药物的这个你做小事做中事做大事业你是还是有明确的我针对什么症状我改变啥就治疗了它改善了它副作用是什么对不对但是你说我们发布一个新的软件我们讲短视频吧就是我们中国比如发明的某音对不对这个特别短的超视频它当然是人喜欢的是人喜欢它是对人有利的嘛
你看 Elon Musk 他就他最近他有一个演讲说他认为像他认为的那个推特就是 X 是好的你他说你花半个小时时间你如果看 X 然后你还会有一点收益你会觉得这个半个小时的时间是值得的但是呢你就刷那种超短视频他当时指向某个软件他就说
你花了三四个小时呢你觉得你好像陷入在空虚无聊当中是不是能够用这种感受作为说对人是不是好的是不是把人当做了赚取流量的工具还是把服务于人因为服务的人他接受这个他都是自愿的呀我们对自己自愿的事情是不是对人类就是好的
在以前是会有一个权威的等级结构来规定你的在这样一个平民主义的时代在这样民主化时代在文化民主化的时代你是谁啊你来规定我说我应该怎么样但是我们确实会发现文化有巨大的改变你知道最近我收到那个图书行业的一个报告就是在讲去年
出现的那个新的书出版状态到了什么地步 64%的书半年内销售不到 100 本不到 100 本而做到了发行到 5000 以上的书半年内只有整个出版行业书的种类的 4%就是我们的阅读人们对书的购买的还不一定阅读呢对不对
那个整个的阅读就这是整个的是一个文化的范式性的转变我们的阅读以后我觉得是会变成一个非常小的传统就像现在的书法协会一样就书法爱好者他们写写写书法大部分人他们的整个的这样一个世界是一个影像的世界那么你说这个到底对人带来的我们很难评估了什么叫对人本身是好的
他没有把人作为工具而是把人作为了目的我们是不是能这里面的评价是非常复杂的所以这是带来了那个立法的困难我就想说尤尔赫拉利的这样一个例子啊
在原则上来说我们可以说新的这样技术跟药物是同等对我们生活有着严重的影响的但是你要如果成立一个相对相应的像 FDA 的这样一个官方的政府的机构来审核它依据什么呢 FDA 作为药物来说我们有明确的相对来说明确的判断标准而对新技术它很难
所以这是非常具有挑战性就像志勇说的可能他只能达成一些原则但是下面要肯定成立委员会这个委员会会多到因为对一个新的技术马上就会出来一个相应的一系列的后果的评价这个评价的标准本身还在争议当中现在不光是 AI 特别是跟生物技术关联在一起的那样一些新的发明创造比如说
如果能够特别有效的增加我们的记忆力那会怎么样那会是不是使现在很多学习变得完全不必要或者是根本性的改变了我们的我们学习成长的经历如果我们的记忆可以外包的话那对我们人意味着什么
这是把人当做目的了还是当成手段了呢我觉得历史上没有这么严重的挑战过因为这次重新塑造是在我们人类的这个 humanity 非常底部的一些原则的改变这是一个非常大的挑战刚好接着刘老师对于未来的展望我想也有个新闻就是开头讲的 AI 界两个大消息那也是前不久就是 GoogleGoogle
Google 的下面它 DeepMind 做的一个 AlphaFold
就是他做了 AlphaGo 去下棋 AlphaFold 就是做蛋白质结构的探索他用人工智能做蛋白质的结构分析去帮助人类探索各种各样的蛋白质结构之前人们花了数十年时间刚探索了 20 多万个 AlphaFold 一来就把剩下所有的 20 多亿个的这样一个数量都给算出来了
而这个过程里面谷歌就做了一个很乐观的预估大概在未来很短的时间内人类一切疾病都可以攻克了这次不是谁诺贝尔讲过的他说只要你熬过这十年熬过这十年我想我们应该都能熬得过的确的假如我们回到一开始
最开头刘老师讲的对于技术和人的关系来讲就是技术不再是一个外在工具而是人的本身的某种延伸的话那 AI 这样一项和我们自己有如此紧密结合的技术的确会需要让我们去规定一些最基本的原则那翟老师刚才您讲到欧盟的人工智能立法它的一个原则在我理解来看来还是一个有点
非人本它并不是要去面对人它其实是基于风险管控的理念要去把可能的风险给降低在这里面它会有一些基本的内容上的原则设定但更根本的一个逻辑刚才刘老师也反复讲就是技术和人既然有如此解明的过程一开始我们对这个技术的
规训或者说对这个技术的引导的设定本身可能就要有一个更深层更底层的全面性的原则思考那在这里面刘老师上次参加的 11 月份的财新峰会我想中国也有很多企业在做这方面的努力
联想和交大还有 ESG30 一些行业内的和学界的机构共同去撰写的人本智能的这样一个报告其实就想去提供一个在人工智能时代有一个最基本的
治理的原则那就是从人的角度出发要去对 AI 有一系列的这样的规制那在这里面可能还涉及到一些内容就是刘老师刚才也提出了这个难题什么是人我想这里面就会有一些需要在操作上可能对
对这个内容有一个更规范化的那翟老师您是怎么看就是我们有了一个原则说我们需要人本智能的话我们有哪些细致的方面可能去做一些拓展我先接着刚才六老师讲到的赫拉利的这个讲法因为他的讲法确实很有意思因为刚才六老师讲说那我们所有的药物都要审批才能够上市但其实我们不仅是药物你想食品也是一样嗯
就我们所有的食品虽然它不需要审批但实际上都有非常严格的食品安全的标准 FDA 就即是药物和食品它实际上有非常严格的各种各样的食品安全的标准所以我们最近的一些中国其实一方面食品安全不是很好另一方面经常会出现违反食品安全被重罚的个案
实际上
这个确实是一个很好的一个问题就是说那为什么这些跟我们日常生活相关的药品食品可以有一个监管部门做一个非常细致的监管而像这些社交媒体这些人工智能似乎精神食粮对这也可以说是人家精神食粮传统的精神食粮似乎没有人或者没有一个这个机构能够做一个严格的审批或者是监管让我联想到刚刚发生的一个事情
就是 META 宣布它要放弃第三方的人工审查因为 META 是在一个是在剑桥分析公司这个事件之后因为它被美国的联邦贸易委员会处罚那么处罚中附带的一个就是它 20 年之内要接受一个监管那么另外还有就是
上次大选特朗普冲击国会山的一个事件带来一系列的影响那后来呢 Matter 实际上是委托一个第三方公司来对 Matter 旗下的产品包括 Facebook 其他产品中的内容呢进行一个审核也是被标注有问题的内容呢他人工进行审核然后进行判断然后进行处理那他现在呢实际上是放弃了这样的一个机制啊
那他给出的一个理由就是说这种人工的审核会带有审核员的偏见那他可能会去限制一些他不认可的东西而放纵另外一些他认可的东西所以呢他就把这种审核抛弃掉
这种抛弃调呢实际上是布了这个 X 就是 Twitter 的后尘因为马斯克收购了 Twitter 之后马上就取消任何的审核那实际上意味着说在美国的社交媒体中比之前江管会更怂啊
以前还有一些审核员一些监管现在实际上是没了但是他们相应的也会采取一些措施就是靠用户来进行审核就是你认为这个东西是虚假的你可以给他打标签你认为这个东西是有害的你也给他贴标签它变成了一个用户自己自我的那种一个治理好那就回到刚才刘老师这个问题就是为什么会是这样
就是为什么我们今天的社交媒体没有办法像过去的比如电视台也好报纸也好所有的内容输出其实都有审核的对吧但是今天没有了我觉得非常重要的一个原因就在于说这些平台今天的特殊性就在于说它实际上某种程度上来讲跟刘老师的研究相关它是一个民主化的公共言论的一个空间因为它所有的内容的生产其实上都是用户生产的
而不是平台自我去生产的海量的用户上传了海量的信息我那天看 TikTok 的判决书我才发现就是 Facebook 上每天竟然有 1000 亿条信息我都不敢相信当然就每一个算计 1000 亿个一条信息
那所有的这些信息其实是完全不可能有任何的机构任何的组织来去审查的而且尤其是你也没办法事先制定一个审查的标准说我什么东西是可以过什么东西是不可以过那这就实际上确实会使得它带来一个问题
那这样的一个完全的由用户生成的某种程度上大众民主化的这样一个平台怎么样去监管好那就回到刚才你问的这个问题就是今天事实上对于平台的监管对于人工智能监管国家主权国家实际上是非常头疼的
头痛在什么地方呢就是你一方面尤其像自身还想发展人工智能技术的国家你监管太严了不致力于技术的发展你监管太松了可能会带来一系列的问题而且呢所有的这些东西基本上是个全球性的就是你可以管得很严对吧但是别人只要管得很松
它那个地方仍然可以发展起来而且这个产业就流过去了对今天欧盟其实面临就是这样一个困境对吧你只能说我欧盟立法管我欧盟境内的这样的这个
这些平台但是其实欧洲人也可以越过欧盟的去访问美国的因为比如说一个 Facebook 它可能有欧盟版有美国版你也可以访问美国版实际上监管就会使得它的效果其实并没有那么好但是可能对于整个欧盟的人工智能产业的打击会是非常大
那回到刚才讲到的这个内容审核就是实际上现在的对于这类新技术的监管公司本身
实际上变得越来越重要就是你公司如何的进行自律公司如何的去制定规则然后去做内容的监管也好呀或者是这种危险的防范也好呀实际上是非常重要的这就是说我们去理解欧美在人工智能包括社交媒体上监管的不同的思路啊
那这个确实会和欧美整个的法律体系也会有关系因为欧洲的大陆法系的传统罗马法的传统就是一个自上而下的立法者制定规则然后你就服从规则就可以了
然后英国跟美国的普通法传统实际上就是一个自生自发的一个秩序它就是靠出了什么问题解决什么问题然后一点点的去应对这些新的东西然后积累规则慢慢就形成一个自治的或者是自律的这样的一套秩序那今天你仍然能够非常清晰的看到就是欧盟跟美国在这个方面的不同比如说举个例子
这个 GPD 出来之后很快的当时拜登政府就约谈几个美国的大公司就讲未来美国的人工智能的治理那拜登政府就提出来很简单安全我要对吧隐私我要那这个具体怎么做你们公司
自己想办法对想办法对吧我要你最终的产品保证安全保证隐私那具体你如何去实现那你自己的事情或者说那是你们这些搭车公司的事情那你如果没有实现那我可能会有处理你的方式所以
它就会变成使得这些公司在发展自己技术的同时会去注意或者说会去做这类的监管当然很多人会去批评这些公司怎么可能会去自我监管呢我觉得某种程度上来讲的话这确实会是一个公司的选择
社会责任承担的问题就是当然会有一些公司完全无所谓对吧我就优先发展技术但尤其是大的公司会起到一个标杆化的这样的一个作用就是你怎么你以什么样的态度来对待你的这个技术
尤其是说在一个开放的社会因为还有更多的不同的组织会盯着你对吧因为你是一个标杆的公司人家会看你怎么去做其实今天这个 OMNI 受到的批评是最多的因为大家都会毛头所有的关于人工智能的这个问题都会毛头都会对对着他因为他是标杆公司对因为他是个标杆公司那这样的话呢实际上嗯
我们法律中有一个讲法叫做法律上的正当程序其实技术领域中也借鉴这个讲法也讲到做技术正当程序就是在技术发展的这个过程中这个过程里边如何能够把一些
这个法律的要求伦理的要求公共政策的要求纳入到技术的这个研发和这个使用的这个过程中那这实际上的某种意义上来讲其实上是对于人民社会科学的学者对于公共政策的制定来说提出了一个非常高的要求就是你能够提供什么样的规则对吧
人工智能的伦理规则你能够提供什么伦理规则这些大的公司才有可能是说我把这些伦理规则纳入到我的这个技术的程序里边那监管者你能够提出什么样的一个监管性的这个要求这个要求能够是一个切合实际的所以像刚才你提到的像联想他们做的人本智能的这样的一个宣言其实这类的宣言
有很多的机构都在去做包括联合国也在做欧盟也在做这个有很多的 NGO 组织也都在做那么企业其实也在做但是所有这些东西呢企业做我就有一个特别的意义就是比如说第三方组织做仍然只是说你提出一个倡议提出一个呼吁但是企业参与去
发布这样的一个宣言实际上某种程度上是一个承诺对吧就是你对于社会公众做出来的一个承诺那这个承诺反而会成为大家去监督企业你是不是实现了你这个承诺的一个重要的一个机制就是美国的技术治理为什么他会看中这些公司的承诺就是因为美国联邦贸易委员会对于大公司治理的一个重要的一个方式就是说
什么样的规则我不管你自己去制定但是你制定的规则你得遵守因为否则就是欺诈我承诺对吧我承诺要保护安全我承诺要保护你的隐私但是我做的所有的东西都不是保护你的隐私的那他就可以是说那你就相当于你对用户的一个欺诈那联邦贸易协会就可以管当年 Facebook 因为建枪分野公司的那个事件被罚了 50 亿美元
原因就是因为你承诺保护用户的隐私保护用户的数据但是你还是被建交分析公司扒掉了那么多的数据造成那么坏的影响那你是对用户的一个欺诈所以 Facebook 也没办法它又接受这样的一个罚款
所以回到这个根本我觉得最终其实上在人工智能也好社交媒体也好在这些问题上的治理上可能他确实没有办法像食品跟药品那样依赖于某一个国家的机构去来审查去来备案去来批准可能更多的要依赖于这些大的技术公司他们要去
制定一个相应的一个审查和治理的一个标准那么我们现在面临的问题就是说我们有什么样的机制使得他们愿意主动的去做这件事情并且有什么样的机制使得他没有做到他的承诺我们有什么样的机制能够去对他进行一个监管刚才翟老师说的这一点我倒是对未来倒是有了一些畅想
刚才翟老师讲到不同地区的这样一个治理我们会发现它有一些差别的美国跟欧洲跟东亚之间都是有一些差别的而这个差别之间在我理解看来其实它是有更底层的对于人的理解的文化差异你比如刚才翟老师讲说美国人去监管说企业你做什么规则不重要但是第一
第一人的隐私就在信息领域了人的隐私以及你公司的经营者的诚信真诚诚实这件事这是他所看重的规则本身的内容他不 care 而在欧洲我们看到欧盟在立法的时候其实他要对这些实质性的内容有进一步的规定他觉得这个也很重要
那在东亚我们看无论是中国还是像新加坡这些地方他可能会更强调说在制定一些底线性规则之后希望人能够快速的把它去应用下来这就意味着其实在目前来看的话不同的治理逻辑或者说治理体制下面其实是有基于地方性的或者地区性的文化差异的那刘老师您反正时间也到后面了您能不能给我们做个畅想
就是我们会看到英美传统欧洲大陆传统东亚传统它对于人的这种基本的想象可能都不一样那在未来的话他们各自能够制定出来的 AI 治理的策略和未来这些不同的地区它的 AI 的发展可能会有什么样的差异您能不能给大家做个畅想
我觉得这是会有一个时序上的差异但最后可能都不行我为什么这样谈呢我可以这样讲大概在前现代或者早期现代我们其实都有一个家长制或者叫权威主义的文化威权主义的文化这威权主义文化它不一定是以前是有延民的等级的
后来的这个等级呢它不是制度化但它是隐形的比如说你出版一本书发表一篇文章它都是有门槛的你的作者你的发布者他都是要有很多资质的这个资质是他可能是大学学位可能是各种评级机构但现在到了一个推翻威权主义文化的时代这个时代呢最早来临大概是英美
他是放任的但是他规定一些底线比如说隐私啊不伤害他人啊等等然后呢其他的只要你不伤害他人不暴露隐私等等不造谣不对社会秩序有一种恐慌性的冲击那一切都是你的自由言论自由是特别重要的但是呢在欧洲呢可能他东亚国家更是这样他就是觉得
有的时候是他把民众在某种意义上当成孩子一样就是说你并不知道什么对你真正是好的特别是你长远的最深层的利益是好的你不能说我要就好了所以有一个正面的监管就是在英缅他是一个消极监管说你不要突破这个底线就好了那么这个现在能不能维持我觉得他是会有不同的路向比如说像
我们这次的人本智能的倡议我觉得他是说的特别好的以人为本智能向上这是核心原则然后他要保证什么呢要保证是可控他是实现安全可控确保 AI 技术是服务于人的不偏离人类文明的进步方向但你知道我们现在有大量蛮难判断的灰色地带怎么样呢我宁可慢一点
保守一点然后呢我可以走的慢一点来让自己的节奏放慢以后调整我的判断因为好多东西我现在是一时无法判断比如说我再讲一个讲一个事情比如隐私你保证了对吧不伤害他人保证了那这个东西就是好的吗你看
我们在平时对一个人使用暴力肯定是坏的你的自由伤害了别人的自由对吧伤害了别人的基本权益但在游戏世界里它可以是例外的我实现了我的这个暴力的欲望杀人的欲望但是我并没有伤害他人这个需要监管吗
可能在一个比较家长制的威权的文化里面就会觉得这是需要有引导的比如至少成年人是可以的但是孩子还不能够确定自己所以我们有一个什么青少年模式大家知道对吧但是这个东西能够维持得住吗就是我们对于大量的灰色地带我们不能够做决定的时候那么我们放慢一点但是你前面
大概在去年 12 月吧就是那个 Jeffrey Hinton 就是这个就是所谓 AI 的教父吧他也得了今年的诺贝尔物理学去年的诺贝尔物理学诺贝尔奖他是觉得没办法的为什么呢他说
如果有一个人他当然从 OpenAI 的内部那个分裂里边我们知道伊利就是他的学生他跟奥特曼就闹分歧了这里边就有所谓加速主义跟对齐派的这些分野他说呢只要两个东西存在你就没办法
让那些走得特别快特别冒险的路径能够服从一种保险的稳重的比较保守的稳健的那种做法为什么一个是资本主义一个是地缘政治他说如果 OpenAI 这样做了它能够非常大的吸引它的消费者用户你就没办法跟它竞争
所以你不能够取一个特别保守的渠道所以 OpenAI 会这样做那谷歌你没办法让它限制它的发展所以只要资本主义这样一个竞争模式在的话它最后都会大家越走越快还有一个就是地缘政治你说如果我们中国采取一个特别安全保守的方式决绝的要智能向善它善恶还不能分歧的时候呢我们宁可走得慢点但是美国发展了呀
我们怀疑美国在发展美国突破底线了呢或者反过来美国怀疑中国会不管这底线突破突破底线可以发展出新的技术那大家在这种相互的猜疑和恐慌当中他会走就会走那种非常冒险的路径所以他是非常悲观的就觉得我们哪怕现在有一些原则性的想法到最后都会
屈从于技术竞争资本主义竞争地缘政治竞争带来的那种加速模式所以我的看法是你说会在不同的地域现在会有不同的差异但是你可以从现代性的转型来看最后大家都走到了差不多的路径就是比如说一个民主化的文化
每个人只要不妨碍他人你自己觉得好就是好没有另外一个家长能够正当的告诉你说你这样使用你看这样的视频是不对的到最后会有什么状态你知道整个虚拟世界在游戏世界如果这个游戏世界成为我们生命活动和意义的主要来源的话我们的现实物理空间它会变成废墟的
就像有些现在农村地区他们被荒废了他们移民到这个城市来了现在很多人他不是真的能够因为虚拟空间他不是一个地理他的心性他的情感他的认知都移民到那个虚拟世界里面那个虚拟世界他都只能给你特别底层的比如说隐私权伤害他人的这个禁止
那一切都是他了然后物理世界现实世界就只能是成为让我们身体维持生物生存的一个世界而主要的精神情感的活动都发生在虚拟世界那就是很难管控的那么这样一种状态你说到底对人类是什么叫向善呢就连善恶对错的这些标准就连我们什么是要服务于人的目的那个人的目的本身都已经在改变了
那么在这点我来看最后大家都会走到差不多的这样一个状态因为如果你
那种比较过度的监管它会妨碍技术突破的可能而技术突破它又由资本主义的竞争模式和地缘政治竞争模式所驱使如果没有一个全球性的共同治理非常困难刘老师这个担忧我觉得是非常有现实性的一个担忧翟老师最后问一个问题其实在您最早参加我们东腔西调的时候也是因为赶上区块链的那次技术爆发
然后有很多关于数字立法的讨论其实除了外部的数字立法以外咱们还很深入的讨论了说区块链内部会有一些技术性让不同的链本身会有不同的价值取向然后它会有自身的那种数字空间的立法然后会说引导不同的人在不同的链上去开展自己的活动
在这个意义上刚才刘老师所期待的说需要有一个全球性的治理也就意味着在 AD 的环境里面业界需要达成一个共识在您看来如果在可操作的层面上您畅想或者预期的话您觉得在这样一个技术环境里面业界有没有什么途径会有一个共识
能够把这种技术的发展和对于人本的取向能够结合起来我觉得有两个方面一个还是回到刚才刘老师那个问题因为我之前有一次我们开会我画过一个图就是你会发现全球因为刚才你也提到全球最重要的三个地方就是欧盟然后美国跟东亚
其实在全球在三个地方在国家大的公司和个人之间因为我们想其实今天说到所有的问题就是国家公司跟个人三者之间如果三者之间画一个三角形那三个地区在这个三角形里边的那个位置是不一样的
大体上来讲的话美国是公司和个人划到一边就是你在三角形中划一条线美国可以把公司个人划到一边他们共同对抗国家就是你国家不要管你少干涉对吧我们自己的事情我们自己来解决尤其是在社交媒体上是因为受到言论自由嘛那你国家不要管
那欧盟大体上是国家跟个人划到一边他们共同的来对抗大公司就是你不能够侵犯个人的隐私不能够侵犯个人的数据那对于个人有非常严格的保护中国呢或者说东亚呢可能更多的是国家跟公司划到一边各自的站位是不一样的那由此呢就带来第二个问题就是刚才你讲到的就是
那未来的这个治理啊我是觉得欧盟的立法很多人都会去批评他说你欧盟的立法太严格了然后呢根本没办法执行对于整个欧盟的人工智能产业或者说他以前的这个互联网产业是毁灭性的打击
如果从产业的角度来讲或许是我只能说或许是而且现在欧盟的经济这么困难的时候对吧是的但当然也有人会讲是说欧盟即便没有这么严格的立法欧盟也发展不起来因为这个不仅仅是立法只是其中一个方面嘛
但是我是认为说它仍然有一个非常正向的意义就是欧盟的立法包括它围绕立法的所有的讨论实际上是在为整个的这样的一个
数字世界在立法因为它相当于把数字世界整体上以人为核心的以人为本的这样的一个规范提高了就是你无论观念的水平还是这个伦理的水平规则的水平它都给你提高到一个非常高的这样的一个位置这个位置虽然它并不直接的作用于比如中国或者美国的公司但
我们经常会讲一个叫做布鲁塞尔效应就是欧盟的立法会有一个溢出性的效应它会使得这一类的标准间接的影响到美国包括中国的公司比如说对中国的影响对中国影响最典型的就是我们中国最近的几年实际上是在
人工智能领域也好然后数字领域也有大量的立法王兴曼有很多的这个规范这些规范哪里来的其实都是因为欧盟有相应的规范我们也会有相应的这样一个规范那
如果没有欧盟的立法其实我们可能技巧不会这么快这些法律也会因为美国大量的互联网公司都在欧盟有业务他要遵守欧盟的业务他必须达到欧盟的立法的一个要求他会
同样的问题会回传到美国因为对于美国的消费者来讲的话他们会面临同样的问题那你凭什么保护欧盟的人不保护我们对不保护我们对吧那他其实会面临着非常大的一个压力虽然这个监管不是美国政府给到他的但他会面临在同样的这个问题因为在美国的这样的一个市场里各个公司之间比如他们在隐私政策之间是有相互的竞争的因为
你的隐私政策不好对吧比如说苹果说我的隐私政策好那相当于你在这个市场里边的声誉就不好你保护隐私保证不好就是你会发现美国在言论自由上的治理跟他在这一类的技术上的治理是一个逻辑就是他某种同样依靠一社会治理
言论自由也是这样言论自由的话之所以强烈的排斥政府来管它的理由就是说这个言论市场言论本身就是个市场
这个市场上就有各种各样的一个讲法你 A 的讲法不好因为有 B 的讲法可以对冲他那个人还有 C 的讲法对吧因为到底谁的讲法好到底谁的讲法对或者说最终被接受你要在这个市场中去竞争对吧而不是说政府说只能 A 的讲 B 不能够讲所以他认为说这个东西
言论这种东西就是要靠相互的对冲然后才能够知道真相到底是什么其实它的技术治理也是技术治理某种程度上它也是靠相互的对冲你这 open AI 你不是要加速主义吗对吧那伊利亚就出来我要搞一个对齐主义对吧我就要搞一个跟你不一样的这样一个公司然后就会反制你的这样的一个公司就是
它不同程度上也是有不同的价值观的人不同的立场的人那么这个市场会给他们所有的这类的不同的价值观不同立场你同等的一个机会你可以去做你的这个产品
我觉得某种程度上来讲这样的一个相互的竞争实际上也提升了这些公司的基础治理的这样的一个水平其实那些搞加速主义的人也有一个他们的自己的理由他认为说这种东西你只有
跑出來你才能知道有啥問題對吧你這有啥問題才能夠解決啥問題然後最終跑出來的可能是少數的公司但他們反而是有助於這個問題的解決因為你只要解決這兩個公司就可以了如果說是一大堆的公司其實你很難去解決因為你不作惡他會作惡對吧你最後就剩了兩家大公司 OK 大家只要盯住他們只要他們不作惡就可以了
但是批评者会认为说那你一旦就剩你们两个了那你们想作恶谁还能管得住对吧所以当然会是有很多的争论我觉得目前来看来讲的话刚才六二十一讲新顿也有很多的担忧但是似乎
我觉得技术发展似乎是适不合档的尤其是说马上特朗普政府上台为什么硅谷的很多的精英转而去支持他其实寻求的就是一个对于疆管的放松特别是对人工智能疆管的一个放松因为拜登政府后期实际上已经开始推动对人工智能的强疆管包括加州
这些互联网大厂在的地方大家都要推人工智能的这个立法虽然最后被否掉了被州长这个否掉了但实际上也是要加强强监管那这样的话特朗普政府大概率会进一步的放松监管
其实包括对于平台言论的一个监管所以这个可能会是像新顿他们感到担忧的一个也是一个很重要的原因了就是说在人工智能技术最发达的这样的美国反而是监管最松的这样的一个国家这可能确实会带来很多的问题我觉得很短期之内可能也难以解决某种程度上我是
从过往的历史中法律历史中吸取的这个经验
可能有点就像原子弹一样就是说它不造成一场灾难人类很难去立刻达成某一种监管的共识并且去执行下来其实后来对于核能的监管就是因为二战的原子弹爆炸所以之后然后成立国际原子能机构然后有一系列的监管大国之间能够达成共识其实人工智能我想可能也是这样就是不出点问题
之前大家很难下决心要进行监管或许要出了一些问题比如说今年 6 月份美国的一个小孩跟一个聊天的人工智能对话
AI 吧对话之后自杀了对吧那他被告了其实还有一个大家可能不太关注一个小孩也是模仿 TikTok 中的一个视频那个视频是用胶带把自己嘴蒙上看谁憋的时间最长一个窒息的一个视频最后把自己闷死了也被他母亲告到了这个法院最近刚刚发生的说美国的爆炸案是这个人用
去学习如何制造爆炸对吧然后最终这个实施了其实就是可能很现实的很残酷的现实就是只有当一系列的这类问题出现了之后
才会有大家下定决心制定监管规则并且去执行这样的一个规则这些大的公司才有可能有这样的一种紧迫性对吧就是他必须要去解决一系列的问题这可能是一个技术发展过程中我觉得一个非常残酷的一个现实可能也是不得不去接受这个现实
这也是志勇开始谈的你们立法跟灾难史是有关系的对不对就是你要有一些火灾才会有整个的防火措施现在就是 AI 这笔大火全球性的大火
已经看到它势不可挡但是它哪天造成了一个大的火灾就会有更有大家的共识吧有大家有意愿来一起所以也不至于这么灰心无论如何我们提出人本智能这样一个倡议这样一种思考方向还是特别重要的对最后说来的话就是今儿两位老师都会确认说技术发展的潮流其实是不可阻挡的就是我们无法通过
禁止掉这门技术来去避免可能的问题但是这个技术既然如此发展然后现实又如此会有如此的紧迫那更需要一些我们提前预备好一些原则性的预案去准备好就是一旦需要行业有共识需要整个全球有共识的时候我们能够拿得出一个方案来去给这个共识添上它的内容能够知道说要去怎么做
我觉得这个也许是我们在技术大爆炸的时代可能能够做预期的话是一个目前已知的最好的选择方向现在时代每个人的心情我觉得都是兴奋
又不安每个人都是这样哪怕在这个领域特别兴奋同时你又在另外一个技术方面你就会不安所以我觉得是兴奋它是一直会造成因为技术发展它会让人兴奋但是让我们保持在这种不安的状态当中让我们保持警觉保持审慎然后有不断的这样一种原则性的方案然后能够对具体的技术有具体的这种法律措施和实施的
不断的出现这也是某种与时俱进我们只能如此我们人类一直是在尝试纠错当中发展
这一次的冲击很大但是我们能够有的那种精神资源就是保持审慎和警觉对于风险我补充一点就是呃我觉得在这个过程中呃可能这种大的企业呢要作为呃数字世界的立法者呃我我经常会讲这个所谓的大立法大立法者呃
其实一个非常现实的一个原因就在于说主张国家其实没有一个强烈的监管某种程度上来讲是希望人工智能产业能够很好的一个发展但他必须要去考虑一个问题就是一旦你造成了损害他就必须要去进行强监管
其实如果说真到了那个时候出了很多问题主将国家强检管的话他一定是要么不出手一出手肯定会很重
其实最好的状态其实是企业能够在发展的过程之中始终能够去控制这样的一个风险你不造成特别大的一个危害那么主权国家也不会下重手来进行治理其实这是一个特别良性的一个状态其实你想就是就是自律
用自律来避免更强的那种摧毁性的压迫性的那种结果其实就是以自律来取代监管就是差提琵琶刚出来之后其实当时奥特曼在很多的场合中他是最早来提出来说对人工智能进行监管啊
当然我想他背后的这个用意可能有多方面的但是我想他其实让人意识到一个问题就是这个东西如果出了大的娄子捅了大的娄子出了大的东西
政府突然出手的話 Open AI 一定是第一個 槍打出頭鳥其實凡爾是說如果能夠有一些可行的監管措施不至於將來出了大的問題或者即便出了一些問題的話 OK 監管措施已經有了對吧我也是依照這個規則來做的它可能不會遭受一個毀滅性的這樣的一個打擊
在这种意义上来讲我觉得无论是美国还是中国真正的头牌的企业应该从一个立法者的角度来思考这个问题企业要有立法者的自觉你怎么样能够使得这样的一个产业的发展这样的一个技术的发展它始终是安全的可控的是服务于人类的福祉的而不是说最终这个技术本身成了人类的功底企业成了人类的功底
真的哪一天出了大的问题技术或者企业成为人类的工地的时候那个时候可能真的是一个毁灭性的打击所以中国的大的企业在人工智能这个领域里边基本上说可以是全球领先的了因为除了美国的头牌就是中国的了
我觉得在这个时候可能也是中国企业就是说真正的走向国际化走向全球的一个很重要的一个表态就是说你如何在这个过程中承担起来这样的一个责任对规则制定者的责任你看以前更多的是人家美国的企业发布什么样的规范我们去跟着对吧那现在我觉得中国企业其实也可以去讲
来发布这样的一个规范那我们提倡什么样的一个规则其实我们也可以去引领整个的人工智能产业发展未来的这样的一个规则的一个方向就在这次联想在这个参与的这个倡议书人本智能倡议书里边专门有一条第三条吧它是讲加强行业的自律就倡导行业各个利益相关方都要积极参与和制定更负责任的行业标准和规则
这个也是我觉得现在大企业都意识到的一个问题好非常感谢两位老师今天就 AI 技术的发展做了如此深入的讨论我想从我目前看到的内容和听到的节目来看的话深度还没有到两位老师这么深的那本期节目开头也讲了其实黄仁勋和奥特曼在年初已经放了两个大炮了
可以看到今年我想 AI 技术它无论是在应用还是在本身的技术突破上都会可能还会有新的进展我想两位老师可能今年还会有更多的机会来我们东腔西调一起来聊一聊 AI 技术的新突破那非常期待两位老师能够在日后能够再次相聚那这一期也是我们东腔西调在十年的第一期在这里面祝愿大家新春快乐大家
大家十二年快乐祝大家十二年快乐