Vol.081 从《智人之上》展开 自我修正机制建立的讨论
16:15 Share

大家好,欢迎您收听第 81 期的社区成熟播客,我是公子怡在这一期我想聊一聊尤瓦尔·赫拉利,也就是写《人类简史》那本书的作者的新书《智人之上》赫拉利的书还是那么好读,然后我在前段时间也是读完了他的这本《智人之上》整体的行文非常的流畅

虽然中间从历史的叙述转到对于人工智能的担心的这样一个衔接上有一些声音但是并不影响我们在阅读的过程中的一些乐趣以及从中去提炼出一些动静而且这些深入的见解是从历史的史实层层展开的并且可以拓展到相对宏观的一个思考的一个层面

所以一方面在阅读过程中他可以给我带来一些阅读的乐趣另一方面呢他也会往未来看给我们个人带来一些建议所以我从这篇文章也是从这个地方开始分叉去聊一聊《知恩知上》里面的主要的论点以及它对于我们个人的参考的意义首先第一部分是关于自我修正的机制

《正日之上》的这本书它一个最主要的论点就是人类社会之所以能够持续发展以及科学革命的真正的引擎其实是自我修正机制的建立而不是一刷数我觉得这一点很有趣因为在过去的学习当中我们都非常习惯了这样一套叙述比如说从经济的角度是圈地运动以及大汉时代所形成的整个的一个世界市场

一方面催生了科学革命,而从文化的层面,印刷术给宗教带来了冲击和文化的传播,从而促进了整个科学革命的产生。但是我们要进一步的去严谨的去看史实的话,会发现印刷术的技术只能被看作成一个加速器,但是很难被看成一个科学革命的源头。

举个例子,哥白尼的天体运行论可以被看成是现代科学的一个传统的奠基之作,因为他开始打破地球是宇宙中心的这样一个论调,而且他的发现的确是非常有价值并且惊天动地的。

但是这本书在实际情况是他在 1543 年首次出版而且连首印的时候在 400 册都卖不掉

但是在这之前印刷术已经发明了古登堡印刷机在 1440 年这里相差了其实有 100 年就已经被发明了而且我进一步的去查它的史实都会发现它被发明了之后的很长一段时间都被用来去印刷圣经和赎罪券所以非常有趣的是技术的发展并不能保证科学革命一定出现

而且真正的推动科学革命发展的并不是印刷术或者说它只能作为一个加速剂而也不是完全自由流动的这样一个市场而真正催生科学革命的是人们开始意识到人会犯错并且用一个机制去保证人能够纠正自己的错误

这样一个创新方法的形态的原始就是各种科学学会比如说 1660 年的英国皇家学会和 1666 年成立的法国科学院以及他们所搭配的学术共同体的这样一个评议机制这样一个评议机制保证了真正意义上的实事求是也就是它并不是用叙述的方式比如说我讲一个故事讲一个理念来说服对方

也不是像传统的传媒一样看谁的声量大谁更有曝光量或者说谁的影响力更大或者是用强权的方式来规定一个观点是否正确这样一个评议机制的建立它只是一个方式而这个方式的背后是基于实验验证的而这个实验验证的方式

一方面是用出版是用学术期刊发表的方式去进行扩大另一方面是用同行评议的方式去进行监督

所以它并不会被置入到一个市场当中用市场化的方式去评议比如说多少人愿意购买这篇论文愿意购买这本书而是换了一个游戏规则我们只用去问一个问题这个观点是否是真的证据是否是真的并且实验能否被复现

而且最难能可贵的是自我修正的这样一个机制的建立是

认识并且诚实地承认了这样一个小圈子的人当中诚实地承认了这帮人我们自己会犯错组织也会犯错会堕落会撒谎只有自我修正的一个机制能够持续地保证人在犯错的过程中人组织在犯错的这样一个过程当中能够把自己拉回来

那么说完了人和组织会犯错我们也开始意识到书籍其实也会犯错所以需要用自我修正的机制它其实也比较接近前面提到的这样一个修正的机制但是有一些书因为它和宗教相关比如说圣经 塔莫德等等往往会被信徒认为是绝对正确的从而反而导致了很多错误

赫拉利是这样写道的,大多数犹太人已经忘记了施一群拉比,拉比应该是和牧师类似的角色施一群拉比编转了旧约,大多数基督徒也忘了是教会会议编转了新约,而以为新约本来就是上帝绝对的正确的圣言

穆罕默德甚至这样说过安拉会确保我们这群人永远不会在错误上达成共识但是只要有这样武断的推论或者是有对于书籍的这样一个武断的笃定那么这里其实背后的信息是假设错误不会发生那么有一些事情就导致有些事情无法被讨论

当有一些事情无法被讨论并且被信为永远为真的时候人们会调动自己非常强的把事情合理化的能力以及编故事的能力让这件事看起来的确永远是对的并且有很多事情能够佐证它

但是这背后其实就导致了非常多错误的发生那同样组织也会犯错但是如果组织假设自己不会犯错那么他同样也会付出沉重的代价赫拉利是这样去对比美国和苏联的底层机制的

他认为美国的民主是一种一定程度上具备自我修正机制的这样一个制度但是反观苏联的制度即便有能叫得上来的自我监察的机制比如说秘密警察以及纪委纪检的机制但是它非常脆弱

而且也称不上具有这是一个具有自我修正能力的这样一个组织设计读到这的时候我开始非常好奇它其中的原因那么实际的原因在于监察机制和极简机制本身是没有独立性的而是被上一级统一的进行管辖那么这非常容易出现权力结构内部的这样一个限制或者是随着时间的发展

权力结构内部的监察机制开始失灵那么随着时间的不断的发展和强化组织内部的权威和等级的这样一个结构也限制了多样化意见的表达那么这个时候纪检机制和秘密警察会变成一种内部的监控和惩戒的措施而非真正的修正以及制约的机制

所以我很好奇既然书籍会犯错组织也会犯错并且是我们开始意识到了人和组织都会犯错的时候并且建立了基于修正的科学评议机制之后科学革命才开始发生

那么我的提问是个人如何从中吸纳出一些经验毕竟人确实是非常擅长将观点和事物合理化也非常擅长对外来的意见形成防御的姿态从而将自己封闭起来那么人如何去应对我们自己会犯错这样一个永远无法克服的问题呢

所以最后一点我想讨论的是人会犯错的和应对的方式那么我进一步去思考和调查会发现

首先我们需要承认的是个人的犯错是必然的那么在这个假设下如何借鉴科学评议的修正机制和某些组织的自我修正机制从而让自己持续的去向正向改变是一个我们可以去关注和解决的问题

作者并没有往这个方向讨论而是在往后他开始更多的表达对于人工智能这样一个强大并且具有自我修正机制的这样一个技术形式的担忧的确又有大量数据并且他有大量的我们设计的自我修正的机制在里面自动的在运行仍然能够去进行监督化的去进行改进他的确是一个非常值得关注的问题

除了这个问题我觉得也值得关心的是我们个人如何利用好这样一个修正机制我们可以用几个方面去监督自己和思考来关注自己的自我修正机制的建立我想可以通过四个方面去进行区分和思考觉知分别是动力过程反馈和结果这四个方面

通过这四个方面我们能够去自我的去评判一下我们是到底是在使用修正机制还是在对自己使用秘密警察的这样一个请惩戒的这样一个机制那么首先是动力

动力的区分在于需要我们对自己做出觉察我们是个体的真心的希望去改变一些思维方式还是由于某些原因比如说恐惧而希望去展开行动这里的恐惧可能来自于上级的或者是上级部门的监督外部的压力或者是其他的一些

恐惧的推动而动力占比的区分是一个考量的因素我们到底是真心的期望改变还是我们是被恐惧推着走的第二个区分在于过程

真正的反思和修正的过程其实是愿意推翻自己的观点和结论的这个时候个人的防御机制是不太会开始工作的但是假如我们开始意识到自己的防御机制开始工作了我们可以开始意识到因为

因为毕竟我们在基因当中对于外来的陌生的东西往往第一个反应就是它会带来疾病和争斗

但是与之相对的一个相对更积极的修正方法他会试图积极的推翻现状并且找到其中的错误并且非常乐于的去对于当前的思维框架当前的现状展开质疑这个时候并不是去进行自我的防御而是对于自己的推翻和再建立

第三个的区分方式是进行反馈的区分自我的修正机制的反馈可以接纳不同的立场的反馈和观点那么与之相对的反馈如果是往往来自于权威和上级那么它背后依旧可以被归结为单一化的恐惧的驱动这也会缺乏多样性和对于修正的深度那么最后我们可以通过结果来看

自我修正关注的更多的时候是关注长期的改变和探索而假如是与之相对的假如是我自己的秘密警察那他通常情况下会倾向于快速的修正并且立刻见效目的是短期的期望符合某个标准或者是避免受到惩罚

但是不论是动力过程反馈和结果我们内在的去区分它的动机和它是否有恐惧驱动这里觉知的方式都要比多人的组成的这样一个组织或者是公司它的修正机制的建立难度更大一些

因为集体的修正机制比如说科学共同体的平易机制或者是政治上的三权分立它通常情况下会依赖多元的意见并且这些意见是独立个体所提供的以及多元化的视角的这样一个提供这些不同的参与者能够相互制衡和质疑个人只有

会发现我们个人只有我们自己这样一个参与者这意味着我们个人永远更容易陷入认知的偏差盲点和自我欺骗

所以上面提到的动力过程反馈和结果的区分可以一定程度上给自己带来一些提醒但是自我修正的机制的这样一个建立它依旧有非常多的困难但是读完整篇的《知恩之上》我觉得可以参考的话或者是能够留给我们自己的那么就是诚实的承认我会犯错

好的,非常感谢您收听第 81 期的摄影场所播客,我们下次再见。