cover of episode Was the Internet a Horrible Mistake?

Was the Internet a Horrible Mistake?

2021/10/13
logo of podcast Honestly with Bari Weiss

Honestly with Bari Weiss
AI Deep Dive AI Chapters Transcript
People
J
Jaron Lanier
Topics
Jaron Lanier: 我认为互联网算法的操纵性是当前社会面临的主要问题之一。持续不断地操纵每个人都是有害的，这如同在系统的起点就注入了毒药。资本主义作为一种工具，既有其益处，也有其弊端，关键在于如何更好地运用它。普遍基本收入的方案存在政治风险，可能导致权力中心被滥用，最终走向腐败。社会权力分散和身份的多样性对于社会稳定至关重要。普遍基本收入的假设前提是AI是独立的“黑箱”，忽略了人类在AI中的贡献。人们应该因其对AI的贡献而获得报酬。高科技繁荣的未来应该是创造性阶层不断壮大的未来，人们应该因其存在而产生的信息而获得报酬。 Barry Weiss: 与Jaron Lanier的讨论中，我关注到以下几个核心观点：互联网算法的操纵性是问题的核心，而非互联网本身；持续不断地操纵每个人都是有害的；资本主义是一种工具，既有益处也有弊端，关键在于如何更好地运用它；普遍基本收入的方案存在政治风险，可能导致权力中心被滥用；社会权力分散和身份的多样性对于社会稳定至关重要；人们应该因其对AI的贡献而获得报酬；高科技繁荣的未来应该是创造性阶层不断壮大的未来；尽管总体而言世界正在变得更好，但平均值掩盖了某些群体境况的恶化；现代社会的一个特殊问题是许多人持续生活在边缘状态，面临着巨大的压力；人类有能力破坏任何美好的事物，将天堂变成充满压力的环境；气候变化等潜在的生存性挑战使人们始终处于边缘状态；现代社会中，无论贫富，都面临着灾难的边缘，人们难以放松；互联网使信息世界占据主导地位，导致人们的体验变得狭隘；互联网算法的操纵性，而非互联网本身，是导致人们感到焦虑和被困的主要原因；算法操纵导致人们被引导而非探索，使世界变得狭小；互联网本身具有益处，但算法操纵是其主要问题；将当前时代与纳粹政权利用媒体进行宣传进行类比，强调算法操纵的危险性；当前时代面临的危险程度高于以往，因为人类拥有毁灭自身的能力；“数字毛主义”指的是工程师在人与人之间插入算法，从而制造反馈循环，使人们越来越符合算法的预期，最终形成单一现实；硅谷从自由思想转向了技术官僚的思维方式；维基百科的单一文章模式，忽略了多元视角，是算法便利性导致的同质化现象；数字毛主义与毛主义类似，表面上是集体意志，实则由少数精英掌控；大多数社交媒体平台最终都会走向操纵和剥削；中国公司拥有的应用程序存在审查和社会不稳定风险；社交媒体平台易于被用于社会破坏；算法生成的从众行为是当今社会独有的现象；算法操纵使人们的行为更容易符合算法的预期，而反抗则需要付出更多努力；算法操纵导致现实的模糊性，使人们迷失自我；“数据尊严”指的是承认并支付人们对AI的贡献，而非将AI视为独立的“黑箱”；目标是消除算法的隐蔽操纵，而非完全避免操纵；在“数据尊严”模式下，搜索结果将由人工而非算法决定；当前的搜索算法基于集体智慧的错误假设；“数据尊严”模式下，信息将由人工审核，更具多样性和活力；未来科技发展应以人为本，而非单纯的替代；“数据尊严”模式与其他模式的区别在于意识形态，而非技术；单一中心化模式导致结果的同质化和权力分配不均；分散的局部模式更有利于创造中产阶级和社会稳定；中产阶级是社会稳定的基础；“觉醒文化”和富豪阶层的问题根源在于单一筛选机制；中心化筛选机制导致少数赢家和大量失败者，缺乏中间状态；中心化模式放大噪声，最终使噪声成为唯一的声音；经济多样性是保持思想多样性的关键；书籍的低效率是其价值所在，因为它迫使作者表达真实的观点；减少社交媒体的使用有助于保持个体完整性；过度使用社交媒体类似于赌博成瘾；由于算法的全球化，世界各地的情况越来越相似；如今的领导者与以往不同，他们更幼稚和缺乏安全感；社交媒体使社会变得缺乏安全感和虚假；只阅读有真实作者和日期的信息来源；作者本人从未使用过任何社交媒体平台，仍然取得了成功；过度依赖社交媒体可能是多余的；社交媒体正在损害人们的注意力和性格；过度评判他人也会成瘾；推特是世界上最容易上瘾的电子游戏；社交媒体导致社会内部群体互相攻击；推特是公众羞辱最有效的工具；公众羞辱导致广泛的自我审查；自我审查是对追求真理的威胁；作者本人在Usenet时代就注意到了网络言论的负面影响；多样化的商业模式和付费机制有助于减少网络负面行为；网络平台的负面程度与参与者的利益相关性有关；社会制度是防止零和博弈和促进积极互动的重要机制；GitHub是相对积极的网络平台例子；在信息时代重建社会制度是必要的；人们需要能够探索知识的边缘，并与他人分享；探索知识的边缘很重要，但要警惕剥削行为。

Deep Dive

Chapters
Jaron Lanier discusses the dangers of groupthink, digital maoism, and the impact of algorithms on society, emphasizing the need for a fundamental shift in how we structure our relationship with technology.

Shownotes Transcript

Last week, Frances Haugen, the Facebook whistleblower, confirmed what we already felt; that big tech platform’s algorithms are manipulating our sense of reality, and ourselves, and in doing so enriching themselves. 

Jaron Lanier, the technologist, philosopher, and virtual reality pioneer has been warning us about the dangers of the internet for years. Today, a conversation with Jaron, from his home in California, about the dangers of groupthink, digital maoism, ideology sluts, censorship, capitalism, universal basic income, Facebook, robots, billionaires, wokeness and losing yourself in the ambiguity of the internet’s fake reality. 

Can the problems of the Information Age be fixed by more regulation? Or will it take a fundamental shift in how we structure our society, and our relationship to emergent technologies to reclaim our humanity? 

In addition to being an author of the internet, he worked at Atari and Microsoft in the early days, Jaron wrote, ”Ten Arguments for Deleting Your Social Media Accounts Right Now” and “Dawn of the New Everything.” He appeared in the movie “The Social Dilemma.” 

Learn more about your ad choices. Visit megaphone.fm/adchoices)