甘之如饴的“算法陷阱”？这不是我要的自由！
24:49 Share

哈喽大家好，这里是青春不败。我是苦于刷手机的学姐小李，为啥说是苦于。那是因为我起床第一眼就得看看手机，吃饭也得找下饭视频，上厕所更得刷了又刷。日常生活更是离不开甚至依赖微信和各种功能的软件。自己也知道不对，可就是改不了。使用智能手机的各种软件仿佛已经嵌套进自己的生活方式里了。 偶然间刷到了一个博主讨论美国资本主义引导下的政治正确，他视频里的评论里推荐了一部纪录片。引起了我的注意，看完后更是让我直呼放下手机，使人后背发凉。今天就来聊聊《监视资本主义：智能陷阱》这部纪录片和背后的算法“陷阱”吧~ 《监视资本主义：智能陷阱》是由杰夫·奥洛威斯基执导的纪录电影，于2020年在美国上映。该片以社交媒体为切入点，讲述了在牟利这个唯一目标的驱使下，网络科技正在对人类个体、社会，乃至人类文明造成的负面影响。 Facebook、Google和YouTube已经成为人们日常生活的一部分。很多用户担心自己的数据会被科技公司作为商品出售，以获取利益，但实际上，像脸书等科技公司的商业兴趣并非是卖掉这些数据，而是通过这些数据做出预判人们行为的模式。Netflix请来Facebook前业务拓展总监、点赞按钮设计师、图钉网前总裁、谷歌前设计伦理学家以及推特工程副总裁等互联网科技公司的从业者，为人们展现互联网企业、注意力经济模式，乃至更为宏观的监视资本主义机制，如何通过大数据技术对用户进行个性化定制的内容精准投放，从而使用户逐渐对社交媒体产生病态的依赖心理，侵蚀个体的自由选择权，并最终在用户之间营造出信息茧房，进而威胁到整个现代社会的协商民主机制。 该片是杰夫·奥洛威斯基执导的第三部纪录长片。奥洛威斯基是斯坦福大学的毕业生，他认为这部纪录片是以硅谷“内部人士”的视角所呈现的。该片中除了纪实的拍摄和采访，还嵌套了一部“小电影”，它根据影片的主题打造，随着非虚构叙事的深入而展开相应情节的虚构叙事，讲述了男孩本和他的家人面临的“社交困境” 。 像百度百科如上介绍的一样，本篇主要探讨的就是世界上最富有的互联网公司toxic的商业模式，将带给人类毁灭性的“灾难”。邀请了很多大厂的前员工和互联网从业者，探讨利益至上的“算法”背后的伦理道德危机。另外在纪录片中，嵌套的电影非常直观且形象的体现了每个困在算法“牢笼”中的用户。 1. 被资本裹挟的每个人开场的一句话就震撼了我： “20个美国加州白人程序员，能控制全球20亿人。” 在脸书之类的网站设立的时候可能也就几个人，但如今脸书的触手已遍及全球。20个人研究的算法，可以通过互联网轻易地发布到任何人都可接触到的地方。即便你不用脸书、Snapchat、油管，你也逃不过。如今手机上任何软件，都带着最基本的推送算法。小到你的手机软件应用市场，多到你常刷的视频软件、常买的购物软件。 即便你不使用它们，它们也会想方设法渗透进入你的社交圈让你使用。工作总得联系吧，不论是邮箱还是钉钉。拍照总得美个图吧，太美了以至于光自己欣赏有些可惜，这不得发到朋友圈好好秀秀同事偶然间谈论起来某个剧，可惜电视上没有只能去视频网站上看，看都看了顺便充个会员吧。朋友脱单了，据说还是从某个相亲APP上认识的，感觉还挺靠谱自己也下一个吧 相当于现在的人，“无一幸免”的都被互联网“粘连”、“拉扯”。 这些软件背后的资本，尽数参透了人类社会关系和心理需求。创造出来的产品，即便捷又好用。甚至应用市场下载排行榜上的热门APP，用户使用都不需要付费。 小李也是，头一次为APP付费还是买了绘图APP以及记笔记的APP。当时小李见识短浅，除了电脑上正版软件的付费外，还没见过付费的APP。也就可见，那个时候中国APP抢占市场的套路——免费。我甚至还好奇，在这个APP爆发的时代，竟然还有卖几十块钱的。 后来意识到这些没付费的APP里面大多都被应用市场标记了，“产品内付费”的小字样。我也终于切身体会到买断制的重要性，毕竟钱包一旦为氪金制开了口就很难收回了。这样让我想了很多，虽然买断制有一定门槛，但对比于动不动就产生隐形消费的氪金制还是对用户友好的。 “如果是个工具，就会有耐心的呆在那里，没有什么争议。（例如自行车）” 买断制的APP大多都是“自行车”，虽然经过使用也会有破损，需要修补。氪金制的APP很像“汽车”，不仅使用时需要能源，还可以凭借你的金钱升级或装饰。 后来见的东西多了，就看到了很多不同的“选择”。有的游戏制作成买断制的，有的游戏制作成氪金制的。有的工具软件类似PS一口气买断，有的工具软件类似可画需要氪金购买功能。这些我都能理解，毕竟我的钱花在了“我看得见”的地方，获得了“实在”的服务。 这时我就有疑问了，不收钱的怎么活呢？他不从用户这里收钱，它怎么“活”下去呢？生活、工作好像都离不开这些产品，但“天上”会有掉馅饼的事情吗？ “如果你没有为产品付费，那么你就是被出售的商品。” 说的好！天上即使有掉“馅饼”的事儿，怎么又会平均摊到每一个用户的“脑袋”上呢？不仅这不是好事，还可能是笼罩在我们用户头顶垂下来的“操纵线”，慢慢洗脑我们成为一个个待价而沽的“商品”。 它们用“免费”的幌子吸引着一个又一个用户，充当自己商业化的“资源”，将用户的隐私、生活习惯全数摆在广告商面前，等待他们的注资。这些资金又会“诱惑”更多的用户，出售给更多的广告商。 “千人千面”的广告，“看人下菜碟”的定价，来源不明的推销电话和掌握你购买信息的诈骗消息充斥着用户的实际生活。但是现在除了这些常常讨论的隐私泄漏问题外，现在最令人害怕的是，这些利益至上的公司究竟能猖狂到什么地步？ “公司的三个目标：参与度目标，增长目标，广告目标。” 互联网的世界竞争异常激烈，一些商机如果你先抓住，就抢占了巨大的市场潜力。为了更好的生存和发展，他们大多数的目标就是这三个。并且为了实现这些目标他们无所不用其极。 “增长黑客。” 这些互联网公司，不仅提升着算法模型的技术，也在研究着人类心理。而且为了保持强大的竞争力，他们不得不更加了解他们的用户。甚至因此产生很多教你增长的教学产业，而其中大多数也是从用户心理到行为通通剖析研究个遍，帮助他们迅速迭代高质量的产品。 2. 自以为聪明的我们如今这个互联网时代，虚拟的你和现实的你界限越来越不清晰。 披上互联网的“马甲”，我们可以自由的冲浪。看到那些有刷屏或者频繁给你发营销短信的APP，我们可以自由的删除或拉黑消息。看似我们掌握了我们手机的使用权，但究竟是这样的吗？ “让你人生的多少时间贡献给这些产品，是他们考虑的。” 不论你是否同意，所有让人欲罢不能的产品都是被要求这么设计的。为了疯狂提升市场占有欲，它可以给你发补贴券、发钱，在你获得了实惠的同时，竟也获得了现实生活中的方便。在你慨叹时代已经越来越方便、经济的时候，不知不觉你“离不开”它了。 即使你通过一两次的使用已经不需要或厌倦它了——为了让你“留下” ，它也表现得非常“绿茶”。 “哥哥姐姐，我还有什么做的不好的地方，我立马改！我可不像其他应用那样对待我最喜欢的哥哥姐姐的......” “他们掌握了史无前例的数据量——以便于预测你的下一步。” “相信哥哥姐姐不会仔细看隐私条文，就会为了继续使用而点击‘同意’的。” 通过互联网大量的数据经过清洗后，足够训练好用的算法模型。每个人的模型将经过公司训练、用户训练以及你的使用训练，越来越清楚你的“喜好”。 推送给你会感兴趣的一切，你想要什么它就能“变成”什么。再给你点甜头，说两句好话一哄——啧啧，思考了一下。好像你也没有那么想“离开”。 甚至，常驻也挺好。毕竟张开嘴就能吃到别人做好的饭，真“幸福”！ **他们推送给你的内容，有的并不能推送给你观点相悖人那里。**增加了两极分化的情况，双方都难以理解对方的思维。 “利用这些，社交媒体轻而易举的改变，甚至你都没有意识。（例如操纵选票）” 社交媒体通过你常浏览的新闻或帖子，捕获了你的政治倾向，算法模型将你轻松归类于某一党派。慢慢的你收到的推荐，都是这个党派的宣传和另一党派的黑料。 “哥哥姐姐，你看你们这个党派竞选者的美闻真多，ta的支持者有很多人啊！不像另一个党派竞选者黑料频发，ta的无脑支持者干的都是什么激进行为啊？” 久而久之，你不仅会成为这个党派忠实的支持者，还会就对面党派的脑残行为“口吐芬芳”。 你或许都不记得，当时只是以“看热闹”的心态多刷了几个帖子而已......不过这好像都不重要了吧，周围人好像也都不再关心他们因何激动和愤怒。 不过，这究竟是你自己想成为这样的人吗？还是社交媒体将你贴上了标签，自顾自塑形了自我呢？ “它们能改变你的思考和行为方式，将世界往它们希望的方向改变1%。” 就像纪录片里说的，亿万富翁通过正规渠道就可以消灭一个国家。 在社交媒体上，发布分裂、极端的帖文，通过正规渠道加大曝光量。越来越多的人变得固执、极端，在国家内部引发对立和内乱。而所谓的“始作俑者”在自己的豪华宫殿中“坐山观虎斗”，刷着手机、品着高档酒，欣赏着自己通过一点点成本带来的“惊人壮举”。 所谓的正规渠道，大家好像都触手可及。如果你是个抖音主播，你可从官方渠道明码标价的购买dou+去增加曝光量。几十块到几百块的成本，因增加曝光量而带来的连锁反应无可估量。 这是一场没有硝烟的“战争”，而引发这场或大或小“战争”的成本可以很小。 “优秀的判断力需要建立在很多的数据之上，你才能判断理性。” 自以为聪明的我们，认为只要我刷我感兴趣的，将算法训练的越来越懂我就可以了。毕竟我们自认为是高知的、有判断力的、客观的，那么推送给我的也应该是如此。 一方面，这种正中你取向的推荐，将会让你“上瘾”。人本身就是社会关系复杂并本能追求认同的群居动物，在互联网上你能轻松的接触一堆与你兴趣相同的人和事物。在这种情况下，我们下意识的沉浸于这种认同感和兴趣带来的快感里，无法自拔。 另一方面，我们容易陷入“信息茧房”的困境。很难接受与自己逻辑相悖的理论，也懒得去自己寻找信息，乐于接受算法的“投喂”——成为“井底之蛙”。难以看到眼前这片天和井里的自己，却全然不知这片小天地外的世界和自己的潜力。这更是另一个层面的，主动放弃“自由”！ 信息茧房是指人们的信息获取会习惯性地被兴趣引导，从而将自己束缚于像蚕茧一样的茧房之中。 他们在控制我们能看什么，而不是我们控制。千方百计的盗取我们的时间，但表面上营造出来的我们仍像个古代的帝王可以随便翻这些软件牌子，自由处置我们的时间。 纪录片中举例：在不同的地区，不同的人搜索“气候变暖”，会出现非常不一致的情况。有的词条显示“气候变暖是个骗局”，有的显示“气候变暖破坏了生态平衡”。究竟你想看到什么词条呢？假如新华字典开始个性化的改变词条定义，每个人看到的内容都是不同的。这就是这些社交媒体“个性化”的推送。 但连我们最基本的信息都无法收集完全，我们又怎么能够做到“聪明”呢？ 看到某个热点事件，便会按照内容发布者的意图理解，急于在评论区开麦狂喷、“各抒己见”，可是后续发酵的多重反转下，事实早已不是最初的样子。 “他们不会像儿童心理学家一样对待你的孩子，他们只是会更新算法，让算法继续推送他们想推送的东西。 各种点赞、爱心，短期让你感受到被认可和关注，他们让这些融入价值观。一旦失去这种短暂的认可、关注，就会陷入无限的空虚。 有研究表明，Z世代成长在社交媒体崭露头角的时候，青少年尤其是女孩抑郁和自杀倾向都显著升高。 让我们处理自己情绪的时候更加难了，遇到失落、悲伤、消极的情况，我们有自己的数字安慰品。” 油管等多家视频平台，推出了儿童频道。各类游戏、社交软件也都推出了青少年模式。但这些公司并不能以基本的道德约束自己公司继续敛财，所以各位用户一定要意识到，不能够将自己孩子的教育完全托付于一个以收益为主的商业模式。 尤其是在青少年心理未发展成熟时，过早的接触社交媒体，对他们的成长有着一定的危害。如果对这方面感兴趣，可以了解一下另一本书《娇惯的心灵》。之前我也有过分享，欢迎查看。 不光是青少年，在互联网上冲浪的成年人也容易因此产生非常多困扰。一句评价就可能“一石激起千层浪”引发全网热议，更别提那些超乎个人能承受的诸多恶评了。另外社交媒体还容易利用人每个阶段最常见的焦虑去制造热点：学生就是成绩；成年人就是职场和权钱；健康的人就是生病......看到这些热点，是个人或多或少都会受到影响而诱发负面情绪。 而在这种环境中，自我调节情绪的能力也会有所减弱。几十年前的社会，如果周围邻居嚼舌根，你也就消化这几个人的负能量。但现在轻而易举就能收集到全网的“问候”，无形中给自我情绪调节带来无限的压力。 3.如何“破局”“人类生理结构在一定程度上较难再改变了，但技术确实指数级发展变化的，让我们适应技术爆发式的增长，就是超负荷的。” 纪录片和我的立场，均不是要求大家与这些互联网产品“割席”。 而是警醒大家，我们在适应技术发展的时候，要时刻保留辩证观念，并勇于发声。意识到这些缺德的商业模式有害时，我们应该及时去提出我们正当、合理的诉求。而不是一味地牺牲自己的隐私和利益，去为了使用产品而忍耐。如果越来越多人忍耐，我们将更难发出自己反对的声音。 “如果技术创造了社会的无序、疏远、极端、对立、混乱，社会出了问题。我们很难说技术就是错误的，但不受监管和肆意妄为的商业模式确实能带来不好的影响。甚至造成人类的自取灭亡。” 一、针对上述情况，缺少针对性的立法。 “不能指望一个利益至上的公司能对人类的未来负责，连我们自己都难。” 互联网发展是迅猛的，但相关立法却是滞后的。用户的隐私、权利需要合理、有效的立法保护。 二、我们这样的人类可以选择自己想要的产品和内容，至少我们还可以选择。 纷繁复杂的应用市场，好在没有任何产品完全垄断。我们大多都可按照实际需求，选择那个更适合你的使用。 小李推荐的几个维度，供大家参考： 1. 使用成本。 成本包含价格，产品内某些功能的隐含代价（内部充值或广告）。用一个你认为可控的成本，去实现它最核心的功能。 2. 使用场景和频率。 如果是工作时使用，建议选择最专业和功能强大的。以应对客户展示环境或高频率的工作使用。切勿贪小便宜，吃大亏。 三、如果你没意识到自己在“矩阵”，你又怎么从“矩阵”中醒来。 保持一个开放的心态，不做“二极管”。 不让自己的情绪轻易被外界煽动，保持冷静，建议收集全方面的信息和数据，有自己的判断。这时你才能理性选择吃下“红蓝药丸”！ 只有意识到自己具有主观能动性，你才足够“自由”。 如果大家感兴趣，请多多支持并留下你的想法，我们可以继续讨论，我期待不同的声音下一期我准备分享一下《效应：舆论传播的100个定律》这本书的读书感悟。书中探讨了很多我们常听到的名词，如“信息茧房”、“十万用户定律”、“现象级产品”等等。下次遇到有争议的新闻，我们也可以站在上帝视角，更客观的看待了。“让子弹在飞一会儿” 期待下次与你相会，再见~