cover of episode E131|OpenAI动荡始末:两股硅谷势力的角逐与“执剑人”Ilya

E131|OpenAI动荡始末:两股硅谷势力的角逐与“执剑人”Ilya

2023/11/23
logo of podcast 硅谷101

硅谷101

AI Deep Dive AI Chapters Transcript
People
周恒星
泓君
陈茜
陶芳波
Topics
泓君对OpenAI事件的时间线和最终结果进行了梳理,并引出了商业化与AI安全之争的主题。 陶芳波分析了OpenAI内部长期存在的矛盾,指出ChatGPT的发布加剧了追求商业化和坚持研究为中心的派别之间的冲突,并认为GPT-5的突破可能成为导火索。 周恒星分享了在事件发生前两天采访Sam Altman的经历,指出Sam Altman当时状态良好,并未预料到事件的发生,也未在采访中提及对AI安全问题的担忧。 陈茜认为,GPT-5的重大突破及其潜在安全风险是导致内部分裂的关键因素,并指出Sam Altman和Ilya Sutskever在不同场合都暗示了这一事件。 此外,讨论还涉及到OpenAI独特的组织架构、有效利他主义和有效加速主义两种思潮的冲突、Ilya Sutskever提出的“超级对齐”项目、Sam Altman的领导风格、OpenAI董事会成员的背景和立场、以及OpenAI事件对整个AI行业的影响等方面。 陶芳波详细阐述了OpenAI成立八年来经历的三次分裂,以及每次分裂背后的原因和理念冲突。她认为,OpenAI从一开始就存在着商业化与AI安全目标之间的矛盾,而ChatGPT的成功进一步激化了这种矛盾。她还分析了有效利他主义和有效加速主义两种思潮在硅谷的影响,以及这两种思潮如何影响OpenAI的决策。 她特别提到了Ilya Sutskever提出的“超级对齐”项目,认为这是他应对AI安全风险的一种更深层次的思考,并指出过度的商业化可能会导致OpenAI的计算资源被更多地用于服务而非内部研究。 周恒星分享了他对Sam Altman的个人印象,认为Sam Altman真诚、谦逊,但技术方面可能有所欠缺,这可能导致他在管理上与技术大牛产生沟通问题。他还指出,Sam Altman为了融资而做出的承诺,可能导致他更重视发展速度而非安全问题。 陈茜分析了OpenAI事件中不同力量的角力,包括Sam Altman、Ilya Sutskever、董事会、员工和微软等。她认为,GPT-5的重大突破及其潜在安全风险是导致最后决裂的关键因素,并指出Ilya Sutskever 对AI安全问题的担忧日益加剧。她还提到了Ilya Sutskever 对AI未来发展的一些担忧,例如AI与人类关系可能演变成类似于人类与宠物的关系。

Deep Dive

Chapters
讨论OpenAI的权力更迭和内部矛盾,包括Sam Altman被罢免CEO职位的事件,以及OpenAI内部关于商业化和研究为中心的分歧。
  • Sam Altman被OpenAI董事会罢免CEO职位
  • OpenAI内部存在商业化和研究为中心的分歧
  • OpenAI的组织架构和使命引发内部矛盾

Shownotes Transcript

在OpenAI董事会发起的这场“政变”的五天中,OpenAI的权力更迭在不停反转,每一次反转都可以称之为教科书般的公关案例与博弈策略。经历五天的攻防战,最终还是以原CEO Sam Altman的回归且更换董事会成员收尾。 如果要追溯这场矛盾的根源,从ChatGPT的发布开始,内部已经有了不同的声音。而从OpenAI创建到今天,内部也已经经历了三次大的分裂。 OpenAI的组织架构也是商业史上的一次创新,非营利性的组织形态是为了保证让AI安全的发展,而公司架构则是为了AI发展提供必要的资金。但这两种思想如何共存,安全发展AI的度在哪里,硅谷一直有两种声音,这两种声音也存在于OpenAI的董事会中。 这期节目,我们着重从另一个OpenAI的核心人物Ilya Sutskever的视角,也被看作是对这次OpenAI内乱起着最关键作用的一个人,来看看OpenAI这些积累已久的矛盾到底是什么。 另外,感谢VSP投资人培训营项目对本期节目的支持,如果大家对这个项目感兴趣,更多信息可以在这里找到 (https://mp.weixin.qq.com/s/AH5sQaMMtHcrSXxLMnFsNQ),报名链接在这里 (https://forms.gle/wbU1VwD1HAGeNyNi8)。如果大家有任何问题,可以发邮件到[email protected] 咨询详情。本项目每个季度开营一次,报名链接长期有效。 【主播】 泓君,《硅谷101》播客主理人 【嘉宾】 陶芳波,人工智能公司MindOS创始人 周恒星Kevin,英文科技媒体Pandaily创始人 陈茜,《硅谷101》视频主理人 【你将听到】 00:10 VSP训练营 02:34 正片 04:28 截止11月20日晚上OpenAI三次反转时间线梳理 09:56 ChatGPT发布已出现分裂:追求商业化,还是以研究为中心? 12:31 OpenAI成立八年以来的三次决裂 14:43 事发前三天采访Sam Altman,原本打算庆祝ChatGPT一周年 16:04 OpenAI的铁三角:Ilya负责研发、Greg负责技术、Mira负责产品 19:08 OpenAI的两派一直在激烈斗争 21:00 “董事会告诉员工,为了使命哪怕毁灭公司也在所不惜” 23:24 安全问题是如何成为关注焦点的?有效利他主义与有效加速主义两种势力的角逐 25:35 Ilya的超级对齐:对人类文明底层的爱 29:35 Ilya Sutskever PK Sam Altman,谁是OpenAI的灵魂人物 32:41 OpenAI组织的独特之处 34:50 Sam Altman:真诚、做事滴水不漏,但不懂技术 39:52 OpenAI的董事会成员与有效利他主义的关系 43:01 董事会背后千丝万缕的联系:扎克伯格、Open Philanthropy与Anthropic 47:46 三名董事会成员今年突然退出,力量失衡 49:09 有效加速主义与有效利他主义的历史渊源 54:09 “执剑人”Ilya:同样担心AI风险,但不以放弃发展为目标 56:48 OpenAI事件的行业影响 【董事会成员】 【员工董事】 Sam Altman:Open AI前CEO Ilya Sutskever:OpenAI首席科学家 Greg Brockman:OpenAI前董事长兼总裁 【独立董事】 Adam D’Angelo:Quora的联合创始人兼职CEO Tasha McCauley:机器人公司Fellow Robots首席执行官 Helen Toner:乔治城大学安全与新兴技术中心战略总监 【出事前几个月退出的董事】 Reid Hoffman:OpenAI投资人,因投资另外一家AI公司担心利益冲突在今年3月退出。 Will Hurd:前共和党联邦众议员 Shivon Zilis:脑机接口公司Neuralink总监,因马斯克连带关系,紧随其后退出董事会。 【初步新董事会成员】 Bret Taylor:Salesforce前联合首席执行官 Larry Summers:美国前财政部部长 Adam D’Angelo:Quora的联合创始人兼职CEO 【名词解释】 Anthropic 是一家美国的人工智能(AI)初创企业和公益公司,由OpenAI的前成员Dario Amodei和Daniela Amodei在2021年创立。现任CEO为Dario Amodei。 Open Philanthropy 开放慈善事业,是一个研究和赠款基金会,根据有效利他主义的原则发放赠款。它是由GiveWell和Good Ventures自2011年起合作成立的。2021年Holden Karnofsky卸任CEO之后,现在CEO为Alexander Berger。 有效利他主义 英文是Effective Altruism,简称EA,有效利他主义是一个哲学和社会运动,倡导“利用证据和理性来找出如何尽量多地造福他人,并基于此采取行动”。在本期的内容中代表“AI需要仔细缓慢的发展”。 有效加速主义 英文是Effective Accelerationism,简称E/ACC,有效加速主义涉及加速或强化社会或经济中特定过程或趋势,以更快速或更有效地实现期望的结果。在本期的内容中代表“AI需要大胆快速的发展”。 【相关阅读】 《硅谷101》视频 AI保守派大战激进派,我们细扒了OpenAI董事会每一位成员 (https://www.bilibili.com/video/BV1Du4y1L7k3/?share_source=copy_web&vd_source=226de9e23cacb2de23cb9851509e38c0) Sam Altman回归!聊聊“叛变者”的恐惧与信念:OpenAI技术灵魂人物Ilya Sutskever (https://www.bilibili.com/video/BV1Zz4y1c7wv/?share_source=copy_web&vd_source=226de9e23cacb2de23cb9851509e38c0) 【后期】 AMEI 【BGM】 Anticipating a New Day - Stationary Sign Interruption - Craft Case For One Brief Day - Francis Wells 【Shownotes】 Jessica 【在这里找到我们】 公众号:硅谷101 收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客 海外用户:Apple Podcast|Spotify|TuneIn|Google Podcast|Amazon Music 联系我们:[email protected]