#37 Sam Altman GPT5. Sora. 马斯克. Ilya. AGI | From Lex #419
01:42:56 Share

👋** 来互动**

• **🫸 **Flow_第三浪 @Linktree )
• 🫸 Flow_第三浪 @即刻)
• 🫸 Flow_第三浪 @X | Twitter)
• 🫸 Flow_第三浪 @豆瓣)

🕵️ 英文原声 & 节目频道

• Sam Altman: OpenAI, GPT-5, Sora, Board Saga, Elon Musk, Ilya, Power & AGI | Lex Fridman Podcast #419)
• Lex Fridman)

🎸 背景音乐

• Moonlight - Red Dead Redemption 2)
• That's The Way It Is - Red Dead Redemption 2)

👫🏽 本期对谈人 & 发言人

• Sam Altman: OpenAI的CEO，曾参与推出GPT-4、ChatGPT等产品，对人工智能发展有深刻见解。
• Lex Fridman: 播客主持人，与Sam Altman进行了深入对话，探讨了人工智能的未来和相关议题。

📝 目录

• OpenAI 董事会传奇
• Ilya Sutskever
• Elon Musk 诉讼
• Sora
• GPT-4
• 记忆与隐私
• Q*
• GPT-5
• 7万亿美元的计算
• 谷歌和Gemini
• 跃升至GPT-5
• AGI
• 外星人

💁🏻 本期（不完全）提及人物 & 事物

• Brett: 未详细说明，可能是OpenAI董事会成员或相关人物。
• Larry Summers: 前美国财政部长，经济学家，被提及为OpenAI新董事会成员之一。
• Mira Murati: OpenAI的成员，Sam Altman对她的评价很高。
• Ilya Sutskever: OpenAI的联合创始人之一，对AGI及其安全问题有深入思考。
• Elon Musk: 特斯拉和SpaceX的CEO，曾是OpenAI的合作者，与Sam Altman有复杂的关系。

✂️

• 人工通用智能（AGI）: 指的是能够执行任何智能生物能够执行的智能行为的机器。
• GPT-4和ChatGPT: OpenAI开发的先进语言模型，能够进行自然语言处理和生成。
• 核聚变: 一种能源产生方式，通过原子核的融合释放能量，被认为是未来清洁能源的潜在来源。
• Sora: OpenAI开发的产品，能够生成模拟世界的三维图像。
• 费米悖论: 一个关于地外文明存在的科学问题，即如果宇宙中存在大量文明，为何我们还没有发现他们。
• RLHF: 技术利用人类的偏好作为奖励信号来微调模型，这使得 OpenAI 能够解决复杂且主观，并且无法被简单的自动度量指标所捕获的安全性和偏好对齐问题。 在InstructGPT的训练中，OpenAI 首先在提交给 API 的提示上收集的人工编写的演示数据集，然后用它来训练监督学习的基线。 接下来，在更大的 API 提示集上收集两个模型输出之间的人工标记的比较数据集。然后，在此数据集上训练奖励模型（RM，Reward Model），以预测 labelers 更偏爱哪一种输出。最后，使用 RM 作为奖励函数，并通过 PPO 算法微调 GPT-3 策略来最大化这个奖励。