张
张小珺
活跃在人工intelligence和大模型领域的播客主持人和专家，通过《全球大模型季报》和《商业访谈录》分享行业深入分析和预测。
李
李志飞
李志飞认为，当前大模型创业者普遍焦虑，担心被颠覆。他建议大部分人，包括一些行业大佬，都不要盲目进入大模型领域，因为其技术壁垒和商业化前景远比想象中复杂。他认为，中国诞生与OpenAI类似的组织的可能性较低，因为这需要巨大的资源投入和长期坚持。李志飞认为，ChatGPT的成功主要源于其通用性，即一个模型可以完成多种任务，这与以往的AI系统有本质区别。他解释了ChatGPT的自监督学习机制，以及OpenAI成功背后的原因，包括其对AGI的坚持、产品驱动的迭代模式以及团队协作等。他认为大模型的壁垒很高，包括算力、模型结构、数据收集和清洗以及实验周期等方面。他还分析了Google和微软在AI领域的策略，以及中国大模型创业的现状和未来趋势。他认为，大模型的难度取决于目标，如果目标不是探索能力天花板，难度会大幅降低。他认为，与其高举高打，不如专注于具体的应用场景和商业模式。
张小珺梳理了李志飞对大模型看法在一个月内的转变，从最初想做"中国OpenAI"到认为"大概率不存在"。她与李志飞探讨了ChatGPT的技术革新、自监督学习机制、OpenAI的成功因素以及大模型的壁垒等问题。她还探讨了大模型时代对各行各业的影响，以及未来可能出现的新的硬件和软件入口。她与李志飞回顾了过去十年AI创业的经验教训，并展望了未来大模型创业的趋势。
Deep Dive
The speaker shares their journey into natural language processing (NLP), starting from their PhD in computer networks at Johns Hopkins University. Their initial curiosity stemmed from the uncertainty and probability involved in NLP, contrasting with the deterministic nature of computer networks. The potential of AI to create new worlds and interact in human-like ways further fueled their interest.
- Initial PhD focus was on computer networks.
- Switched to NLP due to its probabilistic nature and potential.
- AI's capacity to create new worlds and interact humanely was a key motivator.
Shownotes Transcript
中国大模型经历了短暂沸腾后，一部分人骤然冷静下来。在过去1个月，行业已悄然分化。前Google科学家、出门问问创始人兼CEO李志飞就是其中之一。
1个月前，他率先声称要做“中国OpenAI”，但现在，他却说：“中国是不是存在一个跟OpenAI一样的这种组织？我觉得大概率不存在。”他还希望劝大部分人不要去做大模型，包括大佬们。
我很好奇，这中间到底发生了什么？为什么他的想法变化这么大？据我了解，他的变化不是这波大模型创业者的孤例。
- 01:47 我怎么走上自然语言处理（NLP）这条路
- 07:25 NLP的关键技术迭代
- 10:45 ChatGPT这次最大不同是：大一统的模型
- 14:00 “自监督”而不是标注数据
- 16:00 我的硅谷见闻实录：春节后立马去美国，带着三个问题四处找人聊
- （1. 技术原理，2. 为什么是OpenAI而不是Google？3. 壁垒有多高）
- 22:40 Google组织形态是潜在问题
- 24:03 微软研究院所在感低，这是能和OpenAI协作的原因之一
- 25:49 和王慧文的晚餐
- 26:53 过去1个多月，我的想法有很大改变
- 34:58 有没有像OpenAI这样探索人类天花板的大模型？不一定
- 35:55 大模型给人类带来什么
- 41:45 “我会不会miss这波机会？”
- 43:36 上一代AI公司和这一代AI公司各有各的痛苦，中国未来会有50家+大模型
- 46:06 创业路途艰难、性格大变
- 01:00:37 创业的真相褪去了我的狂妄
- 01:03:42 我想劝一些人不要做通用大模型
- 01:06:23 张一鸣自己看论文
推荐我的新文章：《陆奇的大模型世界观》)
【更多信息】
联络我们：微博@张小珺-Benita)
